Singapura propõe uma nova norma global para testar sistemas de IA generativa

Mensagem do Gate News, 20 de abril — A (IMDA) de Singapura, a Autoridade de Desenvolvimento da Media e Infocomm, e a Enterprise Singapore propuseram uma nova norma internacional para testar sistemas de IA generativa. A proposta será apresentada numa reunião da ISO em Singapura, a primeira desse tipo realizada na ASEAN, reunindo mais de 35 organismos nacionais e 250 especialistas em IA.

A iniciativa baseia-se nos esforços anteriores de Singapura para testes de IA, incluindo a ferramenta AI Verify e um kit de arranque para aplicações de grandes modelos de linguagem. A AI Verify Foundation, uma organização apoiada por Singapura com membros de topo, incluindo IMDA, Google, Microsoft e IBM, desenvolveu ferramentas de código aberto para testes e governação de IA. As suas ofertas incluem a ferramenta AI Verify para testes de governação e o Project Moonshot, que combina benchmarking com metodologias de red teaming.

A norma proposta foi concebida para complementar a ISO/IEC 42001, a norma internacional para sistemas de gestão de IA. Poderá ajudar a definir requisitos técnicos para conformidade com regulamentações como a Lei da IA (AI Act) da União Europeia e a proposta SB-53 da Califórnia sobre segurança e supervisão da IA. O enquadramento abrange atributos de qualidade, incluindo segurança, e emprega métodos como red teaming para sistemas de IA generativa texto-para-texto baseados em prompts. Este desenvolvimento poderá expandir o mercado para serviços de garantia de IA, permitindo que empresas especialistas ajudem as organizações a cumprir referências globais emergentes.