Singapura Propõe Novo Padrão Global para Testar Sistemas de IA Generativa

Mensagem do Gate News, 20 de abril — A (IMDA) (Infocomm Media Development Authority) de Singapura e a Enterprise Singapore propuseram um novo padrão internacional para testar sistemas de IA generativa. A proposta será apresentada em uma reunião da ISO em Singapura, a primeira desse tipo realizada na ASEAN, reunindo mais de 35 órgãos nacionais e 250 especialistas em IA.

A iniciativa se baseia nos esforços anteriores de Singapura para testes de IA, incluindo o kit de ferramentas AI Verify e um kit inicial para aplicações de modelos de linguagem. A AI Verify Foundation, uma organização apoiada por Singapura com membros de destaque, incluindo IMDA, Google, Microsoft e IBM, desenvolveu ferramentas de código aberto para testes e governança de IA. Entre suas ofertas estão o kit de ferramentas AI Verify para testes de governança e o Project Moonshot, que combina benchmarking com metodologias de red teaming.

O padrão proposto foi concebido para complementar a ISO/IEC 42001, o padrão internacional para sistemas de gestão de IA. Ele pode ajudar a definir requisitos técnicos para a conformidade com regulamentações como o AI Act da União Europeia e a proposta SB-53 da Califórnia sobre segurança e supervisão de IA. A estrutura abrange características de qualidade, incluindo segurança, e emprega métodos como red teaming para sistemas generativos de texto para texto baseados em prompts. Esse desenvolvimento pode ampliar o mercado de serviços de garantia de IA, permitindo que empresas especializadas ajudem organizações a atender benchmarks globais emergentes.