Singapur propone un nuevo estándar global para probar sistemas de IA generativa

Mensaje de Gate News, 20 de abril — La (IMDA) de la Autoridad de Desarrollo de Medios de Comunicación e Informática de Singapur y Enterprise Singapore han propuesto un nuevo estándar internacional para probar sistemas de IA generativa. La propuesta se presentará en una reunión de la ISO en Singapur, la primera de este tipo celebrada en ASEAN, reuniendo a más de 35 organismos nacionales y 250 expertos en IA.

La iniciativa se basa en los esfuerzos anteriores de Singapur en materia de pruebas de IA, incluido el kit de herramientas AI Verify y un kit inicial para aplicaciones de modelos de lenguaje a gran escala. La AI Verify Foundation, una organización respaldada por Singapur con miembros principales que incluyen IMDA, Google, Microsoft e IBM, ha desarrollado herramientas de código abierto para pruebas y gobernanza de IA. Sus ofertas incluyen el kit de herramientas AI Verify para pruebas de gobernanza y Project Moonshot, que combina la evaluación comparativa con metodologías de red teaming.

El estándar propuesto está diseñado para complementar la ISO/IEC 42001, el estándar internacional para sistemas de gestión de IA. Podría ayudar a definir requisitos técnicos para el cumplimiento de regulaciones como la Ley de IA (AI Act) de la Unión Europea y la propuesta SB-53 de California sobre seguridad y supervisión de la IA. El marco abarca características de calidad como la seguridad y emplea métodos como el red teaming para sistemas generativos de texto a texto basados en prompts. Este desarrollo podría ampliar el mercado de servicios de aseguramiento de la IA, permitiendo que firmas especializadas ayuden a las organizaciones a cumplir con los nuevos puntos de referencia globales.