Message de Gate News, 20 avril — L’(IMDA) (Infocomm Media Development Authority) de Singapour et Enterprise Singapore ont proposé une nouvelle norme internationale pour tester les systèmes d’IA générative. La proposition sera présentée lors d’une réunion de l’ISO à Singapour, la première de ce type organisée en ASEAN, réunissant plus de 35 organismes nationaux et 250 experts en IA.

L’initiative s’appuie sur les efforts antérieurs de Singapour en matière de tests d’IA, notamment l’outil AI Verify et une trousse de démarrage pour les applications de grands modèles de langage. La AI Verify Foundation, une organisation soutenue par Singapour dont les membres de premier plan incluent l’IMDA, Google, Microsoft et IBM, a développé des outils open source pour les tests et la gouvernance de l’IA. Ses offres incluent la boîte à outils AI Verify pour les tests de gouvernance et Project Moonshot, qui combine la mise en référence (benchmarking) avec des méthodologies de red teaming.

La norme proposée est conçue pour compléter l’ISO/IEC 42001, la norme internationale pour les systèmes de management de l’IA. Elle pourrait contribuer à définir des exigences techniques pour la conformité à des réglementations telles que l’AI Act de l’Union européenne et la proposition californienne SB-53 sur la sécurité et la supervision de l’IA. Le cadre couvre des caractéristiques de qualité incluant la sécurité et emploie des méthodes telles que le red teaming pour les systèmes génératifs texte-à-texte basés sur des prompts. Ce développement pourrait élargir le marché des services d’assurance de l’IA, en permettant à des cabinets spécialisés d’aider les organisations à respecter les références mondiales émergentes.

Afficher la source

Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.