Singapore Đề Xuất Tiêu Chuẩn Toàn Cầu Mới Để Thử Nghiệm Các Hệ Thống AI Tạo Sinh

Tin nhắn Gate News, ngày 20 tháng 4 — Cơ quan Phát triển Truyền thông và Truyền thông Thông tin (IMDA) Singapore và Enterprise Singapore đã đề xuất một tiêu chuẩn quốc tế mới để thử nghiệm các hệ thống AI tạo sinh. Đề xuất sẽ được trình bày tại một cuộc họp ISO ở Singapore, cuộc họp như vậy đầu tiên được tổ chức tại ASEAN, quy tụ hơn 35 cơ quan cấp quốc gia và 250 chuyên gia AI.

Sáng kiến này dựa trên các nỗ lực thử nghiệm AI trước đó của Singapore, bao gồm bộ công cụ AI Verify và bộ khởi động cho các ứng dụng mô hình ngôn ngữ lớn. AI Verify Foundation, một tổ chức được hậu thuẫn từ Singapore với các thành viên hàng đầu bao gồm IMDA, Google, Microsoft và IBM, đã phát triển các công cụ mã nguồn mở cho thử nghiệm AI và quản trị. Các sản phẩm của tổ chức bao gồm bộ công cụ AI Verify cho thử nghiệm quản trị và Project Moonshot, kết hợp đo điểm chuẩn với các phương pháp red teaming.

Tiêu chuẩn được đề xuất được thiết kế để bổ sung cho ISO/IEC 42001, tiêu chuẩn quốc tế về hệ thống quản lý AI. Nó có thể giúp xác định các yêu cầu kỹ thuật để tuân thủ các quy định như Đạo luật AI của Liên minh châu Âu và dự luật SB-53 của bang California về an toàn và giám sát AI. Khung này bao gồm các thuộc tính chất lượng như an toàn và sử dụng các phương pháp như red teaming cho các hệ thống AI tạo sinh văn bản-đến-văn bản dựa trên prompt. Phát triển này có thể mở rộng thị trường cho các dịch vụ đảm bảo AI, cho phép các công ty chuyên biệt giúp các tổ chức đáp ứng các chuẩn mực toàn cầu đang nổi lên.