สิงคโปร์เสนอมาตรฐานระดับโลกใหม่สำหรับการทดสอบระบบ AI เชิงสร้างสรรค์

ข้อความ Gate News, 20 เมษายน — หน่วยงาน Infocomm Media Development Authority (IMDA) ของสิงคโปร์ และ Enterprise Singapore ได้เสนอมาตรฐานสากลใหม่สำหรับการทดสอบระบบ AI เชิงสร้างสรรค์ (generative AI) ข้อเสนอนี้จะนำเสนอในการประชุมของ ISO ที่สิงคโปร์ ซึ่งเป็นการประชุมดังกล่าวครั้งแรกที่จัดขึ้นในอาเซียน โดยจะรวบรวมหน่วยงานระดับชาติไว้มากกว่า 35 แห่ง และผู้เชี่ยวชาญด้าน AI จำนวน 250 คน

ความริเริ่มนี้ต่อยอดจากความพยายามด้านการทดสอบ AI ในช่วงก่อนหน้าของสิงคโปร์ รวมถึงชุดเครื่องมือ AI Verify และชุดเริ่มต้นสำหรับแอปพลิเคชันของโมเดลภาษาขนาดใหญ่ มูลนิธิ AI Verify ซึ่งเป็นองค์กรที่ได้รับการสนับสนุนจากสิงคโปร์ และมีสมาชิกชั้นนำอย่าง IMDA, Google, Microsoft และ IBM ได้พัฒนาเครื่องมือแบบโอเพนซอร์สสำหรับการทดสอบและการกำกับดูแล AI โดยข้อเสนอขององค์กรประกอบด้วยชุดเครื่องมือ AI Verify สำหรับการทดสอบด้านการกำกับดูแล และ Project Moonshot ซึ่งผสมผสานการประเมินสมรรถนะ (benchmarking) เข้ากับวิธีการ red teaming

มาตรฐานที่เสนอออกแบบมาเพื่อเสริม ISO/IEC 42001 ซึ่งเป็นมาตรฐานสากลสำหรับระบบการจัดการด้าน AI อาจช่วยกำหนดข้อกำหนดทางเทคนิคสำหรับการปฏิบัติตามกฎระเบียบต่างๆ เช่น กฎหมาย AI Act ของสหภาพยุโรป และข้อเสนอ SB-53 ของแคลิฟอร์เนียเกี่ยวกับความปลอดภัยและการกำกับดูแลด้าน AI กรอบงานดังกล่าวครอบคลุมคุณลักษณะด้านคุณภาพ รวมถึงความปลอดภัย และใช้วิธีการต่างๆ เช่น red teaming สำหรับระบบ AI เชิงสร้างสรรค์แบบข้อความต่อข้อความที่อาศัยพรอมต์ การพัฒนานี้อาจขยายตลาดสำหรับบริการด้านการรับประกันความน่าเชื่อถือของ AI ทำให้บริษัทผู้เชี่ยวชาญสามารถช่วยให้องค์กรต่างๆ บรรลุมาตรฐานระดับโลกที่กำลังเกิดขึ้นได้