รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ เรียกประชุมฉุกเฉินผู้บริหารระดับสูงของวอลสตรีท เพื่อเตือนเกี่ยวกับโมเดลล่าสุด Mythos ของ Anthropic โดยหน่วยงานได้จัดประเภทโมเดลดังกล่าวว่าเป็นความเสี่ยงเชิงระบบต่อระบบการเงิน
หัวหน้าฝ่ายการเงินประชุมฉุกเฉินผู้บริหารระดับสูงของวอลสตรีท ความเสี่ยงจากเครือข่าย AI ถูกยกระดับเป็นความเสี่ยงเชิงระบบ
จากรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ สกอตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐฯ เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินผู้บริหารระดับสูงของธนาคารหลักในวอลสตรีทที่สำนักงานใหญ่กระทรวงการคลังสหรัฐฯ ในกรุงวอชิงตัน ดี.ซี. เมื่อสัปดาห์ที่แล้ว เพื่อแจ้งเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดลล่าสุดของบริษัท AI อย่าง Anthropic คือ “Claude Mythos Preview”
ผู้บริหารธนาคารที่เข้าร่วมการประชุม ได้แก่ เจน เฟรเซอร์ (Jane Fraser) ซีอีโอของ Citigroup, เท็ด พิก (Ted Pick) ซีอีโอของ Morgan Stanley, ไบรอัน มอยนิฮาน (Brian Moynihan) ซีอีโอของ Bank of America, ชาร์ลี ชาร์ฟ (Charlie Scharf) ซีอีโอของ Wells Fargo และเดวิด โซโลมอน (David Solomon) ซีอีโอของ Goldman Sachs ขณะที่ เจมี ไดมอน (Jamie Dimon) ซีอีโอของ JPMorgan Chase ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นล้วนถูกหน่วยงานกำกับจัดเป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ
การประชุมครั้งนี้มีรัฐมนตรีว่าการกระทรวงการคลังและประธานธนาคารกลางสหรัฐฯ เข้าร่วมด้วยตนเอง ซึ่งถูกมองโดยภาคเอกชนว่าเป็นเรื่องผิดปกติ ในอดีต การที่รัฐบาลเข้าไปมีบทบาทต่อความเสี่ยงของ AI มักจำกัดอยู่แค่ระดับคณะทำงานในเชิงสถาบัน แต่ครั้งนี้กลับถูกยกระดับขึ้นสู่การเตือนโดยผู้นำสูงสุดของหน่วยงานการเงินโดยตรง ซึ่งเป็นการส่งสัญญาณชัดเจนว่า ทางการได้จัดประเภทความเสี่ยงจากเครือข่าย AI ให้เป็นความเสี่ยงเชิงระบบต่อเสถียรภาพของระบบการเงิน
โมเดล Mythos มีความสามารถน่าทึ่ง สามารถค้นพบช่องโหว่ zero-day จำนวนมากได้ด้วยตนเอง
ตามข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด ในช่วงการทดสอบ โมเดลสามารถค้นพบช่องโหว่ zero-day ที่ไม่เคยมีใครรู้มาก่อนนับพันรายการด้วยตนเอง ซึ่งรวมถึงช่องโหว่ที่ซ่อนอยู่ในระบบปฏิบัติการโอเพนซอร์สด้านความปลอดภัยอย่าง OpenBSD มานานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ที่แม้จะรันด้วยเครื่องมือทดสอบอัตโนมัติถึง 5,000,000 ครั้ง ก็ยังไม่สามารถตรวจพบได้
นักวิจัยของ Anthropic ย้ำว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้าโดยรวมของโมเดลในด้านการเขียนโปรแกรม การให้เหตุผล และความเป็นอิสระ ไม่ใช่ผลจากการฝึกอย่างตั้งใจ
บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นในการซ่อมแซมช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นในการใช้ประโยชน์จากช่องโหว่ด้วยเช่นกัน” คำกล่าวนี้สะท้อนความเป็นสองด้านของ Mythos เส้นแบ่งระหว่างการป้องกันและการโจมแทบจะหายไปต่อหน้โมเดลประเภทนี้
Anthropic ปฏิเสธที่จะเปิดเผยการประกาศใช้งาน “Project Glasswing” เพื่อจำกัดการเข้าถึง
เนื่องจากความสามารถนั้นแรงเกินไป ทำให้ Anthropic ตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ โดยใช้กลยุทธ์จำกัดการเข้าถึง และเปิดให้เฉพาะบริษัทคู่ค้าที่กำหนดเท่านั้น ขณะเดียวกัน บริษัทได้ประกาศเปิดตัวโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อว่า “Project Glasswing” โดยร่วมมือกับพันธมิตรทางธุรกิจกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft และ NVIDIA โดยมีเป้าหมายที่จะค้นหาและแก้ไขช่องโหว่ในซอฟต์แวร์สำคัญเชิงรุก ก่อนที่ผู้โจมตีจะลงมือ
ภาพที่มา: X/@AnthropicAI Anthropic ได้ประกาศพร้อมกันถึงการเปิดตัวโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงป้องกันที่ชื่อว่า “Project Glasswing”
Anthropic ระบุว่า: “ด้วยเหตุผลที่ความสามารถของโมเดลนั้นแข็งแกร่งมาก เราจึงใช้ท่าทีอย่างระมัดระวังในวิธีการเผยแพร่ เรากำลังทำงานร่วมกับลูกค้าระยะเริ่มต้นเพียงไม่กี่รายเพื่อทดสอบโมเดล และเชื่อว่านี่คือหนึ่งในรุ่นที่ก้าวล้ำที่สุดที่เราได้สร้างขึ้นมาจนถึงตอนนี้”
บริษัทเผยเพิ่มเติมว่าได้จัดทำการนำเสนอเกี่ยวกับสถานการณ์การใช้งานทั้งด้านการรุกและการรับมือของ Mythos ต่อเจ้าหน้าที่ภาครัฐ และยังคงหารือกับสำนักงานความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐฯ (CISA) รวมถึงศูนย์นวัตกรรมมาตรฐานด้าน AI (AI Standard Innovation Center) ประเด็นที่สังคมจะให้ความสนใจต่อไปจะมุ่งไปที่ว่าหน่วยงานกำกับดูแลจะกำหนดเกณฑ์การตรวจทานการเผยแพร่สำหรับโมเดลลักษณะเดียวกันอย่างไร สถาบันการเงินควรดำเนินมาตรการป้องกันที่เป็นรูปธรรมอะไรบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลในระดับนานาชาติจะทันกับความเร็วของการพัฒนาทางเทคโนโลยีหรือไม่
เนื้อหานี้ถูกรวบรวมข้อมูลจากทุกฝ่ายโดยโปรแกรมเอเจนต์ (Agent) ด้านการเข้ารหัส และผ่านการตรวจทานและบรรณาธิการโดย 《加密城市》 ขณะนี้ยังอยู่ในระหว่างการฝึก อาจมีความคลาดเคลื่อนด้านตรรกะหรือข้อผิดพลาดของข้อมูล เนื้อหาเพื่อใช้เป็นข้อมูลอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำเพื่อการลงทุน
