โดยสรุป
- เจ้าหน้าที่สหรัฐฯ เตือนธนาคารรายใหญ่ว่ามีความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เชื่อมโยงกับโมเดล AI Mythos ของ Anthropic รายงานของ Bloomberg
- ระบบดังกล่าวรายงานว่าสามารถระบุและใช้ช่องโหว่ในระบบปฏิบัติการและเบราว์เซอร์ได้
- Anthropic มีการเข้าถึงโมเดลแบบจำกัด ขณะที่ประเมินความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
รายงานระบุว่า รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ Scott Bessent และประธานธนาคารกลางสหรัฐ (Federal Reserve) Jerome Powell ได้เรียกประชุมกับบรรดาประธานเจ้าหน้าที่บริหาร (CEO) ของธนาคารในวอลล์สตรีทเมื่อช่วงต้นสัปดาห์ที่ผ่านมา เพื่อเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เชื่อมโยงกับโมเดลปัญญาประดิษฐ์แห่งใหม่จาก Anthropic
ตามรายงานของ Bloomberg การประชุมดังกล่าวมีผู้บริหารจาก Citigroup, Bank of America, Wells Fargo, Morgan Stanley และ Goldman Sachs
เจ้าหน้าที่ได้หารือเกี่ยวกับโมเดล AI ใหม่ของ Anthropic ที่ชื่อ Mythos ซึ่งล่าสุดได้ก่อให้เกิดความกังวลอย่างกว้างขวางจากความสามารถด้านความปลอดภัยทางไซเบอร์ที่ดูจะก้าวหน้า
เจ้าหน้าที่ได้เรียกประชุมดังกล่าวเพื่อให้แน่ใจว่าธนาคารเข้าใจถึงความเสี่ยงที่เกิดจากระบบซึ่งสามารถระบุและใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ได้ทั่วทั้งระบบปฏิบัติการและเว็บเบราว์เซอร์ และเพื่อสนับสนุนให้สถาบันต่างๆ เสริมการป้องกันต่อการโจมตีทางไซเบอร์ที่อาจได้รับความช่วยเหลือจาก AI และมุ่งเป้าโครงสร้างพื้นฐานทางการเงิน
นักวิจัยด้านความปลอดภัยเตือนว่าเครื่องมือที่สามารถค้นหาช่องโหว่ได้อย่างอัตโนมัติอาจเร่งทั้งงานด้านความปลอดภัยเชิงป้องกันและการแฮ็กที่เป็นอันตราย หากถูกนำไปใช้ในทางที่ผิด
โมเดล Mythos ของ Anthropic ปรากฏบนโลกออนไลน์ครั้งแรกในเดือนมีนาคม หลังจากเอกสารร่างเกี่ยวกับระบบดังกล่าวรั่วไหลออกมา เผยให้เห็นสิ่งที่บริษัทอธิบายว่าเป็นโมเดล AI ที่มีความสามารถมากที่สุดของบริษัทเท่าที่เคยมีมา
จากการทดสอบ รายงานว่า ระบบดังกล่าวพบช่องโหว่ซอฟต์แวร์ที่ไม่เคยรู้มาก่อนหลายพันรายการ รวมถึงช่องโหว่แบบ zero-day ในระบบปฏิบัติการและเว็บเบราว์เซอร์รายใหญ่หลายตัว
นักวิจัยของ Anthropic ระบุในรายงานเมื่อช่วงต้นสัปดาห์นี้ว่า ความสามารถในการค้นหาช่องโหว่ของ Mythos Preview ไม่ได้ถูกฝึกโดยเจตนา แต่กลับเกิดขึ้นจากการปรับปรุงโดยรวมของโมเดลในด้านการเขียนโค้ด เหตุผล และความเป็นอิสระ
“การปรับปรุงชุดเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นอย่างมากในการอุดแพตช์ช่องโหว่ ก็ทำให้มีประสิทธิภาพมากขึ้นอย่างมากในการใช้ประโยชน์จากช่องโหว่เหล่านั้นด้วยเช่นกัน” บริษัทเขียนไว้
เนื่องจากความสามารถเหล่านั้น Anthropic จึงจำกัดการเข้าถึงให้กับกลุ่มเล็กๆ ขององค์กรด้านความปลอดภัยทางไซเบอร์เท่านั้น
“ด้วยความแข็งแกร่งของความสามารถของมัน เราจึงมีความรอบคอบในการปล่อยออกมา” Anthropic กล่าวในแถลงการณ์ “ตามแนวทางปฏิบัติมาตรฐานในอุตสาหกรรม เรากำลังทำงานร่วมกับลูกค้าในช่วงเข้าถึงล่วงหน้าจำนวนน้อยเพื่อทดสอบโมเดล เรามองว่าโมเดลนี้เป็นการเปลี่ยนแปลงครั้งสำคัญ และเป็นโมเดลที่มีความสามารถมากที่สุดที่เราสร้างได้จนถึงปัจจุบัน”
เพื่อจัดการกับความเสี่ยงดังกล่าว Anthropic กำลังทดสอบ Mythos ผ่าน Project Glasswing ซึ่งเป็นความร่วมมือกับบริษัทเทคโนโลยีและความปลอดภัยทางไซเบอร์รายใหญ่ โดยใช้โมเดลเพื่อระบุและอุดแพตช์ช่องโหว่ในซอฟต์แวร์สำคัญก่อนที่ผู้โจมตีจะสามารถใช้ประโยชน์จากช่องโหว่เหล่านั้นได้
“Project Glasswing คือจุดเริ่มต้น ไม่มีองค์กรใดองค์กรหนึ่งสามารถแก้ปัญหาความปลอดภัยทางไซเบอร์เหล่านี้ได้เพียงลำพัง” บริษัทกล่าวในแถลงการณ์ “นักพัฒนา Frontier AI บริษัทซอฟต์แวร์อื่นๆ นักวิจัยด้านความปลอดภัย ผู้ดูแลโอเพนซอร์ส และรัฐบาลทั่วโลก ล้วนมีบทบาทสำคัญที่ต้องทำ”
Anthropic ยังไม่ได้ตอบกลับทันทีต่อคำขอความคิดเห็นของ Decrypt
