โดยย่อ
- เจ้าหน้าที่สหรัฐฯ เตือนไปยังธนาคารรายใหญ่เกี่ยวกับความเสี่ยงด้านไซเบอร์ซีเคียวริตี้ที่เชื่อมโยงกับโมเดล AI ของ Anthropic ที่ชื่อ Mythos ตามรายงานของ Bloomberg
- ระบบดังกล่าวคาดว่าสามารถระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเบราว์เซอร์ได้
- Anthropic มีการเข้าถึงโมเดลอย่างจำกัด ในขณะที่กำลังประเมินความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
รายงานระบุว่า รัฐมนตรีว่าการกระทรวงการคลังสหรัฐ Scott Bessent และประธานธนาคารกลางสหรัฐ Jerome Powell ได้มีการประชุมกับซีอีโอธนาคารในวอลล์สตรีทก่อนหน้านี้ในสัปดาห์นี้ เพื่อเตือนถึงความเสี่ยงด้านไซเบอร์ซีเคียวริตี้ที่เชื่อมโยงกับโมเดลปัญญาประดิษฐ์แห่งใหม่จาก Anthropic
ตามรายงานของ Bloomberg การประชุมดังกล่าวมีผู้บริหารจาก Citigroup, Bank of America, Wells Fargo, Morgan Stanley และ Goldman Sachs รวมอยู่ด้วย เจ้าหน้าที่ได้หารือเกี่ยวกับโมเดล AI ใหม่ของ Anthropic ที่ชื่อ Mythos ซึ่งเมื่อไม่นานมานี้ได้รับความกังวลอย่างกว้างขวางจากความสามารถด้านไซเบอร์ซีเคียวริตี้ขั้นสูงที่ดูเหมือนจะมี
เจ้าหน้าที่จัดการประชุมเพื่อให้มั่นใจว่าธนาคารเข้าใจถึงความเสี่ยงที่เกิดจากระบบซึ่งสามารถระบุและใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ข้ามระบบปฏิบัติการและเว็บเบราว์เซอร์ และเพื่อกระตุ้นให้สถาบันต่างๆ เสริมการป้องกันต่อการโจมตีทางไซเบอร์ที่อาจได้รับความช่วยเหลือจาก AI โดยมุ่งเป้าไปที่โครงสร้างพื้นฐานทางการเงิน
นักวิจัยด้านความปลอดภัยได้เตือนว่าเครื่องมือที่สามารถค้นหาช่องโหว่ได้โดยอัตโนมัติอาจเร่งทั้งงานด้านความปลอดภัยเชิงรับและการแฮ็กอย่างมุ่งร้าย หากถูกนำไปใช้ในทางที่ผิด
โมเดล Mythos ของ Anthropic ปรากฏบนโลกออนไลน์ครั้งแรกในเดือนมีนาคม หลังจากเอกสารฉบับร่างเกี่ยวกับระบบดังกล่าวรั่วไหลออกมา เผยให้เห็นสิ่งที่บริษัทระบุว่าเป็นโมเดล AI ที่มีความสามารถมากที่สุดของบริษัทในขณะนั้น ในการทดสอบ คาดว่าระบบดังกล่าวพบช่องโหว่ของซอฟต์แวร์ที่ไม่เคยรู้จักมาก่อนนับพันรายการ รวมถึงจุดบกพร่องระดับ zero-day ในระบบปฏิบัติการและเว็บเบราว์เซอร์ชั้นนำหลายระบบ
นักวิจัยของ Anthropic กล่าวในรายงานเมื่อช่วงต้นสัปดาห์นี้ว่า ความสามารถในการค้นหาช่องโหว่ของ Mythos Preview ไม่ได้ถูกฝึกโดยเจตนา แต่กลับเกิดขึ้นจากการปรับปรุงในภาพรวมของความสามารถด้านการเขียนโค้ด การใช้เหตุผล และความเป็นอิสระของโมเดล
“การปรับปรุงชุดเดียวกันที่ทำให้โมเดลมีประสิทธิภาพมากขึ้นอย่างมากในการอัปเดตแพตช์เพื่อแก้ไขช่องโหว่ ก็ทำให้มันมีประสิทธิภาพมากขึ้นอย่างมากในการใช้ประโยชน์จากช่องโหว่เช่นกัน” บริษัทเขียนไว้
เนื่องจากความสามารถเหล่านั้น Anthropic จึงจำกัดการเข้าถึงให้กับองค์กรด้านไซเบอร์ซีเคียวริตี้จำนวนเล็กน้อย
“เมื่อพิจารณาถึงความแข็งแกร่งของความสามารถของมัน เราจึงตั้งใจอย่างรอบคอบเกี่ยวกับวิธีที่เราจะปล่อยออกมา” Anthropic ระบุในแถลงการณ์ “ตามแนวปฏิบัติมาตรฐานในอุตสาหกรรม เรากำลังทำงานกับลูกค้าเพื่อเข้าถึงล่วงหน้ากลุ่มเล็กเพื่อทดสอบโมเดล เรามองว่าโมเดลนี้เป็นการก้าวกระโดดเชิงความสามารถ และเป็นโมเดลที่มีความสามารถที่สุดเท่าที่เราเคยสร้างมาในขณะนี้”
เพื่อรับมือกับความเสี่ยงดังกล่าว Anthropic กำลังทดสอบ Mythos ผ่าน Project Glasswing ซึ่งเป็นความร่วมมือกับบริษัทเทคโนโลยีและไซเบอร์ซีเคียวริตี้รายใหญ่ โดยใช้โมเดลเพื่อระบุและแพตช์ช่องโหว่ในซอฟต์แวร์ที่สำคัญ ก่อนที่ผู้โจมตีจะสามารถใช้ประโยชน์จากมันได้
“Project Glasswing คือจุดเริ่มต้น ไม่มีองค์กรใดองค์กรหนึ่งที่สามารถแก้ปัญหาความปลอดภัยทางไซเบอร์เหล่านี้ได้เพียงลำพัง” บริษัทกล่าวในแถลงการณ์ “นักพัฒนา Frontier AI บริษัทซอฟต์แวร์อื่นๆ นักวิจัยด้านความปลอดภัย ผู้ดูแลซอฟต์แวร์โอเพนซอร์ส และรัฐบาลทั่วโลก ล้วนมีบทบาทสำคัญที่ต้องเข้ามามีส่วนร่วม”
Anthropic ยังไม่ได้ตอบกลับทันทีต่อคำขอความคิดเห็นของ Decrypt
