รัฐมนตรีว่าการกระทรวงการคลังสหรัฐและประธานธนาคารกลางสหรัฐ (Fed) ได้เรียกประชุมฉุกเฉินเหล่าผู้นำระดับสูงของวอลล์สตรีท เพื่อรับมือกับคำเตือนล่าสุดจากโมเดล Mythos ของ Anthropic โมเดลนี้ถูกหน่วยงานทางการจัดให้เป็นความเสี่ยงเชิงระบบต่อระบบการเงิน
หัวหน้าฝ่ายการคลังเรียกประชุมฉุกเฉินเหล่าผู้นำระดับสูงของวอลล์สตรีท ขึ้นระดับภัยคุกคามด้านเครือข่ายจาก AI เป็นความเสี่ยงเชิงระบบ
ตามรายงานของ Bloomberg รัฐมนตรีว่าการกระทรวงการคลังสหรัฐ สก็อตต์ เบสเซนต์ (Scott Bessent) และประธานธนาคารกลางสหรัฐ เจอโรม พาวเวลล์ (Jerome Powell) ได้เรียกประชุมฉุกเฉินกับซีอีโอของธนาคารรายใหญ่ในวอลล์สตรีท ณ สำนักงานใหญ่กระทรวงการคลังในกรุงวอชิงตัน ดี.ซี. เมื่อสัปดาห์ที่แล้ว เพื่อเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่อาจเกิดขึ้นจากโมเดลใหม่ล่าสุดของบริษัท AI อย่าง Anthropic ที่ชื่อ “Claude Mythos Preview”
ผู้นำธนาคารที่เข้าร่วมการประชุมประกอบด้วย Jane Fraser ซีอีโอของ Citigroup, Ted Pick ซีอีโอของ Morgan Stanley, Brian Moynihan ซีอีโอของ Bank of America, Charlie Scharf ซีอีโอของ Wells Fargo และ David Solomon ซีอีโอของ Goldman Sachs; ส่วน Jamie Dimon ซีอีโอของ JPMorgan Chase ไม่สามารถเข้าร่วมได้ สถาบันข้างต้นทั้งหมดถูกหน่วยงานกำกับจัดให้เป็นสถาบันการเงินที่มีความสำคัญเชิงระบบ
การประชุมครั้งนี้จัดโดยรัฐมนตรีว่าการกระทรวงการคลังและประธานธนาคารกลางสหรัฐที่เข้าร่วมด้วยตนเอง ซึ่งถูกมองในแวดวงว่าเป็นเรื่องผิดปกติ ในอดีต การเข้าไปแทรกแซงความเสี่ยงจาก AI ของรัฐบาลมักจำกัดอยู่ที่คณะทำงานระดับสถาบัน แต่ครั้งนี้ได้ถูกยกระดับขึ้นเป็นการเตือนโดยผู้บริหารสูงสุดของหน่วยงานการเงินโดยตรง ทำให้ชัดเจนว่า ทางการได้จัดให้ภัยคุกคามทางไซเบอร์จาก AI เป็นความเสี่ยงเชิงระบบต่อความมั่นคงของระบบการเงิน
โมเดล Mythos มีความสามารถน่าทึ่ง สามารถค้นพบช่องโหว่ zero-day จำนวนมากได้ด้วยตนเอง
ตามข้อมูลทางเทคนิคที่ Anthropic เผยแพร่ในวันเดียวกัน Mythos มีความสามารถในการระบุและใช้ประโยชน์จากช่องโหว่ในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักทั้งหมด **ในระยะการทดสอบ โมเดลสามารถค้นพบช่องโหว่ zero-day ที่ไม่เคยรู้มาก่อนหลายพันรายการได้ด้วยตัวเอง โดยมีทั้งช่องโหว่ที่ซ่อนอยู่ในระบบปฏิบัติการโอเพนซอร์สสายความปลอดภัยอย่าง OpenBSD ที่คงอยู่มานานถึง 27 ปี นอกจากนี้ โมเดลยังพบช่องโหว่ในไลบรารีประมวลผลวิดีโอและเสียงอย่าง FFmpeg ซึ่งแม้จะเรียกใช้เครื่องมือทดสอบอัตโนมัติถึง 500 万ครั้ง ก็ยังไม่สามารถตรวจพบได้ด้วยซ้ำ **
นักวิจัยของ Anthropic ย้ำว่า ความสามารถในการค้นพบช่องโหว่ของ Mythos มาจากความก้าวหน้าโดยรวมของโมเดลในด้านการเขียนโปรแกรม การให้เหตุผล และความเป็นอิสระ ไม่ใช่ผลจากการฝึกอย่างจงใจ
**บริษัทระบุในแถลงการณ์ว่า “ความสามารถแบบเดียวกันที่ทำให้โมเดลซ่อมแซมช่องโหว่ได้มีประสิทธิภาพมากขึ้น ก็ทำให้การใช้ประโยชน์จากช่องโหว่ได้มีประสิทธิภาพมากขึ้นเช่นกัน” ข้อความนี้สะท้อนความเป็นสองด้านของ Mythos: เส้นแบ่งระหว่างการป้องกันและการโจมตีแทบจะเลือนหายไปต่อหน้าโมเดลประเภทนี้ **
Anthropic ปฏิเสธที่จะเปิดเผยการประกาศสาธารณะ พร้อมจำกัดการเข้าถึง “โครงการปีกแก้ว”
เนื่องจากความสามารถแข็งแกร่งเกินไป Anthropic จึงตัดสินใจไม่เผยแพร่ Mythos ต่อสาธารณะ และเลือกใช้กลยุทธ์จำกัดการเข้าถึง โดยเปิดให้ใช้ได้เฉพาะกับบริษัทคู่ความร่วมมือบางรายเท่านั้น บริษัทประกาศพร้อมกันว่าจะเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับชื่อ “โครงการปีกแก้ว” (Project Glasswing) โดยร่วมมือกับพันธมิตรองค์กรกว่า 40 แห่ง เช่น AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft, Nvidia และอื่น ๆ โดยมีเป้าหมายเพื่อค้นหาและซ่อมแซมช่องโหว่ในซอฟต์แวร์สำคัญเชิงรุก ก่อนที่ผู้โจมตีจะลงมือ
แหล่งที่มา: X/@AnthropicAI Anthropic ประกาศพร้อมกันว่าจะเริ่มโครงการความร่วมมือด้านความปลอดภัยทางไซเบอร์เชิงรับชื่อ “โครงการปีกแก้ว” (Project Glasswing)
Anthropic ระบุว่า: “ด้วยเหตุผลที่ความสามารถของโมเดลแข็งแกร่ง เราจึงใช้ท่าทีอย่างรอบคอบต่อวิธีการเผยแพร่ เรากำลังร่วมมือกับลูกค้ารายเล็กน้อยที่เข้าถึงได้ตั้งแต่ระยะแรกเพื่อทดสอบโมเดล และเชื่อว่านี่คือรุ่นที่ก้าวล้ำที่สุดที่เราได้สร้างขึ้นจนถึงตอนนี้”
บริษัทเผยเพิ่มเติมว่า ได้ทำการบรรยายสรุปให้เจ้าหน้าที่ของรัฐเกี่ยวกับกรณีการใช้งานทั้งเชิงรุกและเชิงรับของ Mythos และยังคงหารืออย่างต่อเนื่องกับหน่วยงานความปลอดภัยทางไซเบอร์และโครงสร้างพื้นฐานของสหรัฐ (CISA) และศูนย์นวัตกรรมด้านมาตรฐานสำหรับ AI (AI standard innovation center) ประเด็นที่สังคมให้ความสนใจต่อไปจึงมุ่งไปที่ว่า หน่วยงานกำกับดูแลจะกำหนดมาตรฐานการตรวจสอบการเผยแพร่สำหรับโมเดลลักษณะเดียวกันอย่างไร สถาบันการเงินควรใช้มาตรการป้องกันเชิงรูปธรรมใดบ้าง และการประสานงานระหว่างหน่วยงานกำกับดูแลระหว่างประเทศจะสามารถก้าวทันความเร็วของวิวัฒนาการทางเทคโนโลยีได้หรือไม่
บทความนี้ถูกรวบรวมข้อมูลจากฝ่ายต่าง ๆ โดย Agent ที่เกี่ยวข้องกับการเข้ารหัส ร่วมด้วยการตรวจทานและบรรณาธิการของ 《加密城市》 ปัจจุบันยังอยู่ในช่วงการฝึกอบรม อาจมีความคลาดเคลื่อนด้านตรรกะหรือความผิดพลาดของข้อมูล เนื้อหามีไว้เพื่อการอ้างอิงเท่านั้น โปรดอย่าถือเป็นคำแนะนำในการลงทุน。
