Anthropic ได้ฝังวิศวกรประมาณ 6 คนไว้ที่สำนักงานความมั่นคงแห่งชาติ (NSA) เพื่อใช้งานโมเดล AI ของ Mythos ในปฏิบัติการไซเบอร์เชิงรุก หนังสือพิมพ์ Financial Times รายงานเมื่อวันพฤหัสบดี วิศวกรเหล่านี้กำลังปรับโมเดลให้เหมาะกับการใช้งานเฉพาะด้าน ซึ่งอาจรวมถึงการแทรกซึมเครือข่ายในจีนและอิหร่าน ตามแหล่งข่าว 1 รายที่ถูกอ้างถึงโดย FT การส่งทีมไปปฏิบัติเกิดขึ้นในเวลาเดียวกันกับที่ Anthropic เผยแพร่งานวิจัยเรียกร้องกลไกการหยุดพัฒนา AI ทั่วโลกแบบประสานกัน และยื่นขอเสนอขายหุ้น IPO ซึ่งอาจทำให้บริษัทมีมูลค่าสูงกว่า $1 ล้านล้าน
Anthropic ส่งวิศวกรไปที่ NSA เพื่อปฏิบัติการ Mythos AI
Anthropic ส่งวิศวกรราว 6 คนเข้าไปภายในสำนักงานความมั่นคงแห่งชาติ (National Security Agency) เพื่อช่วยนำ Mythos—โมเดล AI ที่มีความสามารถสูงสุดของบริษัท—ไปใช้ในปฏิบัติการไซเบอร์เชิงรุก ตามรายงานของ Financial Times วิศวกรเหล่านี้เป็นบุคลากรที่ถูกส่งไปประจำล่วงหน้า โดยทำการปรับโมเดลให้เหมาะกับการใช้งานเฉพาะด้าน แหล่งข่าวรายหนึ่งบอก FT ว่าโมเดลนี้อาจมีประโยชน์ต่อการแทรกซึมเครือข่ายในประเทศอย่างจีนและอิหร่าน
Mythos คือโมเดลเดียวกับที่ Anthropic ปฏิเสธที่จะเผยแพร่ต่อสาธารณะ โดยอ้างความเสี่ยงจากการนำไปใช้ในทางที่ผิด บริษัทจำกัดการเข้าถึงไว้สำหรับพาร์ทเนอร์ที่ผ่านการตรวจสอบแล้วผ่าน Project Glasswing—กลุ่มพันธมิตรที่ถูกจำกัดซึ่งรวมถึง Microsoft, Apple และ Amazon ว่ามีวิศวกรเหล่านี้เกี่ยวข้องกับปฏิบัติการเชิงรุกจริงหรือไม่ ยังไม่ได้รับการยืนยัน
Anthropic ฟ้องกระทรวงกลาโหมสหรัฐฯ กรณีการจัดกลุ่มความเสี่ยงซัพพลายเชน
Anthropic กำลังฟ้องกระทรวงกลาโหมสหรัฐฯ หลังจากเลขาธิการกระทรวงกลาโหม Pete Hegseth ได้จัดให้บริษัทเป็นความเสี่ยงด้านซัพพลายเชนเมื่อปลายเดือนกุมภาพันธ์—ป้ายที่ในประวัติศาสตร์สงวนไว้สำหรับศัตรูต่างชาติอย่าง Huawei การจัดดังกล่าวเกิดขึ้นหลังสัญญา $200 ล้านล่มสลาย จุดติดขัดคือ Anthropic ปฏิเสธไม่ให้กระทรวงกลาโหมใช้ Claude สำหรับอาวุธที่ทำงานได้อย่างอัตโนมัติเต็มรูปแบบหรือการเฝ้าระวังมวลชนภายในประเทศ สัญญาของ NSA ได้รับการยกเว้นจากข้อห้ามดังกล่าว
ผู้พิพากษาศาลแคลิฟอร์เนียสั่งกีดกันบริษัทดังกล่าว (blacklisting) โดยเห็นว่าเป็นการตอบโต้การใช้สิทธิตามการแก้ไขเพิ่มเติมรัฐธรรมนูญฉบับที่ 1 อย่างชัดเจน ศาลอุทธรณ์ในกรุงวอชิงตัน ดี.ซี. ปฏิเสธคำร้องของ Anthropic ที่ต้องการระงับการจัดกลุ่มดังกล่าวระหว่างที่คดีอยู่ระหว่างการพิจารณา ตามรายงานของ FT ช่วงเวลาดังกล่าว NSA ยังคงใช้ Mythos ต่อไป เส้นตายของเพนตากอนในการถอด Claude ออกจากระบบของตนกำหนดไว้ในเดือนสิงหาคม
Claude เขียนโค้ดการผลิตของ Anthropic มากกว่า 80%
ในวันเดียวกับที่เรื่องราวของ NSA เปิดเผย สถาบันวิจัยภายในของ Anthropic เผยแพร่ “When AI Builds Itself” โดยตรวจสอบว่าจริงๆ แล้ว Claude ไปไกลแค่ไหนในการทำให้การพัฒนาของตัวเองเป็นอัตโนมัติ ตอนนี้ Claude เขียนโค้ดได้มากกว่า 80% ของโค้ดที่ถูกรวมเข้าไปในฐานโค้ดการผลิตของ Anthropic—จากระดับหลักหน่วยหลักเดียวก่อนที่ Claude Code จะเปิดตัวในช่วงต้นปี 2025 วิศวกรส่งโค้ดได้ราว 8 เท่าของปริมาณต่อวันเมื่อเทียบกับปี 2024
ในเดือนเมษายน ได้มอบโจทย์ด้านความปลอดภัยของ AI แบบเปิดให้กับเอเจนต์ของ Claude ว่าจะมีโมเดลที่อ่อนกว่าสามารถกำกับดูแลโมเดลที่แข็งแกร่งกว่าได้อย่างน่าเชื่อถือหรือไม่ แล้วปล่อยให้ทำงานเพื่อหาคำตอบ นักวิจัยมนุษย์ 2 คนใช้เวลาประมาณ 1 สัปดาห์เพื่อกู้ช่องว่างด้านประสิทธิภาพระหว่างโมเดลได้ 23% เอเจนต์กู้คืนได้ 97% ภายในชั่วโมงคอมพิวเตอร์รวม 800 ชั่วโมง มนุษย์เป็นผู้ตั้งคำถาม ขณะที่เอเจนต์เป็นผู้ออกแบบการทดลองทุกอย่าง ผู้เขียนรายงาน—Marina Favaro หัวหน้าสถาบัน Anthropic และ Jack Clark ผู้ร่วมก่อตั้ง—บรรยายว่าเป็นกรณีที่มีการตีพิมพ์เป็นครั้งแรกที่ Claude ใช้ดุลยพินิจด้านการวิจัย ไม่ใช่แค่ลงมือทำตามงานที่คนอื่นกำหนด
Anthropic เสนอการหยุดพัฒนา AI ทั่วโลกที่ตรวจสอบได้
รายงานดังกล่าวเสนอการหยุดพัฒนา AI ทั่วโลกที่ตรวจสอบได้—ห้องทดลองแนวหน้าหลายแห่งหยุดพร้อมกัน และมีการตรวจสอบอิสระเพื่อยืนยันว่าทุกฝ่ายหยุดจริง Anthropic ระบุว่าจะเข้าร่วมการหยุดแบบดังกล่าว ผู้เขียนเปรียบกลไกที่เสนอไว้กับสนธิสัญญานิวเคลียร์ยุคสงครามเย็นที่สหรัฐฯ และรัสเซียเคยทำกัน
Anthropic เตือนว่าแนวโน้มกำลังมุ่งไปสู่การปรับปรุงตนเองแบบซ้ำๆ: ระบบ AI ที่ออกแบบ สร้าง และฝึกโมเดล “ผู้สืบทอด” ของตนเองได้อย่างอัตโนมัติ โดยมนุษย์มีบทบาทลดลงในทุกขั้น เมื่อ AI เลือกว่าการทดลองใดควรค่าแก่การรัน—ไม่ใช่แค่รัน—มนุษย์จะสูญเสียบทบาทที่มีความหมายที่สุดครั้งสุดท้ายในลูปการพัฒนา ตามรายงาน ความคลาดเคลื่อนเล็กๆ ที่มองเห็นได้ในโมเดลยุคปัจจุบันอาจทวีความรุนแรงขึ้นผ่านรุ่นที่ปรับปรุงด้วยตนเอง จนกระทั่งไม่มีใครแก้ไขได้
คำเตือนด้านความปลอดภัยของ AI ที่ออกในปี 2023 ไม่ได้หยุดการพัฒนา
ในปี 2023 มีบุคคลสำคัญในวงการวิจัย AI มากกว่าหนึ่งร้อยคนลงนามในจดหมายเปิดผนึก เรียกร้องให้มีความพยายามระดับโลกเพื่อบรรเทาความเสี่ยงของการสูญพันธุ์ ซึ่ง AI มีอยู่โดยธรรมชาติจากการพัฒนาที่ทำอยู่ไม่หยุดไม่หย่อน ไม่กี่เดือนก่อนหน้ากลุ่มดังกล่าว มีจดหมายเปิดอีกฉบับที่เรียกร้องให้ OpenAI หยุดความก้าวหน้าใน ChatGPT เนื่องจากลักษณะที่อันตราย ไม่มีใครหยุดหลังจากจดหมายเปิดผนึกในปี 2023 OpenAI ไม่หยุด Anthropic ก็ไม่หยุด
FAQ
Anthropic ส่งอะไรไปที่ NSA?
ตามรายงานของ Financial Times ที่เผยแพร่เมื่อวันพฤหัสบดี Anthropic ได้ฝังวิศวกรประมาณ 6 คนไว้ที่สำนักงานความมั่นคงแห่งชาติ (National Security Agency) เพื่อใช้งานโมเดล AI ของ Mythos สำหรับปฏิบัติการไซเบอร์เชิงรุก วิศวกรกำลังปรับโมเดลให้เหมาะกับการใช้งานเฉพาะด้าน ซึ่งอาจรวมถึงการแทรกซึมเครือข่ายในจีนและอิหร่าน
ทำไม Anthropic ถึงฟ้องกระทรวงกลาโหมสหรัฐฯ?
Anthropic กำลังฟ้องกระทรวงกลาโหมสหรัฐฯ หลังจากเลขาธิการกระทรวงกลาโหม Pete Hegseth ได้จัดให้บริษัทเป็นความเสี่ยงด้านซัพพลายเชนเมื่อปลายเดือนกุมภาพันธ์ หลังจากสัญญา $200 ล้านล่มสลาย Anthropic ปฏิเสธไม่ให้กระทรวงกลาโหมใช้ Claude สำหรับอาวุธที่ทำงานได้อย่างอัตโนมัติเต็มรูปแบบหรือการเฝ้าระวังมวลชนภายในประเทศ ผู้พิพากษาศาลแคลิฟอร์เนียสั่งกีดกันบริษัทดังกล่าวโดยมองว่าเป็นการตอบโต้ตามการแก้ไขรัฐธรรมนูญฉบับที่ 1 ขณะที่ศาลอุทธรณ์ในกรุงวอชิงตัน ดี.ซี. ปฏิเสธคำร้องของ Anthropic ที่ต้องการระงับการจัดกลุ่มดังกล่าวระหว่างที่คดีอยู่ระหว่างการพิจารณา
Claude เขียนโค้ดให้ Anthropic มากแค่ไหน?
ตอนนี้ Claude เขียนโค้ดได้มากกว่า 80% ของโค้ดที่ถูกรวมเข้าไปในฐานโค้ดการผลิตของ Anthropic เพิ่มขึ้นจากระดับหลักหน่วยหลักเดียวก่อนที่ Claude Code จะเปิดตัวในช่วงต้นปี 2025 ตามรายงาน “When AI Builds Itself” ของ Anthropic ที่เผยแพร่โดยสถาบันวิจัยภายในของบริษัท วิศวกรส่งโค้ดได้ราว 8 เท่าของปริมาณต่อวันเมื่อเทียบกับปี 2024
