Anthropic เตือนความเสี่ยงจากการวนพัฒนาตัวเองของ AI ขณะที่ Claude สร้างโค้ดของบริษัทถึง 80%

2026-06-08 14:30:57

ตามที่ Anthropic ระบุว่า Claude ได้สร้างโค้ดของบริษัทโดยอัตโนมัติไปแล้วราว 80% ณ สัปดาห์ที่แล้ว ซึ่งถือเป็นสัญญาณสำคัญว่า ระบบ AI ได้เข้าสู่ระยะของการพัฒนาตัวเองแบบเรียกซ้ำ (recursive self-improvement) นั่นหมายความว่าโมเดลสามารถออกแบบระบบ AI รุ่นถัดไปได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์

Anthropic ระบุว่าเมื่อขีดความสามารถของ AI ก้าวหน้าอย่างรวดเร็ว การเฝ้าระวังพฤติกรรมที่อาจควบคุมไม่ได้ และการสร้างกลไกด้านความปลอดภัย จึงมีความสำคัญมากขึ้นเรื่อยๆ ตามรายงานของ The Information

news.view.source

news.article.disclaimer

news.related.news

10 ชั่วโมง ที่แล้ว

AI ควรพัฒนาไปด้วยโค้ดที่เขียนเอง ไม่ใช่แค่การเพิ่มสเกลของโมเดล: Diana Hu จาก YC

06-06 04:13

Anthropic เพิ่มโควตาการใช้งานแบบร่วมงานของ Claude เป็น 2 เท่า สำหรับ 1 เดือน เริ่มตั้งแต่วันที่ 5 มิถุนายน

06-05 07:32

Anthropic รายงานว่าโค้ดมากกว่า 80% ตอนนี้ถูกสร้างโดย Claude และเรียกร้องให้ชะลอการวิจัยด้าน AI ระดับแนวหน้า

06-05 01:01

Anthropic รายงานว่า Claude เขียนโค้ด 80% ในเดือนพฤษภาคม ขณะที่ความสามารถในการทำงานระยะยาวขยายได้ถึง 16 ชั่วโมง

news.indepth.analysis