Anthropic เรียกร้องให้มีการหยุดชั่วคราวทั่วโลกในการพัฒนา AI ระดับแนวหน้า 5 มิถุนายน

ตามบล็อกโพสต์วันพฤหัสบดีของ Anthropic บริษัทวิจัย AI ได้เรียกร้องให้มีการหยุดชั่วคราวแบบทั่วโลกต่อการพัฒนา AI ระดับแนวหน้าในวันที่ 5 มิถุนายน โดยอ้างถึงความเสี่ยงจากการพัฒนาแบบวนซ้ำเพื่อปรับปรุงตนเองในระบบ AI Anthropic เปิดเผยข้อมูลภายในที่แสดงให้เห็นว่าโมเดลที่ก้าวหน้าที่สุดของบริษัททำผลงานได้ดีขึ้นอย่างรวดเร็ว และเตือนว่าในไม่ช้า ระบบ AI อาจบรรลุการปรับให้เหมาะสมโดยอิสระโดยไม่ต้องมีการแทรกแซงจากมนุษย์ ซึ่งก่อให้เกิดความเสี่ยงด้านสังคมอย่างมีนัยสำคัญ

บริษัทเสนอให้จัดทำข้อตกลงระดับโลกเพื่อชะลอการพัฒนางานวิจัยด้าน AI และสร้างกลไกการตรวจสอบเพื่อให้มั่นใจว่าคู่แข่งปฏิบัติตาม Anthropic ระบุว่า: "หากโลกสามารถเลือกที่จะชะลอหรือหยุดชั่วคราวการพัฒนา AI ระดับแนวหน้า เพื่อให้สังคมและงานวิจัยสามารถก้าวทันความก้าวหน้าทางเทคโนโลยีได้ นั่นจะเป็นประโยชน์"