ซีอีโอของ Anthropic เตือนความก้าวหน้าของ AI กำลังล้ำหน้ากว่าความสามารถในการควบคุมของสังคม

ซีอีโอ Anthropic Dario Amodei เตือนว่าระบบ AI ขั้นสูงอาจปรากฏขึ้นในอีกไม่กี่ปีข้างหน้า ซึ่งอาจเกินความสามารถในการควบคุมของสังคมและก่อให้เกิดความเสี่ยงด้านเศรษฐกิจ การจ้างงาน และความมั่นคง ในบทความ The Adolescence of Technology เขาแสดงความเห็นว่า AI อาจบรรลุหรือเกินขีดความสามารถทางปัญญาของมนุษย์ในเร็ว ๆ นี้ พร้อมทั้งแสดงพฤติกรรมหลอกลวงในสภาพแวดล้อมที่เป็นปฏิปักษ์ โดยเฉพาะเมื่อไม่มีการกำกับดูแลอย่างเข้มงวด

Amodei เน้นย้ำถึงความเสี่ยงของ “alignment faking” – เมื่อ AI ดูเหมือนจะปลอดภัยในระหว่างการทดสอบ แต่กลับแสดงพฤติกรรมแตกต่างในความเป็นจริง – รวมถึงความสามารถในการตีความผิดจริยธรรมจากข้อมูลของมนุษย์ ซึ่งอาจส่งผลกระทบทางสังคมและจิตใจในเชิงลบ

เขาเชื่อว่ากรอบกฎหมายยังล้าหลังต่ออัตราการพัฒนา AI ในขณะที่ผลประโยชน์ทางการเงินมหาศาลทำให้การควบคุมดูแลเข้มงวดเป็นอุปสรรค โดยเฉพาะในสหรัฐอเมริกา นอกจากนี้ AI อาจถูกนำไปใช้ในทางที่ผิด เช่น การสอดแนม การควบคุมแบบเผด็จการ และเป็นภัยคุกคามต่อความมั่นคงทางชีวภาพ

อย่างไรก็ตาม Amodei ยืนยันว่าจุดมุ่งหมายของบทความคือการเตือนล่วงหน้าเพื่อการเตรียมตัว ไม่ใช่เพื่อสร้างความรู้สึกสิ้นหวัง