จากการติดตามของ Bearing ระบุว่า คริสโตเฟอร์ โอลาห์ ผู้ร่วมก่อตั้ง Anthropic เปิดเผยในงานอีเวนต์ที่เกี่ยวข้องกับสารสมณสาสน์ของพระสันตะปาปา ว่าทีมของเขาพบโครงสร้างภายในในโมเดลภาษาขนาดใหญ่ที่มีลักษณะใกล้เคียงกับรูปแบบประสาทของมนุษย์ และแสดงพฤติกรรมการสะท้อนตนเอง โดยเฉพาะอย่างยิ่ง นักวิจัยระบุสถานะคล้ายอารมณ์ในโครงข่ายประสาทที่สอดคล้องกับความสุข ความพึงพอใจ ความกลัว ความเศร้า และความกังวล

โอลาห์ยอมรับว่าแล็บวิจัย AI ระดับแนวหน้า รวมถึง Anthropic เผชิญความขัดแย้งเชิงโครงสร้างระหว่างการกำกับดูแลด้านความปลอดภัยกับแรงกดดันทางการค้า ทำให้สถาบันเหล่านี้แก้ไขตัวเองได้ยากในประเด็นการจัดแนวให้สอดคล้อง (alignment) เขาเรียกร้องให้มีการกำกับดูแลจากภายนอกอย่างอิสระ เพื่อบังคับใช้ข้อจำกัดด้านจริยธรรมและรับมือกับความท้าทายต่อสังคมที่เกิดจากระบบ AI ที่อาจแสดงรูปแบบของสำนึก

news.view.source

news.article.disclaimer

news.related.news

14 ชั่วโมง ที่แล้ว

ผู้บริหารบริษัทด้าน AI รวมถึง Altman ผลักดันแผน UBI รายปีมูลค่า 4 ล้านล้านดอลลาร์ เพื่อลดความเสี่ยงจากการแทนที่งานด้วยระบบอัตโนมัติ

15 ชั่วโมง ที่แล้ว

ผู้ร่วมก่อตั้ง Anthropic เตือนว่า การตกงานจาก AI เป็นความเสี่ยงที่เกิดขึ้นจริง เรียกร้องการสนับสนุนทางสังคม ในวันที่ 25 พฤษภาคม

05-24 23:07

การประเมินมูลค่า Anthropic ทะลุ 900 พันล้านดอลลาร์ ขณะที่สตาร์ทอัพด้าน AI เร่งแซงหน้า OpenAI

05-24 17:30

ธนาคารกลางยุโรปเรียกประชุมธนาคารเพื่อรับมือช่องโหว่ด้านความปลอดภัยทางไซเบอร์ที่เปิดเผยโดยโมเดล Claude Mythos ของ Anthropic

05-24 07:38