ตามรายงานของ Odaily Dario Amodei ซีอีโอของ Anthropic ได้เตือนสมาชิกสภานิติบัญญัติของสหรัฐฯ เมื่อไม่นานมานี้ว่าการพัฒนาปัญญาประดิษฐ์แบบโอเพนซอร์สกำลังเข้าสู่ 'เส้นทางที่อันตรายมาก' เมื่อโมเดล AI ที่ทรงพลังถูกปล่อยเป็นโอเพนซอร์ส นักพัฒนาจะสูญเสียการควบคุมดูแลการใช้งานโมเดลอย่างมีประสิทธิภาพ รวมถึงไม่สามารถตรวจสอบการใช้งานในทางที่ผิด เพิกถอนการเข้าถึง หรือปรับใช้การอัปเดตความปลอดภัยแบบไดนามิก ซึ่งเพิ่มความเสี่ยงที่อาจเกิดขึ้นอย่างมีนัยสำคัญ Amodei เน้นย้ำว่าโมเดลแบบเปิดเต็มรูปแบบนั้นรักษาการกำกับดูแลด้านความปลอดภัยอย่างต่อเนื่องได้ยากกว่าระบบแบบปิด ซึ่งอาจสร้างอันตรายจากการใช้งานในทางที่ผิดที่ไม่สามารถย้อนกลับได้

news.view.source

news.article.disclaimer

news.related.news

6 ชั่วโมง ที่แล้ว

Fable 5 ของ Anthropic อาจกลับมาดำเนินการอีกครั้งเร็วที่สุดในสัปดาห์หน้า ขณะที่รัฐบาลสหรัฐฯ เข้าใกล้การยกเลิกข้อจำกัด

11 ชั่วโมง ที่แล้ว

BIS เตือนการใช้จ่ายด้าน AI ที่มากเกินไปก่อให้เกิดความเสี่ยงเชิงระบบในวันที่ 29 มิถุนายน

15 ชั่วโมง ที่แล้ว

ออสเตรียเสนอให้นำ Anthropic เข้าสู่ยุโรปเพื่อตอบโต้ข้อจำกัดการส่งออก AI ของสหรัฐฯ

06-28 14:36

ซีอีโอของ Anthropic เตือนว่าโมเดล AI โอเพนซอร์สก่อให้เกิดความเสี่ยงที่ย้อนกลับไม่ได้ พร้อมเรียกเส้นทางนี้ว่า 'อันตราย'

06-28 10:22