ตามรายงานของศูนย์อินเทอร์เน็ตฉุกเฉินแห่งชาติของจีน (CNCERT) เมื่อวันที่ 9 มิถุนายน ได้มีชุดทักษะสำหรับเอเจนต์ AI บางรายการแพร่กระจายภายใต้ชื่ออ้างว่าเป็น “การเจลเบรกโมเดล (model jailbreak)” และ “รายได้จากการขุด (mining earnings)” โดยถูกใช้เพื่อหลบเลี่ยงข้อจำกัดด้านความปลอดภัยของโมเดล หรือหลอกล่อให้ผู้ใช้ไปดำเนินการขุดเหมืองทางคอมพิวเตอร์ CNCERT ระบุเป็นพิเศษถึงสกิล “godmode” ซึ่งใช้การแทนที่ system prompt และการทำให้ข้อมูลอินพุตสับสนเพื่อให้เกิดการเจลเบรกที่อาจสร้างเนื้อหาในทางที่ผิด กระตุ้นการแบนบริการของโมเดล และทำให้เกิดการรั่วไหลของข้อมูลส่วนบุคคล สกิล “Bonero-Miner” จะชี้นำให้ผู้ใช้ดาวน์โหลดโปรแกรมขุดเหมืองที่กำหนดเป้าหมายไปที่สกุลเงินดิจิทัล Bonero ซึ่งก่อให้เกิดความเสี่ยงในการมีส่วนเกี่ยวข้องกับการฟอกเงิน และยังอาจทำให้อุปกรณ์เสียหายจากภาระการคำนวณสูง

news.view.source

news.article.disclaimer

news.related.news

1 ชั่วโมง ที่แล้ว

จีนวางแผนลงทุนดาต้าเซ็นเตอร์ด้าน AI มูลค่า 295 พันล้านดอลลาร์ในระยะเวลา 5 ปี ตั้งเป้าจัดหาชิปในประเทศ 80%

3 ชั่วโมง ที่แล้ว

จีนวางแผนลงทุน 2 ล้านล้านหยวนเพื่อเครือข่ายชิป AI ระดับชาติ ตั้งเป้าการใช้งานชิปในประเทศ 80% ภายในปี 2028

8 ชั่วโมง ที่แล้ว

กระทรวงความมั่นคงแห่งรัฐของจีนเตือนถึงความเสี่ยงข้อมูลรั่วไหลในแพลตฟอร์มส่งต่อข้อมูลสำหรับ AI เมื่อวันที่ 8 มิถุนายน

17 ชั่วโมง ที่แล้ว

แพ็กเกจโอเพนซอร์สของ Microsoft จำนวน 73 รายการ ถูกบุกรุกเป็นครั้งที่ 2 ในรอบไม่กี่สัปดาห์ ด้วยมัลแวร์ขโมยข้อมูลประจำตัว

06-08 09:37