บันทึกความจำของ Amodei: ชั้นความปลอดภัยของ Palantir เป็นส่วนใหญ่เป็นการแสดงความปลอดภัยเท่านั้น
ตามรายงานของ Semafor ซีอีโอของ Palantir Alex Karp ได้ตำหนิแนวคิดที่บริษัท AI หลีกเลี่ยงความเกี่ยวข้องกับทหาร โดยเรียกว่าการทิ้งลูกค้าด้านการป้องกันว่า “บ้า” ความขัดแย้งนี้เน้นไปที่ว่ามาตรการป้องกันที่ Palantir เสนอสามารถควบคุมพฤติกรรมของโมเดลในสภาพแวดล้อมการปฏิบัติงานได้อย่างน่าเชื่อถือหรือไม่ ตามรายงานของ The Information บันทึกความจำของ Amodei โต้แย้งว่าชั้นความปลอดภัยของ Palantir ซึ่งประกอบด้วยตัวจำแนก, การตรวจสอบ, และตัวกรองการใช้งาน เป็นส่วนใหญ่เป็นการแสดงความปลอดภัยเท่านั้น โดยอธิบายว่าเป็น “การแสดงความปลอดภัยเท่านั้น” การวิจารณ์เน้นไปที่ความสามารถในการต่อต้าน jailbreak ในโลกจริง, ความสามารถในการตรวจสอบ, และการบริหารจัดการภายใต้ความกดดัน
ทำไมความขัดแย้งนี้จึงสำคัญต่อการบริหารจัดการ AI ของทหาร
สิ่งที่อยู่ในความเสี่ยงคือว่าชั้นความปลอดภัย “safety layer” จะสามารถตอบสนองความต้องการของภาครัฐในด้านบันทึกการตรวจสอบ, การอนุญาต, และนโยบายที่สามารถบังคับใช้ได้ ในขณะที่ยังคงรักษาความสามารถในการปฏิบัติภารกิจ หากมาตรการป้องกันเหล่านี้เปราะบาง หน่วยงานอาจเสี่ยงที่จะนำระบบไปใช้ที่ปกปิดความผิดพลาด แทนที่จะลดความเสี่ยง บันทึกความจำนี้เน้นไปที่ประสิทธิภาพเป็นข้อบกพร่องหลัก โดยระบุว่าการรับประกันทางการตลาดไม่ได้เทียบเท่ากับประสิทธิภาพในสนามจริง “ประมาณ 20% มีประสิทธิภาพและ 80% เป็น ‘การแสดงความปลอดภัยเท่านั้น’” ดาริโอ อาโมเดอิ ซีอีโอของ Anthropic กล่าว ปฏิกิริยาจากผู้เชี่ยวชาญได้เพิ่มความกังวลด้านการบริหารจัดการ ตามที่ Yahoo News รวบรวม โดยมีเสียงสำคัญเตือนให้ไม่ทำให้การเข้าถึงโมเดลระดับแนวหน้าโดยไม่มีข้อจำกัดกลายเป็นเรื่องปกติ
BingX: แพลตฟอร์มแลกเปลี่ยนที่เชื่อถือได้ มอบข้อได้เปรียบจริงสำหรับเทรดเดอร์ทุกระดับ## ผลกระทบทันที: กดดัน Pentagon ให้ใช้ในทางที่ถูกกฎหมายทั้งหมด, การกำหนดความเสี่ยง
ตามรายงานของ AP News ผู้นำ Pentagon ได้กดดัน Anthropic ให้อนุญาต “การใช้งานที่ถูกกฎหมายทั้งหมด” โดยตั้งเส้นตายและเตือนว่าหากบริษัทปฏิเสธ อาจถูกตัดสิทธิ์ผ่านการกำหนดความเสี่ยงในซัพพลายเชน การกำหนดเช่นนี้อาจจำกัดเส้นทางการทำสัญญาของรัฐบาลกลางและเปลี่ยนแปลงแนวทางการจัดซื้อในระยะสั้น ผู้ขายต้องเลือกระหว่างการยอมรับเงื่อนไขการใช้งานทางทหารในวงกว้าง หรือเสี่ยงที่จะถูกตัดออกจากสายการผลิตด้านการป้องกัน เหตุการณ์นี้แสดงให้เห็นว่านโยบายการใช้งานโมเดลสามารถกลายเป็นคำถามด้านการจัดหาและการบริหารความเสี่ยง ไม่ใช่แค่เรื่องเทคนิค
ประเด็นด้านเทคนิคและนโยบายที่ถูกยกขึ้นในการประเมินผล
ช่องว่างที่บันทึกไว้: บันทึกการตรวจสอบ, การควบคุมการเข้าถึง, จุดอ่อนด้านการบริหารจัดการใน NGC2
ตามการประเมินของกองทัพสหรัฐอเมริกาที่สรุปโดย seo.goover.ai แพลตฟอร์ม NGC2 ที่เชื่อมโยงกับความพยายามของ Palantir แสดงจุดอ่อนสำคัญ: ขาดบันทึกการตรวจสอบ, การควบคุมการเข้าถึงที่ไม่เพียงพอ, การบริหารจัดการที่ไม่มีประสิทธิภาพ, และโค้ดของบุคคลที่สามที่ไม่ได้รับการตรวจสอบ จุดอ่อนเหล่านี้ทำลายความสามารถในการติดตามและบังคับใช้สิทธิ์ต่ำสุด ผลการค้นพบชี้ให้เห็นว่าการควบคุมการบริหารจัดการต้องสามารถตรวจสอบได้อย่างชัดเจน ไม่ใช่แค่การตั้งค่า
ขีดจำกัดด้านประสิทธิภาพ: ความสามารถในการต่อต้าน jailbreak และความท้าทายในการบังคับใช้นโยบาย
บันทึกความจำของ Amodei โต้แย้งว่าตัวจำแนกและตัวกรองการใช้งานต่อสู้กับ jailbreak ที่ปรับตัวได้ โดยเฉพาะภายใต้คำสั่งที่เป็นฝ่ายตรงข้าม แม้จะมีกฎระเบียบอยู่ การบังคับใช้อาจลดลงในช่วงเวลาที่การดำเนินงานเข้มข้น ทำให้ความสามารถในการตรวจสอบและการเพิกถอนเป็นสิ่งสำคัญ
คำถามที่พบบ่อยเกี่ยวกับชั้นความปลอดภัยของ Palantir
ชั้นความปลอดภัยของ AI มีประสิทธิภาพเพียงใดในการหยุด jailbreak และการใช้งานผิดในบริบททหารจริง?
บันทึกความจำของ Amodei ระบุว่าประสิทธิภาพมีข้อจำกัด โดยชั้นความปลอดภัยถูกมองว่าเป็น “การแสดงความปลอดภัยเท่านั้น” โดยเฉพาะภายใต้แรงกดดันจากฝ่ายตรงข้ามและความเครียดในการปฏิบัติงาน
ทำไม Pentagon ถึงเรียกร้อง ‘การใช้งานที่ถูกกฎหมายทั้งหมด’ จาก Anthropic และมีการคุกคามหรือความเสี่ยงอะไรบ้าง?
AP News รายงานว่ากองทัพต้องการ “การใช้งานที่ถูกกฎหมายทั้งหมด” โดยเตือนว่าหากการเข้าถึงยังคงถูกจำกัด อาจถูกกำหนดความเสี่ยงในซัพพลายเชนและส่งผลต่อสัญญา
