Sullivan & Cromwell ขอโทษต่อกรณีหลอนของ AI ในเอกสารยื่นศาลที่มีคำอ้างอิงผิดพลาด 40 รายการ

ข่าวประจำเกต วันที่ 23 เมษายน — Sullivan & Cromwell ซึ่งเป็นสำนักงานกฎหมายรายใหญ่ในวอลสตรีท ได้ขอโทษต่อผู้พิพากษาศาลรัฐบาลกลาง หลังจากยื่นเอกสารทางศาลที่มีคำอ้างอิงที่ไม่ถูกต้องประมาณ 40 รายการและข้อผิดพลาดอื่น ๆ ที่เกิดจากการหลอนของ AI Andrew Dietderich ผู้ร่วมหัวหน้าทีมปรับโครงสร้างระดับโลกของสำนักงานกฎหมาย เขียนถึงหัวหน้าผู้พิพากษา Martin Glenn แห่งศาลล้มละลายสหรัฐฯ ประจำเขต Southern District of New York ในวันศุกร์ โดยระบุว่า “เราเสียใจอย่างยิ่งที่เหตุการณ์นี้เกิดขึ้น” และรับผิดชอบต่อความล้มเหลวในการทำให้มั่นใจถึงความถูกต้อง

จากฐานข้อมูลที่ดูแลโดยนักเทคโนโลยีกฎหมาย Damien Charlotin มีเหตุการณ์ที่บันทึกไว้เกี่ยวกับการหลอนของ AI ในเอกสารยื่นศาลทั่วโลกจำนวน 1,334 ครั้ง โดยมากกว่า 900 ครั้งเกิดขึ้นในสหรัฐฯ อาการหลอนส่วนใหญ่เกี่ยวข้องกับคำอ้างอิงที่ถูกสร้างขึ้นปลอม แม้ว่าจะมีการพบข้อโต้แย้งทางกฎหมายที่สร้างโดย AI ในบางกรณีเช่นกัน

Dietderich ระบุว่า Sullivan & Cromwell มีนโยบายในการใช้งานเครื่องมือ AI รวมถึงกระบวนการทบทวนคำอ้างอิง แต่ไม่ได้ปฏิบัติตามนโยบายเหล่านั้นในกรณีนี้ เขากล่าวว่า: “น่าเสียดายที่กระบวนการทบทวนนี้ไม่สามารถตรวจพบคำอ้างอิงที่ไม่ถูกต้องซึ่ง AI สร้างขึ้น และก็ไม่สามารถตรวจพบข้อผิดพลาดอื่น ๆ ที่ดูเหมือนจะเกิดจากความผิดพลาดด้วยตนเองทั้งหมดหรือบางส่วน” บริษัทกำลังดำเนินการสอบสวนภายใน และประเมินการปรับปรุงกระบวนการฝึกอบรมและการทบทวน

ข้อผิดพลาดถูกค้นพบโดยสำนักงานกฎหมายคู่แข่ง Boies Schiller Flexner Sullivan & Cromwell ซึ่งอยู่ลำดับที่ 30 ในการจัดอันดับ AmLaw Global 200 เคยเป็นตัวแทนของแพลตฟอร์มแลกเปลี่ยนคริปโต FTX มาก่อนในคดีล้มละลาย