สำนักกฎหมายชั้นนำของสหรัฐอเมริกา ซัลลิแวน·แอนด์ โครมเวลล์ (Sullivan & Cromwell) ได้ออกมาขอโทษต่อหน้าผู้พิพากษาของรัฐบาลกลางในที่สาธารณะเมื่อเร็ว ๆ นี้ โดยเป็นสาเหตุจากเอกสารยื่นต่อศาลล้มละลายที่ตนส่งไปเต็มไปด้วยข้อผิดพลาดที่เกิดจากการสร้างด้วย AI รวมถึงคำตัดสินที่เป็นเท็จ คำอ้างที่แต่งขึ้น และบทบัญญัติของกฎหมายที่ไม่มีอยู่จริง ซึ่งช่องโหว่เหล่านี้ถึงขั้นถูกทนายฝ่ายภายนอกนำมาเปิดโปงด้วยอย่างประชดประชัน ในขณะที่หุ้นส่วนของสำนักคิดค่าบริการสูงถึง 2,000 ดอลลาร์สหรัฐต่อชั่วโมง แต่กลับไม่สามารถทำให้การตรวจสอบและตรวจทานขั้นพื้นฐานเกิดขึ้นได้จริง
สำนักกฎหมายชั้นนำทำงานพลาด! โดนเปิดโปงว่าใช้ AI เขียนเอกสารแล้วยังมีข้อผิดพลาดมากมายต่อเนื่อง
เหตุการณ์เกิดขึ้นในคดีล้มละลายในศาลล้มละลายสหรัฐอเมริกาประจำแมนฮัตตัน ที่เกี่ยวข้องกับกลุ่มเจ้าชายกัมพูชา (Prince Group) สำนักงานซัลลิแวน·แอนด์ โครมเวลล์เข้ามาเป็นตัวแทนของผู้ชำระบัญชีที่ได้รับการแต่งตั้งโดยหน่วยงานในหมู่เกาะบริติชเวอร์จิน และได้ขึ้นศาล แต่กลับมีข้อผิดพลาดที่เกิดจากการสร้างด้วย AI เป็นจำนวนมากในเอกสารที่ยื่นประมาณสามสิบกว่าจุด
ข้อผิดพลาดเหล่านี้ไม่ได้ถูกตรวจพบโดยภายในสำนักงานด้วยซ้ำ ทว่าถูกสำนักทนายอีกฝ่ายในคดีเดียวกันอย่าง Boies Schiller Flexner เปิดเผยในเอกสารสาธารณะ ประเภทของข้อผิดพลาดได้แก่ การอ้างชื่อคำตัดสินปลอมที่ไม่มีอยู่จริงในสาระโดยสิ้นเชิง มีถ้อยคำที่แต่งขึ้นซึ่งไม่เคยถูกกล่าวหรือเขียนไว้ในเอกสารมาก่อน และแม้กระทั่งการประดิษฐ์บทบัญญัติบางส่วนของ “กฎหมายล้มละลายของสหรัฐอเมริกา” ขึ้นมาโดยตรง
Andrew Dietderich ผู้รับผิดชอบงานปรับโครงสร้างองค์กรระดับโลกของซัลลิแวน·แอนด์ โครมเวลล์ ยอมรับในจดหมายลงวันที่ 18 เมษายนถึงผู้พิพากษา Martin Glenn ว่าข้อผิดพลาดบางส่วนเป็น “ภาพหลอนของ AI” (hallucinations)
การตรวจสอบภายในกลับกลายเป็นเหมือนไม่มีอยู่จริง หุ้นส่วนของสำนักคิดค่าบริการชั่วโมงละสองพันดอลลาร์หรือไม่?
ฝ่ายสำนักกฎหมาย ในจดหมาย Dietderich รับว่า ทางสำนักได้กำหนด “นโยบายที่รอบคอบและข้อกำหนดด้านการฝึกอบรม” สำหรับการใช้เครื่องมือ AI และก่อนที่ทนายจะได้รับสิทธิ์ในการใช้เครื่องมือ AI ก็ต้องทำคอร์สฝึกอบรม โดยกำหนดไว้อย่างชัดเจนว่า “ห้ามเชื่ออะไรง่าย ๆ ทุกอย่างต้องตรวจสอบด้วยตนเอง” อย่างไรก็ตาม นโยบายดังกล่าวกลับไม่ได้ถูกนำไปใช้จริงเมื่อจัดทำเอกสารฉบับดังกล่าว และขั้นตอนการตรวจทานรอบที่สองที่ทำหน้าที่จับตาดูความเสี่ยง ก็ไม่สามารถสกัดกั้นข้อผิดพลาดใด ๆ ได้เช่นกัน
เมื่อเทียบกับอัตราค่าบริการที่หุ้นส่วนของสำนักคิดเกิน 2,000 ดอลลาร์สหรัฐต่อชั่วโมง เหตุการณ์นี้ทำให้เกิดการถกเถียงอย่างกว้างขวางในแวดวงกฎหมายทั้งในและต่างประเทศ ในจดหมายสำนักระบุว่า หลังจากพบข้อผิดพลาดแล้ว ได้ทำการตรวจสอบอย่างครอบคลุมกับเอกสารอื่นทั้งหมดในคดี ยืนยันว่า “ภาพหลอนของ AI” เกิดขึ้นเฉพาะในเอกสารฉบับนี้เท่านั้น และต่อมาก็ได้ยื่นเวอร์ชันที่แก้ไขเพิ่มเติม
ภาพหลอนของ AI กระทบแวดวงกฎหมาย ความรับผิดชอบด้านจริยธรรมของทนายความกลับถูกนำมาพิจารณาอีกครั้ง
เหตุการณ์ครั้งนี้ไม่ได้เป็นครั้งแรกที่วงการกฎหมายต้องขึ้นหน้าหนังสือเพราะ “หลุดพลาด” จาก AI ในปี 2023 ทนายความสองคนในแมนฮัตตัน นิวยอร์ก ถูกผู้พิพากษาของรัฐบาลกลางปรับ 5,000 ดอลลาร์สหรัฐ เนื่องจากยื่นสรุปคดีทางกฎหมายต่อศาลที่เต็มไปด้วยเคสที่ ChatGPT แต่งขึ้น ในช่วงไม่กี่ปีที่ผ่านมา มีคดีที่ผู้พิพากษาลงโทษทนายความหลายสิบรายจากการใช้ AI เพื่อทำวิจัยทางกฎหมายและร่างเอกสาร แต่ไม่ได้ตรวจสอบเนื้อหาอย่างเพียงพอ
สมาคมทนายความแห่งสหรัฐอเมริกา (ABA) ได้กำหนดอย่างชัดเจนแล้วให้ทนายความต้องใช้ความระมัดระวังเมื่อใช้โมเดล AI และในทางจริยธรรมก็มีหน้าที่ต้องทำให้แน่ใจว่าข้อมูลความถูกต้องของเอกสารที่ยื่นต่อศาลนั้นครบถ้วน กฎหมายปัจจุบันไม่ได้ห้ามทนายความใช้ AI แต่หน้าที่ในการตรวจสอบหลังการใช้งานยังคงตกอยู่ที่ตัวทนายความเอง
ทรัมป์ชอบ! สำนักเก่าแก่ชื่อเสียงโด่งดังขอโทษแล้ว
ซัลลิแวน·แอนด์ โครมเวลล์ ก่อตั้งมานานกว่า 100 ปี เป็นหนึ่งในสำนักกฎหมายที่เก่าแก่ที่สุดและมีชื่อเสียงสูงที่สุดในสหรัฐอเมริกา มีทนายมากกว่า 900 คน เป็นที่รู้จักทั่วโลกจากงานด้านการควบรวมกิจการ การดำเนินคดีด้านธรรมาภิบาลองค์กร และธุรกิจไพรเวตอิควิตี้ ในระยะหลัง สำนักยังคงได้รับความสนใจอย่างต่อเนื่องเนื่องจากได้รับมอบหมายให้เป็นตัวแทนประธานาธิบดีทรัมป์ในการจัดการคดีอุทธรณ์หลายประเด็น
เหตุการณ์อุกอาจจาก AI ครั้งนี้ ย่อมทำให้เครื่องหมายการันตีของสำนักกฎหมายระดับอีลิทแห่งนี้เกิดรอยร้าวที่ยากจะมองข้าม และยังเป็นการเตือนสติให้กับทั้งอุตสาหกรรมกฎหมายอีกครั้ง
บทความนี้ หัวข้อ “สำนักกฎหมายชั้นนำคิดค่าบริการเกินสองพันดอลลาร์ต่อชั่วโมง เอกสารในศาลถูกเปิดโปง ‘AI ภาพหลอน ข้อผิดพลาดมากมายต่อเนื่อง’” ปรากฏครั้งแรกใน เครือข่ายข่าว ABMedia
