สรุปโดยย่อ
- นักสืบฝรั่งเศสได้บุกค้นสำนักงาน X ในปารีสเป็นส่วนหนึ่งของการสอบสวนเกี่ยวกับเนื้อหาที่ผิดกฎหมายและแนวปฏิบัติของอัลกอริทึม
- คดีนี้ขยายวงกว้างขึ้นหลังจากมีการร้องเรียนว่า Grok ถูกใช้เพื่อสร้างภาพอนาจารที่ไม่เต็มใจ รวมถึงภาพของเด็ก
- หน่วยงานกำกับดูแลในสหราชอาณาจักรได้เปิดการสอบสวนคู่ขนานภายใต้กฎหมายคุ้มครองข้อมูลและความปลอดภัยออนไลน์
เจ้าหน้าที่ฝรั่งเศสบุกค้นสำนักงาน X ในปารีสเมื่อวันอังคารเป็นส่วนหนึ่งของการสอบสวนอาชญากรรมที่ขยายวงกว้างเกี่ยวกับการล่วงละเมิดทางเพศเด็กที่เชื่อมโยงกับแชทบอท AI ของแพลตฟอร์ม, Grok
อ้างอิงจากรายงานของ Sky News การค้นหาเป็นไปโดยหน่วยงานอาชญากรรมไซเบอร์เฉพาะทางของฝรั่งเศสร่วมกับ Europol
อัยการกล่าวว่าเจ้าของ X, Elon Musk ได้รับหมายเรียกให้ให้ปากคำ พร้อมกับผู้บริหารในปัจจุบันและอดีตหลายคน รวมถึงอดีตประธานบริหาร Linda Yaccarino
“การสอบสวนนี้เกี่ยวข้องกับข้อกล่าวหาอาชญากรรมในหลายด้านที่เชื่อมโยงกับการทำงานและการใช้แพลตฟอร์ม รวมถึงการเผยแพร่เนื้อหาที่ผิดกฎหมายและกิจกรรมอาชญากรรมออนไลน์อื่น ๆ” Europol กล่าวในแถลงการณ์ “Europol พร้อมที่จะสนับสนุนเจ้าหน้าที่ฝรั่งเศสต่อไปในขณะที่การสอบสวนดำเนินไป”
การสอบสวนใน Grok ซึ่งเริ่มเมื่อเดือนที่แล้ว มุ่งเน้นไปที่ข้อกล่าวหาว่า X มีส่วนร่วมในการแจกจ่ายเนื้อหาล่วงละเมิดทางเพศเด็กและเนื้อหาอื่น ๆ ที่ผิดกฎหมาย โดยเจ้าหน้าที่กล่าวหาว่า Grok ถูกใช้เพื่อสร้างภาพอนาจารของเด็กมากกว่า 23,000 ภาพ
เมื่อเดือนสิงหาคมที่ผ่านมา xAI ได้เปิดตัว “Spicy Mode” โดยเฉพาะเพื่อสร้างเนื้อหา NSFW รวมถึงกรณีที่มีชื่อเสียงเกี่ยวกับ Deepfake ของ Taylor Swift
ในโพสต์บน X ฝ่ายกิจการรัฐบาลทั่วโลกของยักษ์โซเชียลมีเดียปฏิเสธความผิดใด ๆ โดยเรียกการบุกค้นว่าเป็น “การสอบสวนอาชญากรรมทางการเมืองเกี่ยวกับการบิดเบือนอัลกอริทึมและการดึงข้อมูลเท็จที่อ้างว่าเป็นเท็จ”
“การบุกค้นที่จัดฉากในวันนี้ ย้ำความเชื่อมั่นของเราว่าการสอบสวนนี้บิดเบือนกฎหมายฝรั่งเศส ละเว้นกระบวนการที่เหมาะสม และเป็นอันตรายต่อเสรีภาพในการพูด” พวกเขาเขียน “X มุ่งมั่นที่จะปกป้องสิทธิพื้นฐานของตนและสิทธิของผู้ใช้ เราจะไม่หวาดกลัวต่อการดำเนินการของเจ้าหน้าที่ศาลฝรั่งเศสในวันนี้”
กลุ่มสนับสนุนผู้บริโภคแย้งว่า เมื่อหน่วยงานกำกับดูแลสอบสวนผู้พัฒนา AI ซึ่งเครื่องมือของพวกเขาถูกใช้สร้างเนื้อหาที่ผิดกฎหมาย ควรตรวจสอบว่าบริษัทสามารถคาดการณ์ได้หรือไม่ว่าเครื่องมือเหล่านั้นจะถูกใช้ในทางผิด
“หน่วยงานกำกับดูแลควรตรวจสอบว่าการเลือกออกแบบของบริษัททำให้การใช้ในทางผิดกฎหมายเป็นไปได้หรือไม่ การประเมินความเสี่ยงเป็นเพียงพอหรือไม่ และมาตรการป้องกันได้รับการทดสอบอย่างมีความหมายก่อนเปิดตัวหรือไม่” J.B. Branch นักรณรงค์ความรับผิดชอบของ Big Tech ที่ Public Citizen กล่าวกับ Decrypt “แพลตฟอร์มที่ได้กำไรจากการเปิดตัวอย่างรวดเร็วต้องรับผิดชอบต่อความเสียหายที่เกิดขึ้นจากการใช้งานนั้น นั่นคือสิ่งที่เกิดขึ้นในอุตสาหกรรมอื่น ๆ”
แม้กฎหมายปัจจุบันเกี่ยวกับภาพอนาจารทางเพศที่ไม่เต็มใจและเนื้อหาล่วงละเมิดทางเพศเด็กยังคงมีความสำคัญ แต่ Branch กล่าวว่า กฎหมายเหล่านี้ไม่ได้ถูกสร้างขึ้นสำหรับ AI ที่สามารถ “ผลิตความเสียหายจำนวนมากในความเร็วที่สามารถขยายได้”
“เราต้องการข้อผูกพันที่ชัดเจนและเชิงรุกมากขึ้น ซึ่งบังคับให้บริษัทป้องกันการล่วงละเมิดด้วย AI ก่อนที่จะเกิดขึ้น รวมถึงการทดสอบโดยหน่วยงานอิสระเพื่อทดสอบปัญหาก่อนที่ผลิตภัณฑ์ AI จะเข้าสู่ตลาด” เขากล่าว “เมื่อเกิดเหตุการณ์ที่ร้ายแรงเช่นนี้ เครื่องมือนั้นควรถูกถอดออกทันที”
การสอบสวนมากมาย
การสอบสวนเกี่ยวกับแชทบอทนี้ได้ขยายไปยังหลายเขตอำนาจ รวมถึงสหราชอาณาจักร สหภาพยุโรป อินเดีย ออสเตรเลีย และสหรัฐอเมริกา
ในวันเดียวกับที่เจ้าหน้าที่ฝรั่งเศสบุกค้นสำนักงาน X ในปารีส สำนักงานคณะกรรมการข้อมูลของสหราชอาณาจักร (ICO) ก็ประกาศว่าได้เปิดการสอบสวนใน Grok ด้วย
“เราได้ดำเนินการขั้นตอนนี้หลังจากรายงานว่า Grok ถูกใช้เพื่อสร้างภาพอนาจารที่ไม่เต็มใจของบุคคล รวมถึงเด็ก” William Malcolm ผู้อำนวยการบริหารด้านความเสี่ยงและนวัตกรรมของ ICO กล่าวในแถลงการณ์ “การสร้างและเผยแพร่เนื้อหาเช่นนี้ก่อให้เกิดความกังวลอย่างร้ายแรงภายใต้กฎหมายคุ้มครองข้อมูลของสหราชอาณาจักร และเสี่ยงต่ออันตรายอย่างมีนัยสำคัญต่อสาธารณะ”
Malcolm กล่าวว่าความกังวลเหล่านี้เกี่ยวข้องกับว่าข้อมูลส่วนบุคคลได้รับการประมวลผลอย่างถูกกฎหมาย ยุติธรรม และโปร่งใสหรือไม่ และมาตรการป้องกันที่เหมาะสมได้ถูกรวมอยู่ในการออกแบบและการใช้งานของ Grok เพื่อป้องกันการสร้างภาพที่ถูกดัดแปลงและเป็นอันตรายโดยใช้ข้อมูลส่วนบุคคล
“เมื่อมาตรการป้องกันเหล่านั้นล้มเหลว บุคคลจะสูญเสียการควบคุมข้อมูลส่วนบุคคลของตนในทางที่เปิดเผยให้เกิดอันตรายร้ายแรง” เขาเขียน “การตรวจสอบความเสี่ยงเหล่านี้เป็นหัวใจสำคัญของบทบาทของ ICO ในการปกป้องสิทธิของประชาชนและการถือองค์กรรับผิดชอบในขณะที่พวกเขาออกแบบและใช้งานเทคโนโลยี AI”
การดำเนินการในยุโรปเป็นการดำเนินการล่าสุดที่มุ่งเป้าไปที่ X และ Grok เมื่อเดือนที่แล้ว หน่วยงานกำกับดูแลสื่อของสหราชอาณาจักร Ofcom ได้เปิดการสอบสวนว่าทำให้ X ละเมิดภาระผูกพันภายใต้พระราชบัญญัติความปลอดภัยออนไลน์หรือไม่
ในเดือนมกราคม หลังจากเสียงตอบรับในระดับนานาชาติที่ต่อต้าน Grok xAI กล่าวว่าได้จำกัดความสามารถในการแก้ไขภาพของแชทบอทและบล็อกคำสั่งบางคำที่เกี่ยวข้องกับการสร้างภาพของบุคคล
การบุกค้นในปารีสเกิดขึ้นหนึ่งวันหลังจาก Musk ประกาศว่า SpaceX เข้าซื้อ xAI ซึ่งเป็นสตาร์ทอัปด้านปัญญาประดิษฐ์ที่เคยดูแล X มาก่อน โดยวางแพลตฟอร์มโซเชียลมีเดียและระบบ AI ของมันภายใต้กลุ่มบริษัท SpaceX ขณะที่การตรวจสอบกฎระเบียบเข้มงวดยิ่งขึ้น
“เราทราบดีว่า X หรือ Grok ตอนนี้มีโหมด Spicy ที่แสดงเนื้อหาเพศชัดเจน พร้อมภาพที่สร้างขึ้นด้วยภาพเด็ก” โฆษกคณะกรรมาธิการสหภาพยุโรป Thomas Regnier กล่าวในระหว่างการแถลงข่าวเมื่อเร็ว ๆ นี้ที่บรัสเซลส์ “นี่ไม่ใช่ Spicy นี่ผิดกฎหมาย น่ารังเกียจ น่าขยะแขยง ไม่มีที่ในยุโรป”
SpaceX และ xAI ยังไม่ได้ตอบสนองต่อคำขอแสดงความคิดเห็นจาก Decrypt
