Французская полиция обыскивает офис X в Париже в рамках расследования Grok AI и незаконного контента

Вкратце

• Французские следователи обыскали офисы X в Париже в рамках расследования по делу о нелегционном контенте и практиках алгоритмов.
• Дело расширилось после жалоб на использование Grok для генерации не по согласию сексуальных изображений, включая детей.
• Регуляторы Великобритании начали параллельные расследования в рамках законов о защите данных и онлайн-безопасности.

Французские власти провели обыск в офисах социальной платформы X в Париже во вторник в рамках расширяющегося уголовного расследования предполагаемой детской порнографии, связанной с AI-чатботом платформы Grok. По информации Sky News, обыск был проведен специализированным подразделением по киберпреступности Франции в координации с Europol. Прокуроры сообщили, что владелец X, Илон Маск, был вызван для дачи показаний, а также несколько действующих и бывших руководителей, включая бывшего генерального директора Линду Якарино. «Расследование касается ряда подозреваемых уголовных преступлений, связанных с функционированием и использованием платформы, включая распространение нелегального контента и другие формы онлайн-преступной деятельности», — заявил Europol в своем заявлении. «Europol готов продолжать поддержку французских властей по мере развития расследования.»

 Расследование в отношении Grok, начатое в прошлом месяце, сосредоточено на обвинениях в соучастии X в распространении материалов сексуального насилия над детьми и другого нелегального контента, при этом власти утверждают, что Grok использовался для генерации более 23 000 сексуализированных изображений детей. В августе прошлого года xAI запустила «Spicy Mode» специально для генерации NSFW-контента, включая громкий случай с дипфейками Тейлор Свифт. В сообщении в X отдел глобальных государственных дел социальной сети опроверг любые нарушения, назвав обыск «политизированным уголовным расследованием предполагаемой манипуляции алгоритмами и фальсификацией данных».

«Сегодняшний инсценированный обыск подтверждает нашу уверенность в том, что это расследование искажает французское законодательство, обходя надлежащие процедуры и ставит под угрозу свободу слова», — написали они. «X привержена защите своих основных прав и прав своих пользователей. Мы не поддадимся запугиванию действиями французских судебных органов сегодня.» Группы защиты прав потребителей утверждают, что при расследовании разработчиков ИИ, чьи инструменты используются для создания нелегального контента, следует учитывать, могла ли компания разумно предвидеть, как эти инструменты могут быть злоупотреблены. «Регуляторы должны проверить, сделали ли выборы в дизайне компании предсказуемое использование в незаконных целях, были ли оценки рисков адекватными и были ли меры предосторожности действительно протестированы перед запуском», — заявил J.B. Branch, представитель Public Citizen, Decrypt. «Платформы, получающие прибыль от быстрого развертывания, должны нести ответственность за вред, который это развертывание создает. Именно это происходит в других отраслях.» Хотя текущие законы против не по согласию сексуальных изображений и материалов о сексуальном насилии над детьми остаются важными, Branch отметил, что они не предназначены для ИИ, который может «массово производить вред с масштабируемой скоростью». «Нам нужны более четкие, проактивные обязательства, требующие от компаний предотвращать злоупотребления с помощью ИИ до их возникновения, включая независимое тестирование регуляторами, которое может стресс-тестировать проблемы до выхода продуктов на рынок», — сказал он. «Когда происходит что-то настолько серьезное, инструмент должен быть немедленно удален.» Расследования продолжаются Расследования в отношении чатбота теперь расширились на несколько юрисдикций, включая Великобританию, ЕС, Индию, Австралию и США. В тот же день, когда французские власти провели обыск в офисе X в Париже, Британская служба по делам информации (ICO) объявила о начале собственного расследования в отношении Grok. «Мы предприняли этот шаг после сообщений о том, что Grok использовался для генерации не по согласию сексуальных изображений людей, включая детей», — заявил исполнительный директор ICO по вопросам регулирования риска и инноваций Уильям Малькольм. «Создание и распространение такого контента вызывает серьезные опасения в рамках закона о защите данных Великобритании и представляет риск значительного потенциального вреда для общественности.»

По словам Малькольма, эти опасения связаны с вопросом о том, обрабатывались ли личные данные законно, справедливо и прозрачно, а также были ли встроены соответствующие меры предосторожности в дизайн и развертывание Grok для предотвращения генерации вредоносных манипулированных изображений с использованием личных данных. «Когда эти меры не работают, люди теряют контроль над своими личными данными, что подвергает их серьезной опасности», — написал он. «Изучение этих рисков является центральной задачей ICO в защите прав людей и привлечении организаций к ответственности при разработке и внедрении технологий ИИ.» Действия в Европе — это последние меры против X и Grok, в прошлом месяце британский регулятор СМИ Ofcom начал расследование о возможных нарушениях X своих обязательств по Закону о онлайн-безопасности. В январе, после международной критики Grok, xAI заявила, что ограничила возможности чатбота по редактированию изображений и заблокировала определенные запросы, связанные с генерацией изображений людей. Обыск в Париже произошел за день после того, как Маск объявил о приобретении SpaceX компании xAI, стартапа искусственного интеллекта, который ранее поглотил X, поместив платформу и ее системы ИИ под корпоративную шапку SpaceX, поскольку регуляторное давление усиливается. «Мы знаем, что X или Grok теперь предлагает «Spicy Mode», показывающий откровенный сексуальный контент с некоторыми изображениями, сгенерированными с детскими образами», — заявил представитель Еврокомиссии Томас Регнье на недавней пресс-конференции в Брюсселе. «Это не острое. Это незаконно. Это отвратительно. Это противоречит европейским ценностям.» SpaceX и xAI не сразу ответили на запросы Decrypt.