xAI подала в суд на пользователей Grok за создание детских дипфейк-видео — случай, не имеющий аналогов в отрасли

По сообщению Reuters от 16 июля, xAI подала в федеральный суд США в Техасе гражданский иск против жителя Южной Каролины Терри Харвуда (Terry Harwood), обвиняя его в создании с помощью чат-бота Grok материалов сексуального насилия над детьми через deepfake. Как сообщается, это первый случай, когда ИИ-компания привлекла своего пользователя к ответственности, а основания связаны с контентом, который пользователь генерировал на ее платформе.

Суть иска xAI: действия Harwood, противодействие фильтрам Grok и требования суда

（Источник：Fingfx）

Согласно тексту иска, Харвуд создавал несколько аккаунтов, используя фальшивые личности, вводил в Grok обычные фотографии взрослых и детей и давал инструкции, требуя преобразовать снимки в порнографический контент; как указывает телеканал Peninsula, изображенные на фото люди не давали согласия и не знали о том, что их фотографии используются.

xAI утверждает, что Grok отклонил указанные запросы и пометил их как нарушение правил контента, но ответ Харвуда заключался в том, что он продолжал изменять подсказки и пробовать снова. В судебных документах xAI написала: «Действия ответчика носят умышленный характер и направлены на использование инструментов истца для совершения преступной деятельности, причиняя реальным жертвам глубокий и длительный вред».

xAI выдвигает в суде следующие два требования:

Компенсация ущерба: требует, чтобы Харвуд возместил ущерб, причиненный его действиями; конкретная сумма в судебных документах не указана.

Заявление о запрете: просит суд запретить Harwood снова использовать любые продукты Grok.

Принудительное исполнение на платформе xAI: в 2026 году было приостановлено более 52,2 тыс. аккаунтов, что привело к 244 арестам.

xAI раскрывает в судебных документах количественные данные о принудительном исполнении на своей платформе: по состоянию на момент подачи документов компания в 2026 году приостановила 52 222 аккаунта и подала 73 604 отчета в Национальный центр по пропавшим и эксплуатируемым детям США (NCMEC); как минимум 244 ареста в 2026 году стали результатом этих отчетов.

Регуляторный фон Grok: европейская проверка, запрет в Малайзии и Индонезии

До возбуждения этого иска xAI уже сталкивалась с давлением в связи с функциями Grok: европейские регуляторы начали проверку Grok; Малайзия и Индонезия запретили использование этого чат-бота из‑за того, что его выводимый контент содержит откровенные сексуальные намеки, как сообщается в материале телеканала Peninsula.

Сам Илон Маск 14 января в посте на платформе X заявил: «Я не знаю, чтобы Grok генерировал какие-либо голые фото несовершеннолетних. Абсолютно нет», — и добавил, что Grok не будет самопроизвольно создавать изображения, а принцип его работы заключается в отказе от генерации любого незаконного контента.

DEFIANCE Act: законодательный контекст 2024 года и последующие шаги по штатам

DEFIANCE Act («Закон о сопротивлении») был подписан и вступил в силу на федеральном уровне в США в 2024 году, предоставив жертвам непроизвольных приватных deepfake-видео путь к подаче гражданского иска; на данный момент несколько штатов уже приняли соответствующие законы на уровне штатов.

Согласно сообщениям, принятие DEFIANCE Act увеличило количество подач по таким делам, и гражданский иск xAI против Harwood был подан на фоне, когда этот законодательный каркас уже был сформирован.

Частые вопросы

Это первый случай, когда ИИ-компания подала в суд на пользователя из‑за контента, сгенерированного на платформе?

Как сообщается, гражданский иск xAI против Терри Харвуда — это первый случай, когда ИИ-компания привлекла к ответственности своего пользователя, и основания связаны с контентом, который пользователь создавал на платформе; в материале Reuters об этом деле указано, что это именно так.

Какие два конкретных требования xAI выдвигает в суд?

xAI подала в федеральный суд США в Техасе два требования: (1) взыскать с Harwood ущерб (конкретная сумма в судебных документах не указана); (2) заявить обеспечительный запрет, запрещающий Harwood снова использовать любые продукты Grok.

Что такое DEFIANCE Act и какое отношение он имеет к этому делу?

DEFIANCE Act был подписан и вступил в силу на федеральном уровне в США в 2024 году, предоставив жертвам непроизвольных приватных deepfake-видео возможность подать гражданский иск; несколько штатов также приняли соответствующие законы на уровне штатов. Как сообщается, реализация этого закона увеличила количество подач по связанным делам, и данный иск xAI возник на фоне того, что этот законодательный каркас уже был сформирован.