法国警方突袭X在巴黎的办公室，调查Grok AI和非法内容

简要概述

• 法国调查人员在对非法内容和算法行为的调查中，搜查了X在巴黎的办公室。
• 由于有人投诉Grok被用来生成非自愿的性图片，包括儿童的图片，案件范围扩大。
• 英国监管机构已根据数据保护和网络安全法律展开平行调查。

法国当局于星期二突袭了社交媒体平台X在巴黎的办公室，作为对该平台的AI聊天机器人Grok涉嫌儿童色情的刑事调查的扩大行动的一部分。据_天空新闻_报道，此次搜查由法国专业的网络犯罪部门与欧洲刑警组织（Europol）协调进行。 检察官表示，X的所有者埃隆·马斯克已被传唤接受讯问，包括几位现任和前任高管，其中包括前首席执行官琳达·雅卡里诺。 “调查涉及与平台的运作和使用相关的一系列涉嫌犯罪行为，包括非法内容的传播和其他形式的网络犯罪活动，”欧洲刑警组织在一份声明中表示。“欧洲刑警组织准备在调查进行中继续支持法国当局。”

 上个月启动的Grok调查，集中在X涉嫌协助传播儿童性虐待材料和其他非法内容的指控上，相关当局指控Grok被用来生成超过23,000张儿童性化图片。 去年八月，xAI推出了“辣味模式”，专门用来生成NSFW内容，包括涉及泰勒·斯威夫特的深度伪造案例。 在X上的一篇帖子中，这家社交媒体巨头的全球政府事务部门否认有任何不当行为，称此次突袭是“对算法操控和虚假数据提取的政治化刑事调查”。

“今天的突袭强化了我们的信念，即此项调查歪曲了法国法律，规避了正当程序，并危及言论自由，”他们写道。“X致力于捍卫其基本权利和用户的权益。我们不会被法国司法当局的行动所威胁。” 消费者权益保护组织认为，当监管机构调查那些被用来创建非法内容的AI开发者时，应当审查公司是否合理预见到这些工具可能被滥用。 “监管机构应当审查公司在设计选择上是否使非法滥用变得可预见，风险评估是否充分，以及在发布前是否进行了有意义的安全措施测试，”公共公民组织的大科技责任倡导者J.B. Branch告诉_Decrypt_。“依赖快速部署获利的平台必须对由此带来的危害承担责任。这在其他行业也是如此。” 虽然现行关于非自愿性图片和儿童性虐待材料的法律仍然至关重要，Branch表示这些法律并未为能够“大规模快速生产危害”的AI设计。 “我们需要更明确、更主动的义务，要求公司在危害发生前预防AI引发的滥用，包括由独立监管机构进行的压力测试，以在AI产品上市前发现问题，”他说。“当发生如此严重的事件时，工具应立即被移除。” 调查不断扩大 对聊天机器人的调查现已扩展到多个司法管辖区，包括英国、欧盟、印度、澳大利亚和美国。 法国官员突袭X在巴黎的办公室当天，英国信息专员办公室（ICO）也宣布对Grok展开调查。 “我们采取这一措施，是因为有报告称Grok被用来生成非自愿的个人性图片，包括儿童，”ICO执行董事William Malcolm在一份声明中表示。“此类内容的创建和传播引发了英国数据保护法下的严重担忧，并对公众构成重大潜在危害。”

据Malcolm称，这些担忧涉及个人数据是否被合法、公平、透明地处理，以及Grok的设计和部署是否建立了适当的安全措施，以防止利用个人数据生成有害的操控图片。 “当这些安全措施失效时，个人将失去对其个人数据的控制，从而面临严重的危害，”他写道。“审查这些风险是ICO保护公众权益和追究组织责任的核心职责，尤其是在设计和部署AI技术时。” 欧洲的行动是针对X和Grok的最新措施，上个月，英国媒体监管机构Ofcom也对X是否违反了《网络安全法》中的义务展开了调查。 今年一月，随着国际社会对Grok的反弹，xAI表示已限制聊天机器人的图像编辑功能，并屏蔽了与生成图片相关的某些提示。 巴黎突袭发生在马斯克宣布SpaceX收购xAI的第二天，后者此前已吸收了X，将该社交平台及其AI系统置于SpaceX的企业旗下，随着监管审查的加剧。 “我们知道，X或Grok现在提供‘辣味模式’，显示带有儿童形象的露骨性内容，”欧盟委员会发言人在布鲁塞尔的一次新闻发布会上表示。“这不是辣味。这是非法的。这令人震惊。这令人作呕。在欧洲没有立足之地。” SpaceX和xAI未立即回应_Decrypt_的置评请求。