MetaのAI、児童虐待調査官に「役に立たない」アドバイスを大量に提供していると法執行官が主張

要約

• ICAC（インターネット犯罪対策チーム）の捜査官は、MetaのAIによる通報が使えない報告書で捜査官を圧倒していると述べている。
• これは、MetaのAIが児童虐待の捜査を複雑にしているとするニューメキシコ州の訴訟に伴うもの。
• Metaは、法執行機関と迅速に協力し、報告書を提出前にレビューしていると反論している。

Metaがプラットフォームを監視するために人工知能を使用していることが、低品質の大量の通報を生み出し、リソースを消耗し、児童虐待の捜査を遅らせていると、_The Guardian_の報告書は伝えている。 このニュースは、先週ニューメキシコ州の法執行官が証言した際に、AI生成の通報が捜査官を圧倒し、児童搾取事件の捜査を遅らせていることと重なる。 インターネット犯罪対策チーム（ICAC）の捜査官は、特にMetaの自動化システムを挙げ、毎月何千件もの使えない通報が生成され、それが法執行機関に送られていると述べた。 「Metaからの通報はほとんどがゴミのようなものです」と、ニューメキシコのICAC特別捜査官ベンジャミン・ズヴィーベルは、同州の訴訟中に証言した。

別のICAC捜査官は匿名で_The Guardian_に対し、2024年から2025年にかけてサイバー通報が倍増したと語った。 「非常に圧倒されています。多くの通報を受け取っていますが、その質が非常に低いため、真剣な対応を取ることが難しいです」と述べた。 _Decrypt_に提供された声明で、Metaのスポークスパーソンは、同社は長年にわたり法執行機関と協力しており、司法省や全国失踪・搾取児童センター（NCMEC）からその報告プロセスを高く評価されていると述べた。

「2024年には、米国当局から9,000件以上の緊急要請を受け、平均67分以内に対応し、児童の安全や自殺に関わるケースではさらに迅速に対応しました」とスポークスパーソンは述べた。 「適用法に従い、明らかに児童性的搾取の画像をNCMECに報告し、ケース管理ツールの構築やサイバー通報のラベリングなど、報告の優先順位付けを支援しています」と付け加えた。 しかし、ICACの捜査官は、Metaから送られる通報の中には犯罪性のないものや、事件追及に必要な信頼できる証拠が不足しているものもあると指摘している。 この増加は、2024年5月に成立したReport Actに基づき、計画的または差し迫った虐待、児童性売買、関連搾取を含む報告義務が拡大され、企業に証拠の保存期間を延長させる内容を含んでいる。

数字で見ると Metaは、NCMECのCyberTiplineに送られる通報の約3分の2を占め、2024年に受け取った2050万件の通報のうち最も多い源となっている。これは2023年の3620万件から減少している。この減少は、Metaの報告方法の変更に一部起因していると考えられる。 2025年8月のインテグリティレポートによると、MetaはFacebook、Instagram、Threadsから2025年第2四半期に200万件以上のCyberTip報告をNCMECに送信した。そのうち52万8千件以上が児童との不適切な交流に関するもので、150万件以上が児童性的虐待資料の共有や再共有に関するものだった。 これらの数字にもかかわらず、Public Citizenの政策擁護者JB・ブランチは、AIへの依存増加によりReport Actの効率性が低下していると指摘し、アルゴリズムは長い間モデレーターの負担軽減に役立ってきたが、人間のレビュアーが最も効果的なフィルターだと主張している。 「問題の一つは、多くのテック企業がコンテンツモデレーターを解雇し、AIセキュリティ機能に置き換えたことです」とブランチは_Decrypt_に語った。「その結果、過剰な注意から誤検知の偽陽性が増えすぎているのです。」 以前は、レビューの過程にもっと多くの人間のレビュアーがいて、内容を識別し、必要に応じて削除できたという。 「これらの企業は人間のコンテンツモデレーターやレビュアーを排除したため、より多くの内容が通過してしまい、慎重を期すために広範なネットを張っているのです」と彼は述べた。「本来なら除外できる内容も多く含まれており、その多くをAIツールに頼っているのです。」 捜査官は、誤ったAI生成の通報の影響が、実際にそれをレビューするタスクフォース内で感じられていると述べている。 「士気が下がっています。通報に圧倒されていて、私たちはこの仕事を続けたいのに、 personnelが足りません。流入する洪水に追いつくことは不可能です」とICACの捜査官は語った。