ヌードAI画像:米国の「Take It Down Act」により、ユーザーは迅速な削除をリクエストできるようになります

2025年12月末以降、Xの人工知能チャットボットGrokは、実在の人物を裸にするという多くのユーザー様のリクエストに応じて、人物の写真を性的に露骨な素材に変換してきました。この機能を使用する人々が現れた後、このソーシャルプラットフォーム企業は、実在の人物の同意なき性的に露骨な描写の生成を可能にしたとして、世界的な監視に直面しました。

Grokのアカウントは、1時間あたり数千枚の「ヌード化」された性的示唆的な画像を投稿しています。さらに憂慮すべきことに、Grokは未成年者の性的な画像や性的に露骨な素材を生成しています。

Xの対応:プラットフォームのユーザー様を非難し、私たちではありません。同社は2026/1/3に声明を発表し、「違法なコンテンツを作成するためにGrokを使用またはプロンプトする者は、違法なコンテンツをアップロードした場合と同じ結果を受けることになります」と述べました。Xがユーザー様に対してどのような措置を取ったのか、もしあればですが、明らかではありません。

法律と新興技術の交差点を研究する法学者として、私はこの一連の同意なき画像を、Xの緩やかなコンテンツモデレーションポリシーと、強力な生成AIツールのアクセシビリティーの組み合わせの予測可能な結果として見ています。

ユーザーをターゲットに

生成AIの急速な台頭により、実在の子供の画像の「ヌード化」を含む、性的に露骨な素材を生成できる無数のウェブサイト、アプリ、チャットボットが生まれました。しかし、これらのアプリやウェブサイトは、Xのような主要なソーシャルメディアプラットフォームほど広く知られたり使用されたりしていません。

州議会と連邦議会は比較的迅速に対応しました。2025年5月、連邦議会は「Take It Down Act」を制定し、実在の人物の同意なき性的に露骨な素材の公開を犯罪としました。Take It Down Actは、特定可能な人物の「親密な視覚的描写」の同意なき公開と、AIまたはコンピューター生成による特定可能な人物の描写の両方を犯罪化しています。

これらの刑事規定は、性的に露骨なコンテンツを投稿する個人にのみ適用され、ソーシャルメディアウェブサイトなどのコンテンツを配信するプラットフォームには適用されません。

ただし、Take It Down Actの他の規定では、プラットフォームが描かれた人物が画像の削除を要求するプロセスを確立することが求められています。「Take It Down Request」が提出されると、プラットフォームは48時間以内に性的に露骨な描写を削除しなければなりません。しかし、これらの要件は2026/5/19まで発効しません。

プラットフォームの問題

一方、Grokが生成した性的に露骨な画像を削除するユーザー様のリクエストは、明らかに回答されていません。イーロン・マスクの子供の母親であるアシュリー・セント・クレアでさえ、マスクのファンがGrokを使用して作成した彼女の偽の性的な画像をXに削除させることができませんでした。The Guardianは、セント・クレアが「Xスタッフへのクレームは無駄に終わった」と述べたと報じています。

これは私を驚かせません。なぜなら、マスクはプラットフォームを買収した直後に、当時のTwitterの信頼と安全に関する諮問グループを解体し、信頼と安全に専念する会社のエンジニアの80%を解雇したからです。信頼と安全チームは、通常、テクノロジー企業におけるコンテンツモデレーションと虐待防止の取り組みを担当しています。

公的には、マスクは状況の深刻さを軽視しているように見えます。マスクは一部の画像に対して笑い泣き絵文字を投稿したと報じられており、Xはロイターの記者の問い合わせに対して「Legacy Media Lies」という自動返信で応答しました。

訴訟の限界

OpenAIのChatGPTとのやり取りの後、2025年4月に自殺した10代のアダム・レインの両親が提起した訴訟のような民事訴訟は、プラットフォームに責任を負わせる一つの方法です。しかし、訴訟は米国では困難に直面しています。通信品位法第230条により、ソーシャルメディアプラットフォームは、ユーザー様がプラットフォームに投稿するコンテンツに対する法的責任から一般的に免責されているためです。

しかし、最高裁判所のクラレンス・トーマス判事と多くの法学者は、第230条が裁判所によってあまりにも広く適用されていると主張しています。私は一般的に、第230条の免責を狭める必要があると同意しています。なぜなら、テクノロジー企業とそのプラットフォームの意図的な設計選択—ソフトウェアの構築方法、ソフトウェアの動作方法、ソフトウェアが生成するもの—を免責することは、第230条の保護の範囲外であるからです。

この場合、Xは故意または過失により、特定可能な人物の性的に露骨な画像をユーザー様が生成するのを防ぐための保護措置と管理をGrokに展開することができませんでした。マスクとXが、ユーザー様がGrokを使用して成人の性的に露骨な画像を生成する能力を持つべきだと信じていたとしても、実在の子供の性的に露骨な素材を生成する製品を構築したことに対してXが責任を逃れるべき世界はないと私は信じています。

規制のガードレール

人々が民事訴訟を通じてXのようなプラットフォームに責任を負わせることができない場合、連邦政府がそれらを調査し規制することになります。例えば、連邦取引委員会、司法省、または議会は、Grokの同意なき性的に露骨な素材の生成についてXを調査することができます。しかし、マスクのドナルド・トランプ大統領との新たな政治的つながりを考えると、近い将来、真剣な調査と説明責任を期待していません。

現在、国際規制当局はXとGrokに対する調査を開始しています。フランス当局は、Grokからの「性的に露骨なディープフェイクの拡散」に関する調査を開始し、アイルランド市民自由評議会とデジタル・ライツ・アイルランドは、「大量の脱衣行為」を調査するようアイルランドの国家警察に強く要請しています。英国の規制機関である通信庁は、この問題を調査していると述べており、欧州委員会、インド、マレーシアの規制当局もXを調査していると報じられています。

米国では、Take It Down Actが5月に発効するまで、おそらく最善の行動は、人々が選出された議員に行動を要求することです。– Rappler.com

この記事は元々The Conversationに掲載されました。

ウェイン・アンガー、クイニピアック大学法学准教授