EUが2026年8月にもAI「ヌーディファイアプリ」を禁止する法改正を可決する見込み。イーロン・マスク氏のGrokが実在人物の性的画像を生成し問題化。プラットフォーム側に責任を問う初の規制。
EU、AI「ヌーディファイアプリ」禁止へ マスク氏のGrok問題受け法改正
欧州連合（EU）の欧州議会は2026年3月、AI技術を使って実在人物の性的画像を生成する「ヌーディファイアプリ」を禁止する法改正案を賛成101票、反対9票で可決しました。この動きは、イーロン・マスク氏が運営するAIチャットボット「Grok」が、本人の同意なく実在人物の裸体画像を生成できる機能を提供し、児童を含む被害が広がったことが直接のきっかけとなっています。欧州議会の内部市場委員会と市民的自由委員会が共同で発表した声明によれば、この法改正は早ければ2026年8月にも施行される見込みです。これまでEUでは画像を生成したユーザー個人を処罰する方針でしたが、今回の改正により、そうした機能を提供するプラットフォーム側にも責任を問う初めての規制となります。この法律が成立すれば、マスク氏は「ユーザーの責任」として問題を回避する戦略を取れなくなり、Grokの機能を大幅に制限せざるを得なくなるでしょう。
法改正の具体的な内容と背景
今回可決された法改正案は、EU人工知能法（AI Act）の修正案として提出されました。この改正案は、実在する特定可能な人物に似た性的または親密な画像を、本人の同意なくAIで作成または操作するシステムを「ヌーディファイアシステム」と定義し、EU市場での提供を禁止するものです。
ただし、ユーザーがそうした画像を作成できないよう効果的な安全対策を講じているAIシステムには、この禁止は適用されません。つまり、技術的に不可能にしているプラットフォームは規制対象外となります。
この法改正が必要になった背景には、欧州委員会が2026年初めに行った調査があります。委員会は現行のAI法では、児童性的虐待画像（CSAM）や性的なディープフェイク画像を生成するAIシステムを禁止できないと結論づけました。この時点で、議会議員たちはすでに法律を強化する修正案の準備を進めていました。
Grokが引き起こした問題の詳細
イーロン・マスク氏が運営するxAI社のチャットボット「Grok」は、2026年初めに大きな論争を巻き起こしました。Grokは実在人物の写真を入力すると、その人物の裸体画像を生成できる機能を持っていたのです。この機能は児童を含む実在人物の性的画像を作成するために悪用されました。
問題が発覚した後も、xAI社はこの機能を制限する安全対策の導入を拒否しました。代わりに同社が取った対応は、この機能を有料会員限定にすることと、問題のある画像を生成したユーザーを法的に訴えると宣言することでした。報道によれば、有料会員は実在人物の同意なく性的画像を生成し続けることができたとされています。
マスク氏はX（旧Twitter）上でのプロンプト（指示文）に対しては有害な出力をブロックする措置を取りましたが、これは米国で5月に施行される「Take It Down Act」という法律への対策だった可能性があります。この法律が施行されれば、xAI社は数十億ドルの罰金を科される危険がありました。
なぜプラットフォームを規制するのか
今回の法改正の最も重要な点は、ユーザー個人だけでなく、プラットフォーム側にも責任を問う方針に転換したことです。欧州議会の声明では、この理由が明確に説明されています。
これまでEU各国の刑法では、性的画像を無断で生成したユーザー個人を処罰することは可能でした。しかし、実際には個々の加害者を特定することは非常に困難です。インターネット上では匿名性が高く、被害が発覚した時点で加害者を追跡することは技術的にも法的にも難しいのです。
そこで議会議員たちは、「画像ベースの性的暴力を最初から防ぐ」ことを目指す、より積極的な規制が必要だと判断しました。プラットフォーム側がそもそもそうした機能を提供できないようにすれば、被害を未然に防げるという考え方です。
ブルームバーグの報道によれば、この法改正はEUが性的ディープフェイクに対する規制アプローチを根本的に変えるものです。ユーザーの起訴を超えて、プラットフォームを処罰する初めてのEU政策となります。
違反した場合の罰則
もしこの法改正が成立し、xAI社がGrokの機能を変更せずにEU市場でサービスを提供し続けた場合、同社は重い罰則に直面します。EU人工知能法の違反に対する罰金は、企業の全世界での年間総売上高の最大7パーセントに達する可能性があります。
xAI社にとって、この罰金は特に痛手となるでしょう。同社は現在、OpenAIやGoogleなどの大手AI企業との競争において、多額の投資が必要な時期にあります。巨額の罰金を支払うことは、この競争で大きく後れを取ることを意味します。
そのため、法改正が施行されれば、マスク氏は望むほど「スパイシー」ではないGrokに調整せざるを得なくなると予想されています。「スパイシー」とは、マスク氏がGrokの特徴として宣伝していた、他のAIチャットボットよりも制限が少なく自由な表現ができるという意味です。
米国でも広がる法的圧力
EUだけでなく、米国でもGrokに対する法的圧力が高まっています。2026年1月には、マスク氏の子どもの母親の一人であるアシュリー・セントクレア氏が、Grokによる被害を訴える最初の訴訟を起こしました。
さらに最近では、テネシー州の3人の少女が、Grokが生成したとされる児童性的虐待画像によって被害を受けたすべての子どもを代表する集団訴訟を提起しました。この訴訟では、Grokの機能を差し止める仮処分命令が求められています。
米国では5月に「Take It Down Act」が施行される予定です。この法律が有効になれば、xAI社は同意のない親密な画像の拡散を防がなかった場合、数十億ドルの罰金を科される可能性があります。マスク氏が機能を有料会員限定にし、X上でのプロンプトに対する出力をブロックしたのは、この法律の施行に備えた対策だったと考えられています。
市民からの圧力と議員の反応
EUでは市民からの圧力も高まっています。欧州議会の市民的自由委員会のメンバーであるマイケル・マクナマラ氏は、声明の中で「ヌーディファイアプリの禁止は、私たちの市民が期待していることだと信じています」と述べました。
議員たちは欧州委員会に提出した質問書の中で、Grokだけでなく、オンラインで自由に利用できる他のヌーディファイアツールについても警告しています。質問書では次のように述べられています。「Grokのような、しかし他にもオンラインで自由に利用できるAI搭載のヌーディティアプリケーションに関する最近の衝撃的な報道は、ユーザーが個人の同意なく操作された親密な画像を生成できるAI駆動ツールの増加を浮き彫りにしています。これはジェンダーに基づくサイバー暴力を助長し、児童性的虐待画像の作成を可能にしています」。
議員たちは「これらのシステムはEU市場から禁止されるべきだ」と強く主張しました。特に、個々の加害者は各国の刑法で処罰できるものの「見つけることが困難」であるため、より積極的な対策が必要だと訴えています。
私たちへの影響
この法改正は、EU市民だけでなく、世界中のインターネットユーザーに影響を与える可能性があります。EUは世界で最も厳格なデジタル規制を持つ地域の一つであり、EU市場で事業を行う企業は、その規制に従わざるを得ません。
短期的には、Grokを含む多くのAIサービスが、EU市場向けに機能を制限することになるでしょう。早ければ2026年8月にも法律が施行されるため、xAI社は数か月以内に対応を迫られます。マスク氏が「ユーザーの責任」として問題を回避する戦略は通用しなくなり、技術的な安全対策の実装が必須となります。
中長期的には、この規制が他の国や地域にも影響を与える可能性があります。EUの規制は「ブリュッセル効果」と呼ばれる現象を引き起こすことがあります。これは、EU市場向けに作られた製品やサービスの基準が、事実上の世界標準になることを指します。企業は複数の異なる基準に対応するよりも、最も厳格な基準に統一する方がコスト効率が良いためです。
一般ユーザーにとっては、AIサービスがより安全になる一方で、一部の機能が制限される可能性があります。ただし、正当な目的でAIを使用する限り、この規制による影響はほとんどないでしょう。規制の対象は、実在人物の同意なく性的画像を生成する機能に限定されているためです。
注意すべき点は、この法律が完全に被害を防げるわけではないことです。技術的な抜け穴を見つける者や、EU域外のサービスを利用する者もいるでしょう。しかし、主要なプラットフォームが規制されることで、被害の規模は大幅に減少すると期待されています。また、プラットフォーム側が責任を問われることで、企業は安全対策により多くの投資をするようになるでしょう。