X（旧Twitter）が提供する生成AI・Grok（グロック）を巡る問題が国際的な議論を呼んでいます。今年1月には英国やEUの規制当局が相次いでX社に対する正式な調査を開始しました。
現在問題となっているのは、Grokの画像生成機能が悪用され、Xに投稿された実在する人物の写真を、無断で、性的な画像に加工する等、ディープフェイク画像が大量に生成・拡散されるケースが頻発したことです。
何が起きているのか？——「Grok」の衝撃
Xが提供しているAI「Grok」は、画像生成機能が実装された後、他の生成AIが性的なコンテンツや実在の人物の描写に対して厳格なガードレール（生成拒否機能）を設けているのに対し、比較的自由な生成が可能だとされてきました。
その結果、2026年初頭には、一般ユーザーがＳＮＳにアップロードされていた画像を取り込み、AIに指示を出して衣服を削除させたり、性的なシチュエーションを描かせたりする事例が急増しました。
報道では、Grokによる画像生成機能により、11日間で約300万枚の性的画像が作成された可能性があるとされています。また、この中には子どもの性的画像も含まれているとのことです。
こうした状況を受けて欧州委員会（EU）や英国の規制当局は、違法コンテンツの拡散防止義務違反の疑いで調査に乗り出しています。
また、インドネシアやマレーシアではGrokへのアクセスを一時遮断する措置をとりました。日本政府もXに改善を要求したとのことです。
（出典 朝日新聞https://www.asahi.com/articles/ASV1Q7TCGV1QUHBI009M.html）
日本法における法的責任――ユーザー編
世界的に大問題になり、各国政府もＸ社に対応を求め、場合によっては同社の責任追及も視野に入れた調査がされています。
では、日本国内でGrokを利用することについて、問題はないのでしょうか。Grokを利用することそのものは問題ありませんが、Grokに限らず、他人の画像を無断で、AI等で性的な画像に加工し、それをSNS等に投稿した場合、法的責任を負う可能性があります。
① 名誉毀損罪・侮辱罪（刑事・民事）
まず考えられるのが名誉毀損罪や侮辱罪の問題です。たとえAIで作られた偽の画像であっても、第三者が「本人のわいせつな画像だ」と誤信する等して、被写体となった人の社会的評価の低下を招いた場合、名誉毀損罪等が成立する可能性があります。「ディープフェイク（偽物）である」と明記していても、対象者の社会的評価を低下させる内容であれば、名誉毀損罪等に問われる可能性は否定できません。
② 肖像権侵害・プライバシー侵害（民事）
実在の人物の顔を利用して性的画像を生成・公表することは、肖像権およびプライバシー権の侵害となる可能性があります。
③ わいせつ物頒布等罪（刑事）
生成された画像が、刑法のわいせつな画像に該当する場合、それをネット上に公開する行為は、わいせつ物頒布等罪（刑法175条1項）に該当する可能性があります。
「保存しただけ」なら大丈夫か？
たまにある質問に「生成したが公開はせず、自分のスマホに保存しているだけなら問題ないのではないか？」というものがあります。
ここで問題になるのは、児童ポルノです。実在の児童の写真を加工して性的な画像を作成した場合、児童ポルノ禁止法等による処罰対象となるリスクがあります。
プラットフォームの責任と今後の展望
今回のGrokの騒動で特筆すべきは、ユーザーだけでなくプラットフォーム（X社）の責任が厳しく問われている点です。
これまではユーザー側の利用方法の問題であり、プラットフォームに責任はないとされてきました。しかし、そうしたプラットフォーム側の主張がAIの進化とともに通用しなくなりつつあるのです。
被害に遭われた方、加害者にならないために
生成AIは素晴らしい技術ですが、一歩間違えれば凶器になります。「流行っているから」「これくらいならバレないだろう」という安易な気持ちで他人の画像を加工・投稿することは犯罪行為になりかねない危険な行為です。
逆に、もしご自身がディープフェイク被害に遭われた場合は、弁護士にご相談いただければ、被害者の方のご希望に合わせて、法的手段を検討し、代理人として手続を進めることができます。
生成AIによるディープフェイク被害に遭われた際は、弁護士法人あいち刑事事件総合法律事務所にご相談ください。
初回相談は無料ですので、お気軽にご連絡いただけますと幸いです。
