Xが搭載した生成AIのGrokにより、わいせつ画像が作成されるという事件がありました。
Grok（グロック）は、イーロン・マスク氏が創設したxAI社によって開発されたAIチャットボットです。
Grokは簡単な質問への応答から、リアルタイムの情報検索・文章作成・コード生成・画像生成など、幅広い用途に対応しています。
今回は、この画像生成機能が悪用されました。
実在の人物の写真を利用し、本人の同意なく水着や裸に編集し、わいせつ画像をインターネットに投稿して拡散されました。
特に被害を受けたタレントを中心に、非難が広がり、大きな社会問題となりました。
批判を受け、Xは安全対策を強化し、実在の人物をわいせつな姿に編集できなくしました。
Grokを利用できるのは有料ユーザーだけにし、Ｘの利用規約に違反しようとする者が責任を問われやすくするようにしました。
今回のXのGrokだけでなく、生成AIを利用して実在の人物の写真や動画をわいせつな内容に修正することは、簡単にできるようになりました。
しかし、このような行為は、犯罪が成立して刑事処分を受け、逮捕される可能性もあります。
わいせつ電磁的記録陳列
生成AIで女性芸能人の画像を編集し、偽のわいせつ画像などをインターネットで販売した人物が、不特定多数の利用者が閲覧可能な状態にしたとして、わいせつ電磁的記録陳列の疑いで逮捕される事件がありました。
わいせつな文書、図画、電磁的記録に係る記録媒体その他の物を頒布し、又は公然と陳列した者は、２年以下の拘禁刑若しくは２５０万円以下の罰金若しくは科料に処し、又は拘禁刑及び罰金を併科されます。
インターネット等によりわいせつな電磁的記録その他の記録を頒布した者も、同様となります。
有償で頒布する目的で、上記の物を所持し、又は電磁的記録を保管した者も、同様となります。
実在する女子児童の画像を元に生成AIで作成された性的画像を所持した人物も、児童ポルノ禁止法違反で起訴されました。
児童ポルノ
児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律により、児童ポルノの所持や提供等が処罰されることになります。
自己の性的好奇心を満たす目的で、児童ポルノを所持した者は、１年以下の拘禁刑又は１００万円以下の罰金に処されます。
自己の性的好奇心を満たす目的で、児童ポルノに該当する児童の姿態を視覚により認識することができる方法により描写した情報を記録した電磁的記録を保管した者も、同様となります。
児童ポルノを提供した者は、３年以下の拘禁刑又は３００万円以下の罰金に処されます。
電気通信回線を通じて児童ポルノに該当する児童の姿態を視覚により認識することができる方法により描写した情報を記録した電磁的記録その他の記録を提供した者も、同様となります。
児童ポルノを提供する目的で、児童ポルノを製造し、所持し、運搬し、本邦に輸入し、又は本邦から輸出した者も、同様となります。
児童ポルノを提供する目的で、電磁的記録を保管した者も、同様となります。
名誉毀損
また、悪用された実在する人物との関係で、名誉毀損罪が成立する可能性があります。
公然と事実を摘示し、人の名誉を毀損した者は、その事実の有無にかかわらず、３年以下の拘禁刑又は５０万円以下の罰金に処されます。
他の犯罪の成立や損害賠償の可能性も
他にも、著作権法違反等の犯罪が成立する可能性があります。
もちろん、民事上の不法行為が成立し、損害賠償義務が生じる可能性があります。
生成AIでわいせつ画像を作成したら
生成AIによるわいせつ画像作成について事件となったら、弁護士法人あいち刑事事件総合法律事務所にご相談ください。
刑事事件やインターネットトラブルに詳しい弁護士が対応いたします。
初回相談は無料ですので、ぜひお気軽にご相談ください。
