Grok、毎時約6700枚の性的画像を生成していたwww Grok生成画像の85%は性的な画像

2025年12月頃から、X上でGrokを使って他人の画像を勝手に編集する行為が相次いでいます。特に画像に写っている人物を性的な様子に改変する行為が目立ち、実質的な性被害が拡大しています。この件は世界中で問題視されており、各国の省庁が調査に乗り出しています。

Xではボタン1つでGrokの画像編集機能を立ち上げられるほか、画像が含まれる投稿に対して「@grok」という文字列とプロンプトを返信するとGrokに画像を生成させることができます。これによりGrokのアカウントのメディア欄には大量のGrokが生成した画像が並ぶようになりました。調査会社のCopyleaksがGrokアカウントのメディア欄を調査したところ、1分間に約1枚の合意のない性的画像が存在することが分かったそうです。

また、Bloombergが「ソーシャルメディアとディープフェイクの研究者」と紹介したGenevieve Oh氏の調査によると、Grokは性的な画像を1時間あたり約6700枚生成したとのこと。Oh氏は「Grokが生成した画像の85％は性的表現を含んでいた」と指摘しています。

被害は若い人物や容姿を売りにした人物だけでなく、公人にまで及んでいます。

なお、多くの国や地域で、他人の画像を勝手に編集したり、性的なものに改変したりして公開する行為は違法とされています。X公式アカウントは「Xでは、違法コンテンツ(児童性的虐待素材を含む)が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります」と注意していますが、性的画像の生成が収まる様子はありません。

https://gigazine.net/news/20260108-grok-ai-media/