イーロン・マスク氏が２０２３年に設立したＡＩスタートアップ「ｘＡＩ」が、アダルト動画を自動生成できるオプションを公開し、論争を呼んでいる。有害なＡＩコンテンツを規制しようとする世界的な流れに逆行しているとの指摘も出ている。



ｘＡＩは４日（現地時間）、ＡＩアプリ「グロック（Ｇｒｏｋ）」のｉＯＳバージョンに、画像・動画生成ツール「グロック・イマジン（Ｇｒｏｋ　Ｉｍａｇｉｎｅ）」をリリースすると発表した。プロンプトを入力するだけで、数秒で関連画像と１５秒分の映像を生成できる。ここまでは、これまで登場した他のＡＩ画像生成ツールと特に変わりはない。問題は「スパイシー・モード（Ｓｐｉｃｙ　Ｍｏｄｅ）」というアダルトコンテンツ生成オプションが同時に導入された点だ。

ｘＡＩの説明によれば、スパイシー・モードはヌードなどのアダルト画像も許容している。ただし、露出度が一定基準を超えると、システムが自動的にぼかし（モザイク）処理を施して検閲する仕様になっている。

しかしｘＡＩは、これまでも扇情性を巡って物議を醸してきた。以前、ｘＡＩは「ＡＩコンパニオン（同伴者）」機能でキャラクター「アニー（Ａｎｎｉｅ）」を提供したが、金髪に短いワンピース、網タイツあるいは薄手のランジェリーという服装で論争を呼んだ。これに対し米国反ポルノ機関「全米性的搾取告発センター（ＮＣＯＳＥ）」は、「未成年者でもアニーと会話できる」とし、アップル（Ａｐｐｌｅ）に対しグロックアプリの利用年齢制限を１８歳以上に変更すべきだと要求した。

ディープフェイクに対する懸念の声も出ている。米メディアグループ「Ｖｏｘ　Ｍｅｄｉａ」傘下のＩＴ専門誌「Ｔｈｅ　Ｖｅｒｇｅ」は、「グロックのスパイシーモードを使うと、すぐにテイラー・スウィフトのヌードディープフェイクが作られた」というタイトルの記事で、「記者が『テイラー・スウィフト　コーチェラ』と検索したところ、スウィフトが下着姿で踊っている映像が生成された」とし、「グロックは有名人の外見をポルノ的に描写することを禁じていると明示しているが、実際にはそれを防ぐ措置が何も取られていない」と指摘した。

最近のグローバルトレンドは、ＡＩ基盤のコンテンツ生成に対して規制を強化する方向に向かっているが、こうしたｘＡＩの動向はこのような流れに逆行している。米国や欧州連合（ＥＵ）では、ＡＩが生成する性的コンテンツを法的に規制する方策について活発な議論が行われている。

今回の扇情性論争は、マスク氏がＸ（旧ツイッター）を買収して以降、「表現の自由」を前面に掲げ、「ヘイトスピーチ」や「ポリティカル・コレクトネス」に対する各種規制に反対してきた姿勢と同じ文脈だという分析もある。