世界的なポップスター、テイラー・スウィフトさんのイメージを悪意的に合成した「淫乱ディープフェイク」が大きな社会問題となっているが、このイメージは有害性オンラインコミュニティ「４ｃｈａｎ」の中でメンバーが一種の「チャレンジ」として作り始めたという分析が出てきた。

５日（現地時間）、ニューヨーク・タイムズ（ＮＹＴ）によると、虚偽情報を研究する「Ｇｒａｐｈｉｋａ」は４ｃｈａｎユーザーが人工知能（ＡＩ）を用いて有名な女性が登場する淫乱イメージを作れるかどうか実験をする一種のゲームをしながらスウィフトさんの淫乱ディープフェイク（ＡＩ技術を基盤に作り出したフェイクイメージ）を作ったという暫定的な結論を下した。

４ｃｈａｎは憎悪表現、陰謀説、ＡＩを使って生成された人種差別的かつ攻撃的コンテンツを共有することで悪名高い米国のオンラインコミュニティで、昨年韓国など同盟国に対する米国情報機関の盗聴活動など敏感な内容が含まれた米国機密文書が大量でオンラインに流布した当時もその窓口ではないかとされていた。

Ｇｒａｐｈｉｋａは同コミュニティ内でオープンＡＩの「ＤＡＬＬ・Ｅ（ダリ）」やマイクロソフト（Ｍｉｃｒｏｓｏｆｔ）の「Ｍｉｃｒｏｓｏｆｔ　Ｄｅｓｉｇｎｅｒ」、「Ｂｉｎｇ　Ｉｍａｇｅ　Ｃｒｅａｔｏｒ」のようなイメージ生成ＡＩが設定した安全装置を避けようとする試みがあったと明らかにした。ユーザーは掲示板で「フィルターを迂回する新しい方法を探すためのコツや要領をシェアしろ」という指示を受け、「幸運を祈る、創造力を発揮せよ」と声もかけられたという。

その後、スウィフトさんが登場するフェイクイメージが作られ、複数のユーザーは掲示板で称賛を受けてイメージ生成に使われたプロンプトをシェアしてほしいという要請も出てきた。４ｃｈａｎにはＡＩで生成された露骨なセクシャルイメージを禁止する規則がない。ユーザーは一種のゲームを通じてイメージを作ったとＧｒａｐｈｉｋａは指摘した。

ＧｒａｐｈｉｋａのＣｒｉｓｔｉｎａ　Ｌｏｐｅｚ首席研究員は声明で「スウィフトさんが唯一の被害者ではない」とし、４ｃｈａｎには多数の女優・歌手・政治家を対象にしたディープフェイク・イメージがあったと明らかにした。

「スウィフト・ディープフェイク」は先月６日に４ｃｈａｎに初めて投稿され、１１日後にはテレグラムに登場、その翌日からはＸ（旧ツイッター）を通じて広がった。

Ｘはイメージ拡散を防ぐために先月２７日からＸで「テイラー・スウィフト」または「テイラー・スウィフト　ＡＩ」で検索することができないようにしてイメージを削除した。名前検索制限措置は同月２９日に解除された。