ディープフェイクを活用したデジタル性犯罪が社会問題として浮上している中、米国の大統領選挙を控えて人工知能（ＡＩ）の精巧な画像生成機能を活用した偽写真の拡散が混乱をあおっているという指摘が出ている。米国の超党派的市民社会団体「ニュース・リテラシー・プロジェクト（ＮＬＰ）」は２８日（現地時間）「１１月の大統領選挙を控えて虚偽主張と偽の支持意思をこめた掲示物がソーシャルメディアで爆発的に増加している」としてホームページを通じて５７６件のねつ造事例を公開した。



ＮＬＰ分析の結果、特定候補者の容貌・評判をねつ造したイメージ操作の写真が２４０件（４２％）で最も多かった。続いて候補支持を歪曲する捏造写真が１００件（１７％）、根拠のない陰謀論をまき散らす画像９１件（１６％）、選挙制度に関連して誤った情報を発信する画像７４件（１３％）、候補政策・公約を誤導する画像７１件（１２％）などと現れた。

特に、ソーシャルメディアＸのＡＩ基盤チャットボット「グロック（Ｇｒｏｋ）」が偽写真の拡散に影響を及ぼしたという分析だ。１３日に発売されたグロック２は、複雑な技術なしにも「ＤＡＬＬ－Ｅ３」や「Ｍｉｄｊｏｕｒｎｅｙ」など、既存の画像生成プログラムが実現できなかった細部描写が可能で、ドナルド・トランプ前大統領やカマラ・ハリス副大統領に対する偽コンテンツの拡散を呼び起こしたと、ＣＮＮは指摘した。臨月のハリス副大統領のお腹をトランプ前大統領が撫でる画像や、トランプ前大統領が北朝鮮の金正恩（キム・ジョンウン）国務委員長の前でひざまずいている画像は、グロックを活用して作った偽の写真だ。偽の画像拡散の背景に、敵性国家の組織的活動の兆候も感知されている。米国家安全保障会議（ＮＳＣ）のエミリー・ホーン元報道官はＣＮＮに「精巧な水準からみて、ロシア・イラン・中国など敵対的国家の仕業である可能性がある」と述べた。