米国防総省（ペンタゴン）近くで大型爆発が発生したと主張するフェイク写真が２２日にソーシャルメディアを中心に拡散し株価が一時下落するなど混乱が起きた。

専門家らは、この写真は生成型人工知能（ＡＩ）が作り出したフェイクイメージだと指摘した。ＡＩを活用したフェイク情報拡散に対する懸念が大きくなる中でＡＩ発のフェイクイメージが市場にまで影響を及ぼした初めての事例だ。外信は「今回の事態はＡＩが作ったフェイクニュースとイメージが社会をどのように揺るがすかを見せる克明な事例」と診断した。

今回のフェイクニュースを拡散したアカウントが有料手続きを通じてツイッターの認証マークを受けたアカウントであることがわかり、ＡＩ発のフェイクニュースの真贋を判別するのが難しくなったという懸念まで出ている。

ＣＮＮなどによると、この日午前ツイッターなどにペンタゴン近くで爆発が発生したと主張する写真が急速に広がった。写真が拡散するとＳ＆Ｐ５００指数が一時０．３％下落するなど証券市場に影響が及び、安全資産に選ばれる米国債と金価格はしばらく上昇した。

しかしペンタゴン周辺で爆発事件は発生していなかった。ペンタゴン周辺を管轄するアーリントン警察と消防当局は「ペンタゴン保護区域やその近所で爆発や事故は発生しておらず市民に危険はない」と伝えた。

ブルームバーグなどによると、英調査報道メディア、ベリングキャットのニック・ウォーターズ研究員は「写真の建物はペンタゴンではなくワシントンに実際である建物ではない。ＡＩが生成したもの」と指摘した。カリフォルニア大学のハニー・ファリド教授は「写真の芝と地面がぼんやりしておりフェンスの形も不規則だ。ＡＩが作ったイメージで見られる一般的な欠陥」と説明した。

ＮＢＣニュースによるとこのフェイク写真はこの日午前８時４２分ごろにツイッターで有料認証を受けたアカウントに初めて上げられた。この写真は他のアカウントを通じて急速に拡散し、ロシアの海外宣伝メディアＲＴはこの日午前１０時３分ごろにリツイートした。その後数十万人のフォロワーを持つインフルエンサーまでこの写真をリツイートして広げた。さらにブルームバーグを詐称しながらツイッターの有料認証を受けた「ブルームバーグフィード」というアカウントもこの写真の拡散に加勢した。

フェイクニュースを研究するルネ・ディレスタ氏はワシントン・ポストに「今回のことはだれでもＡＩで難なくフェイクイメージを作ることができ、これまでツイッターでニュースの信頼度を判断するのに役立ったマークも役に立たなくなったことを示す」と話した。

これに先立ちトランプ前米大統領が警察に逮捕される場面とローマ教皇フランシスコがブランド品のダウンコートを着た姿を描いたＡＩ生成フェイク写真も広がり話題になったりもした。特に米国内では来年の大統領選挙を控えＡＩが作ったフェイク情報やイメージが選挙に影響を及ぼし民主主義を脅かすという懸念も出ている。

一方、生成型ＡＩのチャットＧＰＴ創始者であるオープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）はこの日「ＡＩの潜在的リスクを統制し副作用を防ぐため（核物質を監視する）国際原子力機関（ＩＡＥＡ）のような国際機関が必要だ」と強調した。アルトマン氏ら経営陣はこの日自社ブログに上げた「超知能ガバナンス」という題名の文で「さらに繁栄する未来に到達するにはリスクを管理しなければならない」としてこのように明らかにした。