６０代男性Ａさんは昨年１２月、ＹｏｕＴｕｂｅ映像広告を通じてある投資家グループを知った。グループ管理者は、自身が「二次電池投資家に広く知られた別名『バッテリーおじさん』パク・スンヒョク作家の秘書」とし「投資金を預けてくれれば代わりに株式投資をする」とした。グループコミュニティには俳優チョ・インソンさんと女優ソン・ヘギョさんが登場する動画もあった。「収益金の一部が寄付されていて感謝している」と話す内容だった。

有名芸能人も参加しているという事実は、Ａさんをはじめとする投資家の疑いを解消させる決定的な契機になった。しかし２人の俳優が登場した動画は人工知能（ＡＩ）が作り出したフェイク動画だった。パク・スンヒョク氏の秘書という言葉も、８００％に近い収益率もうそだった。お金を返してほしいというＡさんの言葉に運営スタッフはむしろ手数料と税金を要求して姿をくらまし、Ａさんは合計１億６０００万ウォン（約１８００万円）の投資金を失った。

◇全世界に「ディープフェイク詐欺」注意報

ディープフェイク（ＡＩが実際と区別するのが難しい偽物のオーディオ・写真・動画を生成する技術）が金融詐欺に悪用されながら世界各地で懸念が大きくなっている。

２１日、米ＣＮＮなど主要外信によると、今月初め香港のある企業のスタッフが、財務責任者が登場するディープフェイク動画通話にだまされて２億香港ドル（約３８億円）を送金する事故が起きた。昨年１２月にはシンガポールのリー・シェンロン首相が、１１月にはオーストラリア有名家電量販店店Ｄｉｃｋ　Ｓｍｉｔｈも標的になった。どれも投資プラットフォームを広報するインタビュー動画だったが、実際に詐欺被害も出ている。

韓国にもディープフェイクを利用した金融詐欺の安全地帯はない。Ａさんの事件では被害者は１００人を超え、被害額も数百億ウォンにのぼると推定される。５億ウォンの被害を受けたという６０代男性Ｂさんは「娘の結婚資金と事業資金が含まれている」とし「犯罪グループはまだ検挙されておらず、どこかでまたディープフェイク映像を使って詐欺を働いている状況」と話した。

昨年１１月には１８９１人から１４９１億ウォンを窃取したボイスフィッシング集団がディープフェイクフィッシング犯罪に領域を広げる直前に警察に検挙された。犯罪グループは実際の検事の顔と声を使ったディープフェイク映像を犯罪に活用するために研究作業をしていたことが分かった。

◇犯罪についていけない探知技術

だが、このようなディープフェイクを利用した金融詐欺予防策は「だまされないこと」以外に事実上皆無なのが実情だ。ディープフェイク映像物というマークを義務的に表示する方案などが議論されているが、犯罪グループが表示を消せばそれで終わりだ。犯罪に使われるディープフェイク映像を事前に探知して拡散を防ぐのが最善だが、急激な発展を遂げている生成技術に探知技術がついていくことができないという限界も存在している。ハナ金融研究所のパク・ジホン研究委員は「ディープフェイク映像と音声が非対面金融取引に悪用される可能性も高い」とし「事前探知技術力の確保に格別の努力が必要」と指摘した。

このような新種の詐欺に対する政策的補完が必要だという声も出ている。ディープフェイク映像が最も多く使われる可能性が高い「有名人詐称投資詐欺」を受けた場合、犯罪者が犯罪収益を窃取する場合が多く、被害回復が事実上難しいためだ。キム・ケファン弁護士〔法務法人甘雨（カムウ）〕は「国家が追徴して没収した犯罪者の財産を集めて基金を作り、ここから被害金額の一部を支給する方案などを議論してみる必要がある」と話した。