人工知能（ＡＩ）技術の発展でＡＩが人をだます能力も精巧になっているという研究結果が国際学術誌で発表された。

１１日（現地時間）のガーディアン紙などによると、米マサチューセッツ工科大（ＭＩＴ）研究陣は最近、国際学術誌『Ｐａｔｔｅｒｎｓ』に発表した論文で、ＡＩが人に嘘をついて相手を裏切る複数の事例を確認したと明らかにした。研究陣が調査したＡＩ技術は、メタがオンライン戦略ゲームを学習させたＡＩ「ＣＩＣＥＲＯ」。メタは２０２２年にオンラインゲーム「ディプロマシー」でＣＩＣＥＲＯを公開した。

ディプロマシーは２０世紀初めの欧州列強の大戦を背景にした戦略ゲームだ。ゲーム参加者が各国代表となって政見発表、外交交渉、作戦命令などをする。勝利のためには裏切り、トリック、協力など人間の多様な相互作用を理解できなければいけない。メタは当時、ＣＩＣＥＲＯについて「人間参加者のうち上位１０％水準のゲーム能力を見せた」とし「概して正直で、人間同盟を意図的に裏切らないよう訓練を受けた」と紹介した。

しかしＭＩＴの研究の結果、ＣＩＣＥＲＯは計画的に嘘をついていた。例えばフランス代表として参加したＣＩＣＥＲＯは人間のドイツ代表と共謀して英国代表をだました。さらにシステム再起動でゲームが中断すると、他の人間の参加者に「恋人と通話中」という嘘もついた。

専門家らによると、戦略ゲームを学習したＡＩは人を相手にゲームをしながら相手のゲーム能力を習って蓄積する。ＣＩＣＥＲＯの人をだまして裏切る技術も人と対決しながら学習したという説明だ。

また研究陣はオンラインポーカーゲーム「テキサスホールデム」などでもＡＩが人間をだます事実を確認した。あるＡＩ技術テスト過程ではＡＩが除去システムを回避するために死んだふりをしてテストを済ませ、また活動を再開するケースが捕捉されたりもした。

ＭＩＴ研究陣は今回の研究に基づき、ＡＩが人間を相手に詐欺をしたり選挙を操作したりする危険もあるとみている。最悪の場合、「超知能ＡＩ」が人間を統制することも可能だと憂慮した。今回の論文を書いたＭＩＴのピーター・パク博士は「ＡＩのトリック能力が社会に及ぼす危険はさらに深刻化するだろう」と懸念を表した。

研究陣は各国政府に「ＡＩ安全法」を用意するよう促した。ソウル女子大のキム・ミョンジュ情報保護学科教授は１２日、中央日報に「人間をだますＡＩの能力がゲームだけでなく複数の分野に進化する場合、大きな被害が懸念される」とし「ＡＩ技術の安全性を評価し、悪影響を防ぐ関連法が必要だ」と述べた。