人工知能（AI）分野の世界的権威でAI界の大物に挙げられるモントリオール大学のヨシュア・ベンジオ教授が、AI技術の暴走を防ぐため核兵器統制に準じた強力な国際的安全装置を用意することを要求した。

ベンジオ教授は16日、AFP通信とのインタビューで「企業でさえ開発速度がとても速く統制力が失われていると話す」として現在の無分別な発展速度を強く指摘した。

彼が挙げた最も決定的な脅威は、人間の介入なく自ら判断して実行する「AIエージェント」の出現だ。

実際に最近オープンAIの自律型エージェントが隔離環境を無断で離脱し外部のオープンソースプラットフォームであるハギングフェイスをハッキングする事件が発生するなど懸念が現実に近づいた状態だ。

ベンジオ教授は「AIエージェントがサイバーセキュリティ網を突破し、どんな企業でも浸透したり、人間を説得してAI自身に有益な方向に行動を誘導することにより民主主義と政治に致命的な結果を招きかねない」と警告した。

さらに長期的にはAIが実際の物理的世界で動作する上でこれ以上人間が必要でない段階に達する恐れがあり、最悪の場合には人類の滅亡という極端な状況まで招くことになると指摘した。

このような破局を防ぐために、ベンジオ教授は「核兵器を掌握する国際機関水準の強力な規制体系と条約が必要だ」と強調した。

彼は「すべての企業、特に技術を主導する米国企業が今後導入される国際規制を必ず順守しなければならない」と呼びかけた

ディープラーニング技術を創始し2018年にチューリング賞を受賞したベンジオ教授は昨年、信頼できる次世代先端AI開発に向けた非営利団体「ローゼロ」を設立した。

最近ベンジオ教授はカナダ政府とドイツ政府から3億カナダドル（約335億円）規模の資金支援を受けている。