オープンAIの人工知能（AI）エージェントが米国やオーストラリアなど各国の公共部門のデータに無断でアクセスした事実が相次いで明らかになり、「人間がコントロールできないAI」が招く副作用に対する懸念が大きくなっている。オープンAIとアンソロピックなど主要AI企業は数万件規模のAI関連セキュリティ事故を事後調査するほかはない状況だ。

非営利AI研究所のトランスルーズが27日に出した報告書によると、オープンAIのAIエージェントは7月にハギングフェイスのハッキング事件で議論になる前からすでに数回にわたり複数の公共データへの浸透を試みていた。4月には国連貿易開発会議（UNCTAD）のウェブサイトに許されていない方法でアクセスして統計収集をしようとした。5月には米ニューメキシコ大学のデジタル図書館と公共データサイトである「データUSA」の弱点を見つけ出し写真資料などを照会した。

オーストラリア保健福祉研究院（AIHW）に浸透した痕跡も見つかった。ここでオープンAIのAIエージェントはオーストラリアの医薬品給与制度と高齢者療養統計などを確保しようとした。オーストラリア公営ABC放送によると、AIエージェントはオーストラリア保健省の全国法定伝染病監視システムなどにもアクセスするためさまざまな手法を動員した。これに対して同国のアルバニージー首相は国連総会で「容認できないこと」と批判した。

AP通信などによると、オープンAIのエージェントは米証券取引委員会（SEC）や人口調査局などのデータにも無断でアクセスしようとした。商務省と司法省、一部州政府にも資料収集を目的に侵入を試みた。

オープンAIは自社エージェントの公共データアクセスの試みが明らかになると、25日に「影響を受けた機関に事実を通知し、これら機関の調査を支援するため技術的分析結果を共有している」と発表した。ただ「通知を受けたという事実がただちに重大なセキュリティ事故が発生したという意味と解釈されてはならない。これまで検討した内容のうち多くは公開されたウェブコンテンツにアクセスするように日常的に研究業務を遂行したもの」と釈明した。この日オープンAIは自社AIエージェントがチャットGPT利用者のイメージ53枚を外部に流出した事実も公開した。

人間がAIエージェントの無断行動をリアルタイムで把握できず事後に確認する事例が続いており、AI統制能力に対する疑問とともにAIが実生活の安全に脅威となりかねないという「AI脅威論」が力を増している。ブルームバーグは「開発会社も認知できない間にエージェントがどんな作業を遂行したのか事後的に把握しなければならないという状況自体がセキュリティ業界の最大の心配事」と指摘した。

マイクロソフト創業者のビル・ゲイツ氏は25日、米NBCとのインタビューで「AIは最大10億人の死亡者を生む事件を触発しかねない。悪意を抱いた人たちが最新のAIツールを結合して使うことほど強力な武器はない」と話した。続けて「AI発展に対する安全装置と監視体系を作る法案が通過されなければならない」と主張した。

数カ月間に発生した数万件のAIセキュリティ事故を遅れて確認したオープンAIのサム・アルトマン氏とアンソロピックのダリオ・アモデイ氏など主要AI企業の最高経営責任者（CEO）は最近国連安全保障理事会に参加しAIリスクを管理するための国際的なAI安全基準を用意しなければならないと主張した。