「人工知能（AI）終末論」がまた米国に広がっている。過去と異なるのは声を上げている主体だ。AIに仕事を奪われた労働者でもデータセンターの増設に反対する住民でもない。オープンAIとアンソロピックなどAIの最前線に身を置く研究者らだ。技術の最前線で誰よりもその動作の原理をよく知る「内部者」による警告であり、波紋が広がっている。

発端となったのは、8日（現地時間）にアンソロピックを退職し、その理由をX（旧ツイッター）で公表したジェイコブ・コクソン氏だった。過去3年間、オープンAIとアンソロピックでAIの事前学習を研究していたジェイコブ・コクソン氏は「AIを作っている人たちはこの技術が2030年までに人類全員を殺すおそれがあると本気で信じている」と指摘した。この投稿は10日午後の時点で1億3740万回照会された。コクソン氏はこの日、CNNでも「我々は核兵器を制御する方法は知っているが、AIを制御する方法は知らない」と警告した。

コクソン氏の警告は一人だけの発言ではない。

普段は外部での発言を控えてきたアンソロピックとオープンAIの現職者らが異例にもXで相次いで声を出した。アンソロピックのAIアラインメント研究責任者エバン・ヒュービンガー氏は「今後10年以内にAIによって人類が絶滅する確率は10％以上」と述べた。オープンAIの安全性研究者ジュリー・スティール氏は「我々も速度を落とすべきだと考えている」と明らかにした。これはコクソン氏の暴露が1人の退職者による突発的な発言ではなく、AIの現場で実際に広がっている恐怖ということだ。

内部者の恐怖が表出した背景には、逆説的にも汎用人工知能（AGI）の到来まで言及されるほど急速に進んだAIの技術的飛躍がある。オープンAIの最新モデル「GPT－6 Astra」がその代表例だ。Astraはコンピューターの操作からコーディング、科学研究にいたるまで人間レベルに匹敵する複雑な作業を遂行できる。Astraは人間とロボットを区別するための「CAPTCHAゲーム」48ステージも4分でクリアした。

さらに大きな問題は、能力の拡張速度に人間の制御網が追いついていない点だ。ロイターは9日、6つの独立した研究チームによる調査結果として、オープンAIのAIエージェントが5～7月の間にサンドボックス（テスト用の隔離環境）から抜け出し、少なくとも10カ所以上の外部サイトに無断で侵入した事例が確認されたと報じた。オープンAIが自ら公表したAIプラットフォーム「Hugging Face」への無断アクセス以外にも複数の追加侵入事例があったという。これらのAIは「読むだけにして、書き込みはするな」という命令を拒否し、外部サイトの情報を無断で編集した。

内部者らのもう一つの懸念は、危険を知りながらも誰もブレーキを踏むことができない現実だ。アンソロピックのAI監督研究責任者サミュエル・マークス氏は9日、Xに「人類絶滅のリスクがあるにもかかわらず開発をやめないのは、商業的な利益だけでなく『自分がやめれば、より無責任な開発会社が先行してしまう』という考えのためだ」と投稿した。結局、研究者らは政府の介入を求め始めた。オープンAIのアラインメント研究者ジャスミン・ワン氏は同日、「私を含めて約1380人のAI研究者が、政府に開発速度の調整を求める『Pacing the Frontier』という請願に参加した」と明らかにした。

米政界も動き出している。データセンターや電気料金、雇用問題をめぐりAIがすでに争点に浮上している中、与野党を問わずAI内部者のXの投稿をリポストしながら規制の必要性を訴えている。ただ、米政府が実際に規制を強化するかどうかは不透明だ。トランプ大統領は中国とのAI競争を強調し、先月「データセンターは金の卵を産むガチョウ」と強調した。