米国とソ連が競って核兵器を開発していた1955年7月。英国の哲学者バートランド・ラッセルがロンドンのキャクストン・ホールの記者会見場に立った。ラッセルは、彼のほか「世紀の物理学者」アルベルト・アインシュタインをはじめ、11人の科学者が署名した宣言文を読み上げた。

「核兵器は人類の存続そのものを脅かす。われわれは各国政府に対し、互いの紛争を解決する平和的手段を見いだすよう求める」－－。

宣言文をきっかけに、1957年カナダ・ノバスコシア州パグウォッシュで科学者による会議が開かれた。この時に作られた対話の窓口が後に核軍縮をめぐる国際交渉の土台となった。1968年に国連が採択した核拡散防止条約（NPT）の始まりだった。

2026年には人類に対する警告が核から人工知能（AI）に変わった。アンソロピック（Anthropic）のダリオ・アモデイ最高経営責任者（CEO）、オープンAI（OpenAI）のサム・アルトマンCEO、xAIのイーロン・マスクCEOが最近、一斉に「AIが人類の安全保障を脅かす可能性がある」と警告したためだ。マイクロソフト（MS）創業者のビル・ゲイツ氏は先月26日（現地時間）、「AIの脅威を制御するにはNPTのような国際機関を作るべきだ」と主張した。「AI版NPT」は可能だろうか。英フィナンシャル・タイムズ（FT）は最近の記事で「AIは核とは異なる」と指摘した。

まず核は国家が、AIは民間が主導する。核兵器は莫大な資本と特殊施設が必要で、国家が開発・生産・保有・統制を行う。しかしAIはオープンAI、グーグル（Google）、アンソロピック、メタ（Meta）はもちろん、中国のムーンショットなど民間企業が開発を主導する。国家間の合意だけで統制するには困難が伴う。また純粋に軍事分野での脅威だった核とは異なり、AIは実生活に幅広く適用される技術だ。禁止領域をどこまでとするか不明確だ。

核が現在進行形の脅威なら、AIはまだ可能性にすぎないという点も、AI版NPT発足の緊急性を低下させる要因だ。核兵器は1948年の広島・長崎原爆以降、恐怖に対する共感が形成された。一方、AIは大規模サイバー攻撃、生化学兵器の開発支援、制御不能など予想される脅威がまだ現実化していない。FTは「NPT推進が本格化するきっかけとなったのは1962年のキューバ危機だった。人類にも『AI版キューバ危機』が必要なのだろうか」と問いを投げかけた。

何よりAIは核とは異なり、「相手より先に開発すれば経済的利益を得られる」という競争への誘因が明確だ。軍事的優位を先取りしようとする競争が核兵器開発の原動力だったとすれば、AI開発競争には安全保障上の優位だけでなく莫大な収益までかかっている。ロイター通信は7日、「AIへの投資が米国経済を支えているため、トランプ政権は強力な規制に消極的だ」と分析した。

NPTにしても、ラッセルとアインシュタインの宣言から発足までに10年以上かかった。AIを規制するとしても、すぐに核兵器のようにNPTのような国際条約を通じた方式を取るのは容易ではない。ただ、試みは続けるべきだという意見が徐々に力を得ている。

FTは「デジタル時代のための新たな『パグウォッシュ会議』が解決策になり得る」とし、「国際原子力機関（IAEA）と似た国際機関を作り、衛星でAIデータセンターを監視し、現場査察を行う作業を始めるべきだ」と提言した。ロイターは「独立した規制機関がAIの開発・訓練過程を監視し、安全でないAIモデルは禁止できるようにすべきだ」と主張した。災厄が発生する前に新たなルールを作らなければならないということが、核軍縮がAIに与える教訓だ。