「国家安全保障に向け人工知能（AI）の制限を解除すべき」（米国防総省）

「殺傷用武器にしてはならない」（アンソロピック）

米国防総省とAI企業アンソロピックの衝突が根本的な質問を投げかけている。「軍事分野でAIをどこまで使えるのか」。アンソロピックはAIチャットボット「クロード」をサービスする会社だ。

フィナンシャル・タイムズは24日、ヘグセス米国防長官がアンソロピックのダリオ・アモデイ最高経営責任者（CEO）と会い、「クロードを合法的な軍事作戦に使うことに同意しなければ国防総省供給網から排除する」と警告したと報道した。27日までに答えるようにと具体的なデッドラインも提示した。大口顧客の国防総省が機密作戦で唯一のAIとして採択したクロードを締め出すこともあると警告した形だ。国防総省はオープンAIのチャットGPTやグーグルのジェミニのような競合会社への供給網変更まで検討中だ。

国防総省は米国最大規模の単一技術需要先に挙げられる。供給網から特定会社を除外するのは通常敵対国と連係した企業に適用する極端な措置だ。供給網から排除されれば国防関連の新規事業参加が制限されるだけでなく、他の政府機関との契約や同盟国との共同防衛産業プロジェクトを受注する際も否定的な影響を及ぼしかねない。だがアモデイCEOは大規模な自国民監視や自動殺傷兵器への活用が容認できないというこれまでの立場を再確認し、国防総省の要求を事実上拒否したという。アンソロピックはオープンAI出身者が集まって2021年に設立した会社で「安全と倫理」が核心価値だ。セキュリティと正確度に強みがあり、企業用AI市場でシェア1位だ。

対立の発端は先月3日に米国がベネズエラを空爆し同国のマドゥロ大統領を拘束した軍事作戦だった。国防総省はクロードとパランティアのプラットフォームなどを作戦に活用した。この過程でベネズエラ兵など多くの死傷者が出ると、アンソロピックはAI技術の不正乱用の可能性に懸念を示してブレーキをかけた。

国防総省はAIを情報分析、標的識別、作戦計画策定など戦力増強の核心手段とみている。あらゆる軍事用途でAIを制限なく使える権限を要求する理由だ。米政治専門メディアのアクシオスによると、国防総省は個別の状況ごとにアンソロピックと交渉できないだけでなく、緊迫した作戦を展開する途中でAI機能が突然遮断されるリスクを懸念している。

アンソロピックほどではないが、競合会社も「殺傷目的のAI直接使用禁止」のような安全装置を設けている。技術の誤用・乱用にともなう法的責任と評判リスクを懸念するためだ。だが国防総省が民間企業の倫理綱領より軍事的効率性を前面に出す場合、今後米国が主導するAI生態系が「安全保障優先主義」で再編される可能性が大きい。米国IT専門メディアのテッククランチは「国家安全保障と企業倫理が衝突する史上初の法的・倫理的紛争に広がりかねない」と予想する。

一方、アンソロピックはこの日「責任ある拡張方針（RSP）バージョン3．0」を公開した。既存のRSPではクロードが危険と分類される場合に開発を遅らせるとしたが、競合会社より十分な技術的優位がないと判断する場合には開発を遅らせないという形に変えた。安全基準を緩和すると解釈され、ウォール・ストリート・ジャーナルは「劇的な方向転換」と指摘した。