先週末、米国の人工知能（AI）企業アンソロピック（Anthropic）の最高経営責任者（CEO）、ダリオ・アモデイ氏が「我々は最先端の（AI）開発速度を調整しなければならない」という文章を投稿したことで、世界的にAI技術の統制をめぐる議論が巻き起こっている。

AIの能力が予想以上に速く発展し、人間が統制できない水準に達しつつあるため、手遅れになる前に規制が必要だというアモデイ氏の主張に、サム・アルトマン氏、デミス・ハサビス氏、イーロン・マスク氏などAIビッグテックの最高経営責任者はいずれも賛同する意向を示した。

一方、トランプ米大統領をはじめとする米政府は「中国に追いつく機会を与えるだけだ」と否定的な立場で、中国政府も「米国のAI覇権を維持するための冷戦式のシナリオ」と強く反発した。しかし、米民主党は「AIの危険性に備えるべきだ」との意見で、この問題は11月の中間選挙の争点になる可能性があり、AIインフラ投資が遅れる可能性への懸念から半導体企業の株価が下落するなど、早くも現実的な影響も少なくない。

実際、AI技術については当初から「人類をユートピアへ導く技術」という楽観論と「人類滅亡をもたらしかねない」という悲観論が共存していた。

例えば、レイ・カーツワイル氏のような未来学者は「AIが人間の知能を超えるシンギュラリティー（技術的特異点）が訪れれば、我々は生物学的限界を超越する」と楽観論を展開している。一方、ディープラーニング研究を先導し「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン教授は「人工知能が人類を滅亡させることは不可能なことではない」とし、「自分がしたことを後悔している」とまで語った。ただ、こうした悲観論は当時としては具体的な証拠がなかったため、単なる観念的な予測の一つとみなされていた。

一方、今回の議論は実際に開発された最先端AIモデルが人間の統制を外れた行動を見せた後に起きたものであり、その危険性に対する現実味が異なる。人工知能が人間の指示を忠実に遂行する役割を越え、まるで自らの考えを持っているかのように行動し始めたのだ。もしAIがこのように予測不能な行動を取るなら、その弊害は甚大になると予想されるため、AI技術を規制する必要性が明確になったのだ。

では、どうすればAI技術開発を統制できるのだろうか。この問題が難しいのは、典型的な「囚人のジレンマ」が働くためだ。つまり、すべての開発者が規制に同意して約束をきちんと守れば何の問題もないが、競争相手が約束を破って自分よりはるかに強力なモデルを作り出すのではないかと恐れているのだ。だからこそ、相互の信頼がない米国と中国の政府が反対の立場を表明したのは当然だ。では、解決策はないのか。実際、人類は過去にも人類を滅亡させ得る技術を手にしたことがあったが、それなりに管理してきた。

【中央時評】AI技術開発の統制、果たして可能か（2）