第一のケースは核技術だ。核爆弾の威力は強大で、少数でも人類を滅亡させ得るが、ここにも「囚人のジレンマ」が働き、米国とソ連はそれぞれ人類を数十回全滅させられるほどの核弾頭を保有している。しかし、人類はこれまで核戦争を防ぐことに成功してきた。これには米ソ軍縮会談などの努力と、大半の国を核拡散防止条約（NPT）に加盟させて核拡散を監視したことが大きな役割を果たした。AIの場合も、このような国際協定を通じた統制が一つの可能性となるだろう。ただ、核爆弾の製造は国家が主導し、ウラン濃縮など大規模な施設が必要なため監視しやすいが、人工知能は民間主導で、データセンターははるかに規模が小さいため、効率的な国際監視が可能なのかどうか疑問だ。さらに、現在の国際情勢では米国と中国の協力が可能なのかさえ見通せない。

第二は遺伝子操作をめぐるアシロマモデルだ。1970年代に遺伝子組み換えが可能になると、異形の生物の出現や細菌戦などの危険を懸念した科学者たちは自ら実験を中断し、米カリフォルニア州アシロマに集まって遺伝子操作実験の規範について議論し、合意を導き出した。この規範は今も大半の研究室で守られており、科学者が自らの研究が人類に及ぼす影響を考え、自ら規制を作った模範的な事例として記憶されている。AIの場合も、このようにビッグテックが自ら規範を作ればよいのではないかと考えることもできるだろう。しかし、アシロマ会議当時、遺伝子操作の商業的価値はわずかだった一方、現在のAI技術にはビッグテックの巨額の資金がかかっている。果たしてこのような状況で、全面的に個人の善意に依存するシステムが信頼できるのかという疑問がある。

このようにAI技術の危険性に備えるために過去の経験をそのまま活用するには限界があり、具体的な方策を整えるのは容易ではない。アモデイ氏もブログへの投稿で上記のさまざまな方策を組み合わせた対策を提示したが、それほど説得力があるものではなかった。おそらく今のところは、人類は新たな挑戦に対して常に適切な対応策を講じてきたという事実を思い起こしながら、実現可能な方策を模索し続けるしかなさそうだ。

呉世正（オ・セジョン）／ソウル大学物理天文学部名誉教授・元総長

【中央時評】AI技術開発の統制、果たして可能か（1）