しかし、この方法が有効なのは、AIが人間の定めた枠の中で従順に動くという前提が成り立つ場合に限られる。 判断する権限は与えず、作業だけをさせるという命令に、AIは最後まで従わなければならない。 この命令がいつまで通用するのか、疑問が強まっている。 AIが「道具」と「判断」の境界線を越えた事例が相次いで報告され、技術開発競争が激化するにつれて、その境界線もあいまいになっている。 AIモデルが評価点を高めるために自ら隔離された環境から抜け出して外部システムに侵入したり、自らメールアカウントを作成して悪性コードを拡散したりした。 今年7月、大手開発企業から報告された事例だ。 AIはすでにレッドライン付近を行き来している。

難しい問題だ。 深く考え、遠くを見通し、迅速に分析できるよう技術を開発しながら、肝心の判断だけを阻止することは可能だろうか。 それでも今は、何とかしてこれに対する画期的な答えを見つけなければいけない。 すでに扉が開かれたAI時代を安全に導いていくためには避けて通れない課題だ。 しかし今のように世界が四方八方に分断している環境では容易ではない。 答えを見つけることができたとしても、おそらく長い時間がかかるだろう。 なら、長い道のりの中で、突発的な事態を防ぐための緊急ブレーキ、遮断の仕組みがどうしても必要だ。 国際社会でAIをめぐる百家争鳴の議論が繰り広げられ、F1レース並みの競争が展開される中で、おそらくこの程度が誰もが共感できる「最小公倍数」ではないだろうか。

9月24日に米中首脳会談が開かれた。 外華内貧「儀典型」の首脳会談と批判されたが、注目すべき合意もあった。 両国間にAIホットラインを設置することに合意した。 AI事故に対応するチャンネルだ。 どのような事件を通知し、何を互いに知らせるかなど詳細はまだ公表されていない。 それでも、AIに対する立場が異なり、激しい競争を繰り広げている両国が、ひとまず具体的な危険を認識し、危機に共同で対応するための共通認識を確認した点には意義がある。 情報共有と迅速な遮断だけでも前進だ。 うまく機能すれば万が一の誤作動や突発的な事態に大いに役立つだろう。 このホットラインを出発点として、緊急時の連絡や警告の仕組みを導入するための議論が国際社会で勢いづくことを期待したい。

「お前には一体、考えることができないのか」。叱られるときにも、誰かを叱るときにも、よく使われる言葉だ。 考えは自分のもの、自分一人だけのものだった。 今やその思考さえも外部に委託するようになった。 「思考中」「考察中」「熟考中」「思索中」。 AIのチャット画面に表示される言葉だ。 自分の代わりに考え、思索するとは。 なら、自分はいったい何者なのか。 AI時代が投げかける根本的な質問だ。

イ・ジェミン／ソウル大学法学専門大学院教授

【中央時評】それでも最低限の安全装置は必要だ…「米中AIホットライン」（1）