バイデン米大統領が１０月３０日、人工知能（ＡＩ）の安全性に関する大統領令に署名した。この大統領令には生成型ＡＩの副作用と潜在的脅威に対応するＡＩガバナンス構築に向けた包括的な指針と規制が盛り込まれた。ＡＩガバナンスは世界的な主導権争いのひとつの側面だ。今回の米大統領令にはＡＩ研究者だけでなく一般人もともに深く考えなければならない内容がある。

最初に、ＡＩガバナンスは時々刻々と変わる技術トレンドを反映しなければならない。大統領令は膨大なデータを学習して多様な業務を遂行できるＡＩ基盤モデルの基準を「１００億個以上の学習可能な媒介変数を持っているモデル」と規定している。この基準はすでに揺らいでいる。今年、この約１０％水準、すなわち１０億個の媒介変数だけで既存の超巨大モデル性能に近接できるという論文が出てきた。こうした効率性は最近の研究の主要なトレンドだ。したがってＡＩガバナンスは数字のような具体的な内容にしばられるよりはＡＩの能力範囲や影響力を考えなければならない。

２番目に、概念に対する盲信を警戒しなければならない。大統領令には「バイアス」という単語が９回も登場する。バイアス（偏向）は言葉自体で否定的な感じを与えるが、人間は本来認知から思考まですべての過程でバイアスから自由ではない。もちろん、特定の性別や職業に対するバイアスのように普遍的価値に反するバイアスは優先的に選別して除去しなければならない。だがバイアスに対する無条件の警戒以前に、どのような情報が知識・経験・信念・意見のうちどれに属するのか慎重に分類しなければ、場合によっては「バイアスを除去するためのバイアス」を注入する結果を生むことになりかねない。

３番目に、虚偽の情報や幻覚問題に対する哲学が必要だ。ＡＩが高度化するほど生成されるデータの量は増え真偽の判別がますます難しくなる。このほど米国でキャリア３０年のベテラン弁護士が生成型ＡＩが作成した判例文を裁判所に意見書として提出し制裁の危機に置かれた。ＡＩ時代に信頼確保に向けてはどのようなプロセスで該当情報を生成したのか使用者が検証できるよう過程と出典が透明なＡＩを作らなければならない。

大統領令を機に国際社会でＡＩガバナンスに対する議論と動きがさらに活発になっている。韓国も国家データ政策委員会、ＡＩ倫理政策フォーラムなどを構成し、ＡＩ倫理と政策に対して活発な議論を進めている。ＡＩガバナンスをしっかりと実現するためには技術トレンドに対する理解に基づいて普遍的秩序を順守し、人間と技術がともに発展する方向で具体的な談論を引き出さなければならない。

イ・ムンテ／ＬＧＡＩ研究院アドバンストＭＬラボ長