すでに古典になった英国作家ダグラス・アダムス氏のＳＦ小説『銀河ヒッチハイク・ガイド』に登場するある宇宙人は人生と宇宙、世界万物に対する答えを得るためにスーパーコンピュータ「ディープ・ソート

（Ｄｅｅｐ　Ｔｈｏｕｇｈｔ，深い考え）」を開発する。あまりにも膨大でその大きさが小さい都市に匹敵するディープ・ソートは７５０万年にわたる演算の末に次のような結論を出す。「人生と宇宙、世の中全てのものに対する質問の答えは４２です」。

７５０万年間答えを待っていたこの宇宙人は、奇想天外な答えに慌てる。読者も同じだ。一部のＳＦファンたちは４２が何を意味するのかをめぐっていまだ論争を繰り広げている。著者アダムス氏が答えを公開しないまま、２００１年運動中に心臓まひで突然死し、４２の意味は永遠の謎に残ることになった。

小説『銀河ヒッチハイク・ガイド』は１９７９年に初めて出版された。当時は、人間が理解できないほど難解な決定を下すコンピュータの存在はＳＦジャンルでしか見られない想像の産物だった。しかし、今は違う。最近、人工知能（ＡＩ）技術が急速に発展するにつれ、現実でもそのようなことがしばしば起きる。一部では、遠からずＡＩの決定が理解をあきらめたまま信じて従わなければならない信仰の領域になるだろうという懸念の声も出ている。

「理解できないＡＩ」を最も明確に示している例はグーグルのディープ・マインドの囲碁ＡＩ「アルファ碁」だ。アルファ碁は昨年３月、韓国の囲碁棋士、李世ドル（イ・セドル）九段と５番勝負で４勝１敗の圧勝をおさめたことに続き、パク・ジョンファン九段、柯潔九段など韓日中の超一流プロ棋士とのオンライン対局で６０戦６０勝をおさめた。

数十回にわたる人間との対局でアルファ碁が見せた手はほぼ人間の理解を越えたものだった。囲碁専門家たちはアルファ碁が石を置くたびにその手を解釈するのに汲々としていた。人間の観点から見て悪手に見えたアルファ碁の一手が対局が進むにつれ、絶妙な勝負手として判明される場合が多かった。

問題はアルファ碁を作り出した開発者デミス・ハサビス氏を含め、どこの誰もアルファ碁がなぜそのような手を置いたのか説明できないということだ。囲碁だけでない。２０１５年、米ニューヨークのマウントサイナイ病院は人工知能「ディープ・ペイシェント（Ｄｅｅｐ　Ｐａｔｉｅｎｔ）」に患者７０万人のデータを入力して学習させた。ディープ・ペイシェントはこのデータに基づいて驚くほど正確に患者の病名を予測した。さらに、入力していない事実さえデータ分析を通じて自ら察知する姿まで見せた。ディープ・ペイシェントはあまりにも優れたあげく、医療スタッフの理解も越えてしまった。ディップ・ペイシェントは統合失調症など初期診断が難しいことで悪名の高い精神疾患までも正確に予測したが、それがなぜ可能だったのかは誰も分からなかったわけだ。ディープ・ペイシェントの開発と運営を総括した生命工学者ジョエル・ダドリー氏は「私たちはモデルを作ることができるが、そのモデルがどのように作動するかは分からない」と明らかにした。

このような現象が現れる理由は今日、ＡＩ技術の核心が自ら学習するマシンラーニング（機械学習）技術にあるためだ。かつては開発者がプログラムに必要なすべての内容をいちいち手で入力し、そのためにそのプログラムが開発者の理解を越えることは発生しなかった。


作った人もよく分からないＡＩ、人間の理解能力を越えた（２）