作った人もよく分からないAI、人間の理解能力を越えた(2)
ⓒ 中央日報/中央日報日本語版2017.07.27 11:20
しかし、マシンラーニング技術を採択した今日のAIは違う。開発者がAIに基本的な規則や学習能力を作ってデータを入力すれば、残りはAIが自ら体得する。この「自ら体得する部分」は開発者に未知の領域として残っている。開発者がAIを騙すことのできない「ブラックボックス」と呼ぶ理由だ。
2013年、将棋で日本の最高手を破ったAI「「ポナンザ(Ponanza)」を作った開発者、山本一成氏はAI開発の難解さをこのように説明した。「例えば、プログラムの中に入れた数値がなぜその数値でなければならないのか、なぜ他の組合でなくこの組合を使った時、さらに性能が良いかどうかを開発者は全く分からない。実験を通じてどのプログラムがより良いかを経験的に分かるだけ」
山本氏はそれぞれ違うバージョンのポナンザ同士に3000回程度の対局をさせ、この対局統計を分析しより良いポナンザのプログラムを採択する方式でポナンザを改良した。採択されたポナンザはそうでないポナンザより平均2%ポイント程度勝率が高かったという。対局で52%の勝率を上げたポナンザが生き残り、このポナンザがもう一つのポナンザと対局を行う。最初はアマチュアよりも実力が劣っていたポナンザは、この過程を繰り返しながら人間の最高手も破ることができるほど優秀になった。