本書は新刊で購入した。タイトルに惹かれたためだ。

人工知能が人類にどのような影響を及ぼし、人類をどのように変えていくのか。それは私が興味を持つ数多くのテーマの一つだ。

1997年に当時のチェス世界チャンピオンをIBMのディープ・ブルーが破った快挙は、人工知能の歴史に新たな扉を開いた。もう一つ、人工知能の歴史における偉業として挙げられるのは、2011年にアメリカの有名なクイズ番組「ジェパディ!」でこれもIBMが作ったワトソンが人間のクイズ王を破ったことだ。

これらの出来事は人類の優位を揺るがした。それでもなお、チェスよりもはるかに複雑で指し手の可能性が膨大にある囲碁や将棋において、人間が人工知能に後れをとることは当分こないとの予想が大勢を占めていた。それは、ゲーム中に現れる局面の指し手の数を比較すれば分かる。チェスが10の120乗だとすれば、将棋は10の226乗。囲碁は10の360乗にもなるからだ。
だが、2015年にGoogleのAlphaGoが世界のトップ棋士を破ったことは人間の鼻をへし折った。2017年には棋界においても人工知能「ponanza」が、人類のトップクラスの棋士を一敗地に塗れさせた。

本書は人工知能「ponanza」の開発者が、その開発手法や機械学習について語った本だ。

そもそも、人工知能はどのように将棋の指し手を覚えるのだろう。そして開発者はどのように将棋を人工知能に教え込むのだろう。
本書は、私が人工知能や機械学習に対して持っていたいくつかの誤解を正してくれた。それと同時にAlphaGoと「ponanza」の手法の違いにも気づきを与えてくれる。

本書の第1章「将棋の機械学習━プログラマからの卒業」では、まずコンピューターの歴史や、機械学習についての試行錯誤が語られる。ここで重要なのは、人工知能が人間の思考を模倣することを諦めたということだ。人間の思考を諦めたとは、どういうことだろう。
人間の思考とは、自分の脳内の動きを思い返すに、何かを判断する際にそれを過去の事例と照らし合わせ、ふさわしいと判断された結果だ。
だが、その評価基準や過去の事例の探索は、プログラムで模倣することが難しい。私も、自分自身の心の動きをトレースするとそう思う。

まず、プログラムによる判断からの卒業。それが将棋の人工知能の発展におけるブレイクスルーとなった。これは他の機械学習の考えにも通ずるところだ。むしろ本質ともいえる。

「ponanza」のプログラムには過去の棋譜や局面の情報は一切含めておらず、将棋のルールや探索の方法だけが書かれているという。局面ごとの評価そのものについては全て「ponanza」に任せているそうだ。
この構成は機械学習に通じている方にとっては当たり前のことだろう。だが、プログラムで一切の評価を行わない原則は誤解しやすい部分なので、特に踏まえておかねばならない。

局面ごとにそれぞれの指し手について、勝率が高い方を内部で評価する。その判断基準となるデータは内部で膨大に学習し蓄積されている。
人間の判断でも同じことを行っているはずだが、数値に変換して高い方を採用することまでは行っていない。
つまり統計と確率だ。その手法を採用したことに対する感情や情緒は「ponanza」は考えない。あくまでも数値を重んじる。

ところが「ponanza」は当初、機械学習を使っていなかったという。代わりにロジスティック回帰の手法を採用していたようだ。
つまり統計から確率を演算して予想する手法だ。「ponanza」が機械学習を採用したのは、まさに本書の執筆中だったと言う。

第2章「黒魔術とディープラーニング━科学からの卒業」では、機械学習について書かれる。
機械学習にもいくつかの問題があるという。例えば、単純な丸暗記ではうまく知能が広がらず、判断も間違うのだとか。そこで、わざといくつかの探索を強制的にやめさせるという。このドロップアウトと呼ばれる手法によって人工知能に負荷を与えたことによって、かえって人工知能の学習は進んだという。
重要なのはこの時、なぜそのような効果が生まれるのか科学者でも把握できていないことだ。他にも、技術者がなぜそうなるのか分かっていない事象があるという。たとえば、機械学習において複数の層を学習させると、なぜそれがうまく学習されるのか。また、ある問題を解くにあたって、複数のCPUで計算させる場合でも闇雲にCPUを増やすだけでは正解率は上がらない理由も分かっていないそうだ。むしろ、一つの課題を複数のCPUで同時に解くように指示した方が早く正確な解を導き出せるそうだ。だが、その理由についてもまだ解明できていないと言う。
著者はそれを黒魔術と言う言葉で表している。

細部の構造を理解すればそれが全体においても理解できる。つまり科学の還元主義だ。機械学習の個別の動きについては科学者でも理解できている。だが、全体ではなぜそのような結果が導かれるのかが理解できない。つまり、すでに人工知能は還元主義を超越してしまっている。

なぜ人工知能がシンギュラリティーに達すると、人の理解が及ばない知能を獲得してしまうのか。生みの親であるはずの技術者がなぜ人工知能を制御できないのか。黒魔術の例えは、誰もが抱くはずの根本の疑問を私たちにわかりやすく教えてくれる。
人工知能の脅威論も、技術者が理解できない技術が横行していることへの危機感から生まれているに違いない。

第3章「囲碁と強化学習━天才からの卒業」では、人類によって磨き上げられた知能が人工知能によってさらに強くなる正のフィードバックが紹介される。
囲碁の人工知能であるAlphaGoが驚異的な能力を獲得した裏には、画像のパターン認識があった。囲碁の局面ごとの画像を膨大に学習し、それぞれごとに勝率の良い方を判断する術。
画像認識の際に有用だったのがモンテカルロ法だ。これは、統計学の書物を読むとしばしばお目にかかる概念だ。たとえば円の面積を求めたい場合、いわゆる円周率πを使うのではなく、ランダムに打ち込んだ点が円の外にあるものと内にあるものを数える。するとその割合の数が増えれば、πに限りなく近くなる。

座標の位置によってその統計と確率を判断する。
それは囲碁のように白と黒の碁石が盤面で生き物のように変化するゲームを把握するときに有用だ。それぞれの点を座標として記憶し、その勝率を都度計算する。
AlphaGoはモンテカルロ法による勝率予想と機械学習の併用で作られている。画像処理の処理はまさに人工知能の得意分野だ。それによってAlphaGoの性能は飛躍的に上がった。

10の360乗と言う膨大な局面の最善手を人工知能が判断するのは困難とされていた。だが、AlphaGoはそれを成し遂げてしまった。
人間の知能を超越し、神として見なされるふさわしい圧倒的な知能。それは信仰の対象にすらなった。すでに人間の天才を超えてしまったのだ。

第4章「倫理観と人工知能━人間からの卒業」では、知能と知性について深い考察が繰り広げられる。

著者は、人工知能が人類を凌駕するシンギュラリティは起こると考えている。シンギュラリティを語る際によく言われる懸念がある。それは、人工知能が人類によって制御が不能になった際、人工知能の内部の論理が人間に理解できないことだ。人間は人工知能の判断の根拠を理解できないまま、支配され、絶滅させられるのではないかという恐れ。

著者は、その懸念について楽観的に考えている。
その根拠は、人類が教え込み、人類の知恵をもとに学習した人工知能である以上、人類の良い面を引き継いでくれるはずという希望に基づいている。
つまり人間が良い種族であり、良い人であり続ければ、人工知能が私たちに危害を加えない保証になるのではないかということだ。人が親、人工知能が子供だとすれば、尊敬と愛情を感じる親に対して、子は敬意を持って処遇してくれるはず。その希望を著者は語っている。

巻末ではAlphaGoの偉業について語る著者と加藤氏、さらに囲碁棋士の大橋氏との3者対談が収められている。

対談の中では、AlphaGoと対戦したイ・セドル氏との対戦の棋譜が載せられている。複雑な局面の中でなぜAlphaGoがその手を選んだのか。その手は勝敗にどのような影響を与えたのか。
それが解説されている。

早い時では第七手でAlphaGoが打った一手が、ずいぶん後の局面に決定的な影響を与える。まさに人工知能の脅威と、人類が想像もつかない境地に達したことの表れでもある。
私はあまり囲碁が得意ではない。だが、人間が狭い視野で見られていない部分を人工知能がカバーするこの事象は、人工知能が私たちに与える影響を考える上で重要だと思った。
おそらく今後と、人工知能がなぜそのようなことをするのか私たちには理解できない事例が増えているはずだ。

面白いことに、著者は対談の中でこのように語っている。
「コンピューターは、論理的に動くけれど、本当の意味での論理力は足りていないんです」(263ページ)。
つまり、人工知能とはあくまでも過去の確率から判断しているだけであって、もし人間が既存の棋譜や学習内容に含まれていない手を打ってきた時、人工知能はそれを論理的に捉えられず混乱するのだ。

もう一つ本書を読んで気づくのは、人類自身が囲碁や将棋の奥深さを人工知能に教えられることだ。人類が思いも寄らない可能性を人工知能によって教えられる。
それは、これからの人工知能と人間の共存にとって希望だと思う。人工知能から人間も学び、新たなヒントを得ていく。

これは著者のシンギュラリティへの態度と並んで楽観的な意見だと指摘されるはずだ。
だが、今さら人工知能をなかったことにはできない。私たちは何があろうとも人工知能と共存していかなければならないのだ。
本書は人工知能の本質を理解する上でとても優れた本だと思う。

‘2020/08/18-2020/08/18