Articles tagged with: 技術的特異点

人工知能-人類最悪にして最後の発明


今や人工知能の話題は、社会全体で取り上げられるべき問題となりつつある。ひと昔前まで、人工知能のニュースは情報技術のカテゴリーで小さく配信されていたはずなのに。それがいつの間にか、人類が共有すべきニュースになっている。

人工知能の話題が取り上げられる際、かつては明るい論調が幅を利かせていた。だが、今やそうではない。むしろ、人工知能が人類にとっての脅威である、という論調が主流になっている。脅威であるばかりか、人類を絶やす元凶。いつの間にかそう思われる存在となったのが昨今の人工知能だ。本書もその論調に追い打ちをかけるかのように、悲観的なトーンで人工知能を語る。まさにタイトルの通りに。

人工知能については、スティーブン・ホーキング博士やビル・ゲイツ、イーロン・マスクといった人々が否定的なコメントを発表している。先日、亡くなられたホーキング博士は車椅子の生活を余儀なくされながら、宇宙論の第一人者としてあまりにも著名。さらに注目すべきは後者の二人だ。片やマイクロソフト創業者にして長者番付の常連。片や、最近でこそテスラで苦しんでいるとはいえ、ハイパーループや宇宙旅行など実行力に抜きん出た起業家だ。情報社会の寵児ともいえるこれらの方々が、人工知能の暴走について深刻な危機感を抱いている。それは今の人工知能の行く末の危うさを象徴しているかのようだ。

一体、いつからそのような論調が幅を効かせるようになったのか。それはチェスの世界王者カスパロフ氏をIBMのスーパーコンピューターDEEP BLUEが破った時からではないか。報道された際はエポックなニュースとしてまだ記憶に新しい。そのニュースはPONANZAが将棋の佐藤名人を、そしてALPHA GOが囲碁のランキング世界一位の柯潔氏を破るにつれ、いよいよ顕著になってきた。しょせんは人間の使いこなすための道具でしかない、とたかをくくっていた人工知能が、いつしか人間を凌駕ししていることに、不気味さを感じるように。

さすがにネットには、本書ほど徹底的にネガティブな論調だけではなく、ポジティブな意見も散見される。だが、無邪気に人工知能を称賛するだけの記事が減ってきたのも事実。

ところが、世間の反応はまだまだ鈍い。かくいう私もそう。技術者の端くれでもあるので、人工知能については世間の人よりも多少はアンテナを張っているつもりだ。実際に人工知能についてのセミナーも聞いたことがある。それでも私の認識はまだ人工知能を甘くみていたらしい。今まで私が持っていた人工知能の定義とは、膨大なデータをコンピューターにひたすら読み込ませ、あらゆる物事に対する人間の認識や判断を記憶させる作業、つまり機械学習をベースとしたものだ。その過程では人間によってデータを読み込ませる作業が欠かせない。さらには、人工知能に対して何らかの指示を与えねばならない。人間がスイッチを入れ、コマンドを与えてはじめて人工知能は動作する。つまり、人間が操作しない限り、人工知能による自律的な意思も生まれようがない。そして人工知能が自律的な意思をもつまでには、さらなる研究と長い年月が必要だと。

ところが著者の考えは相当に悲観的だ。著者の目に人工知能と人類が幸せに共存できる未来は映っていない。人工知能は自己に課せられた目的を達成するために、あらゆる手段を尽くす。人間の何億倍もの知能を駆使して。目的を達成するためには手段は問わない。そもそも人工知能は人間に敵対しない。人工知能はただ、人類が自らの目的を達成するのに障害となるか否かを判断する。人間が目的のために邪魔と判断すればただ排除するのみ。また、人工知能に共感はない。共感するとすれば初期の段階で技術者が人間にフレンドリーな判断を行う機構を組み込み、そのプログラムがバグなく動いた場合に限られる。人工知能の目的達成と人間の利益のどちらを優先させるかも、プレインストールされたプログラムの判断に委ねられる。

いったい、人類にとって最大の幸福を人工知能に常に配慮させることは本当に可能なのか。絶対にバグは起きないのか。何重もの制御機能を重ねても、入念にテストを重ねてもバグは起きる。それは、技術者である私がよく分かっている。

一、ロボットは人間に危害を加えてはならないし、人間が危害を受けるのを何もせずに許してもならない。
ニ、ロボット は人間からのいかなる命令にも従わなければならない。ただし、その命令が第一原則に反する場合は除く。
三、ロボットは、第一原則および第二原則に反しない限り、自身の存在を守らなければならない。

これは有名なアイザック・アシモフによるロボット三原則だ。人工知能が現実のものになりつつある昨今、再びこの原則に脚光が当たった。だが、著者はロボット三原則は今や効果がないと切り捨てる。そして著者は人工知能へフレンドリー機構が組み込めるかどうかについてかなりページを割いている。そしてその有効性にも懐疑の目を向ける。

なぜか。一つは人工知能の開発をめざすプレイヤーが多すぎることだ。プレイヤーの中には人工知能を軍事目的に活用せんとする軍産複合体もいる。つまり、複数の人工知能がお互いを出し抜こうとするのだ。当然、出し抜くためには、お互部に組み込まれているフレンドリー機構をかいくぐる抜け道が研究される。組み込まれた回避機能が不具合を起こせば、人間が組み込んだフレンドリー機構は無効になる。もう一つは、人工知能自身の知能が人間をはるかに凌駕した時、人間が埋め込んだプロテクトが人工知能に対して有効であると誰が保証できるのか。技術者の知能を何億倍も上回る人工知能を前にして、人間が張り巡らせた防御機構は無力だ。そうなれば後は人工知能の下す判断に人類の未来を託すしかない。人工知能が「人間よ爆ぜろ」と、命じた瞬間、人類にとって最後の発明が人類を滅ぼす。

人工知能を開発しようとするプレイヤーが多すぎるため、人工知能の開発を統制する者がいない。その論点は本書の核となる前提の一つだ。いつどこで誰が人工知能のブレイクスルーを果たすのか。それは人類にとってパンドラの箱になるのか、それとも福音になるのか。その時、人間にフレンドリーな要素がきちんと実装されているのか。それは最初に人工知能の次の扉を開いた者に委ねられる。

もう一つの著者の主要な論点。それは、汎用知能AGI(artificial general intelligence)が人工超知能ASI(artificial super intelligence)になったと判断する基準だ。AGIとは人間と同じだけの知能をもつが、まだ自立能力は持たない。そして、Alpha Goはあくまでも囲碁を打つ機能に特化した人工知能でしかない。これがASIになると、人間に依存せず、己で判断を行える。そうなると人間には制御できない可能性が高い。そのとき、人工知能がAGIからASIにステージが上がった事をどうやって人間は判断するのか。そもそも、AGIが判断するロジックすら人類が検証することは不可能。人間の囲碁チャンピオンを破ったAlpha Goの判定ロジックも、すでに人間では追えないという。つまりAGIへのステップアップも、ましてやASIに上がったタイミングも把握することなど人間にはできないのだ。

そして、一度意思を手に入れたASIは、電気やハードウエアなど、自らにとって必要と見なした資源は優先的に確保しにくる。それが人類の生存に必要か否かは気にしない。自分自身を駆動させるためにのみ、ガス・水道・電気を利用するし、農作物すら発電用の資源として独占しかねない。その時、人間にできるのはネットワークを遮断するか、電源の供給を止めるしかない。だがもし、人工知能がAGIからASIになった瞬間を補足できなければ、人工知能は野に解き放たれる。そして人類がASIの制御を行うチャンスは失われる。

では、今の既存のソフトウエアの技術は人工知能に意思を持たせられる段階に来ているのか。まずそれを考えねばならない。私が本書を読むまで甘く考えていたのもこの点だ。人工知能の開発手法が、機械学習をベースとしている限り、知識とその判断結果によって築きあげる限り、自立しようがないのでは?つまり、技術者がコマンドを発行せねば人工知能はただの箱に過ぎず、パソコンやスマホと変わらないのでは?大抵の人はそうたかを括っているはずだ。私もそうだった。

だが、人工知能をAGIへ、さらにその先のASIに進める研究は世界のどこかで何者かによって着実に行われている。しかも研究の進捗は秘密のベールに覆われている。

人間に使われるだけの存在が、いつ自我を身につけるのか。そして自我を己の生存のためだけに向けるのか。そこに感情や意思と呼べるものはあるのか。全く予想が付かない。著者はASIには感情も意思もないと見ている。あるのはただロジックだけ。そして、そのロジックは人類に補足できない。人工知能が自我に目覚める瞬間に気づく可能性は低いし、人工知能のロジックを人類が使いこなせる可能性はさらに低い。それが著者の悲観論の要点だ。

本書の中で著者は、何人もの人工知能研究の碩学や泰斗に話を聞いている。その中にはシンギュラリティを世に広めた事で有名なレイ・カーツワイル氏もいる。カーツワイル氏の唱える楽観論と著者の主張は平行線をたどっているように読める。それも無理はない。どちらも仮説を元に議論しているだけなのだから。私もまだ著者が焚きつける危機感を完全に腹に落とし込めているわけではない。でも、著者にとってみればこれこそが最も危険な点なのだろう。

著者に言わせると、ASIを利用すれば地球温暖化や人口爆発は解決できるとのことだ。ただ、それらの問題はASIによる人類絶滅の危険に比べれば大したことではないともいう。それどころか、人工知能が地球温暖化の処方箋に人類絶滅を選べば元も子もない。

私たちは人工知能の危機をどう捉えなければならないのか。軽く受け流すか、それとも重く受け止めるか。2000年問題やインターネットを巡る悲観論が杞憂に終わったように、人工知能も同じ道をたどるのか。

どちらにせよ、私たちの思惑に関係なく、人工知能の開発は進められて行く。それがGoogleやAmazon、Facebook、AppleといったいわゆるGAFAの手によるのか。ほかの情報業界のスタートアップ企業なのか。それとも、国の支援を受けた研究機関なのか。または、軍の統帥部の奥深くかどこかの大学の研究室か。もし、ASIの自我が目覚めれば、その瞬間、人類の未来は定まる。

私は本書を読んでからというもの、人工知能の危機を軽く考える事だけはやめようと思った。そして、情報技術に携わる者ものとして、少し生き方も含めて考え直さねば、と思うようになった。

’2017/10/17-2017/10/24


人類5万年 文明の興亡 下


541年。著者はその年を東西の社会発展指数が逆転し、東洋が西洋を上回った年として特筆する。

それまでの秦漢帝国の時代で、西洋に遅れてではあるが発展を遂げた東洋。しかし「社会発展は、それを妨げる力を生み出す」パラドックスは東洋にも等しく起こる。三国志の時代から魏晋南北朝、そして五胡十六国の時代は東洋にとって停滞期だった。しかし、それにもかかわらず東洋は西洋に追いつき抜き去る。分裂と衰退の時期を乗り切った東洋に何が起こったのか。著者はここで東洋が西洋を上回った理由を入念に考察する。その理由を著者は東洋のコア地域が黄河流域から南の長江流域へと拡大し、稲作の穀倉地帯として拡大したことに帰する。東洋の拡大は、隋と唐の両帝国を生み出し、東洋は中国をコアとして繁栄への道をひた走る。一方、西洋はビザンティン帝国によるローマ帝国再興の試みがついえてしまう。そればかりか、西洋の停滞の間隙を縫ってムハンマドが創始したイスラム教が西洋世界を席巻する。

西洋は気候が温暖化したにもかかわらず、イスラム教によってコアが二分されてしまう。宗教的にも文化的にも。つまり西洋は集権化による発展の兆しが見いだせない状況に陥ったのだ。一方の東洋は、唐から宋に王朝が移ってもなお発展を続けていた。中でも著者は中国の石炭産業に注目する。豊かに産出する石炭を使った製鉄業。製鉄技術の進展がますます東洋を発展させる。東洋の発展は衰えを知らず、このまま歴史が進めば、上巻の冒頭で著者が描いた架空の歴史が示すように、清国の艦隊をヴィクトリア女王がロンドンで出迎える。そのような事実も起こりえたかもしれない。

だが、ここでも「社会発展は、それを妨げる力を生み出す」パラドックスが東洋の発展にブレーキをかける。ブレーキを掛けたのは異民族との抗争やモンゴルの勃興などだ。外部からの妨げる力は、洋の東西を問わず文明の発展に水をさす。この時、東洋は西洋を引き離すチャンスを逃してしまう。反対にいつ果てるとも知らぬ暗黒時代に沈んでいた西洋は、とどめとばかりに黒死病やモンゴルによる西征の悲劇に遭う。だがモンゴルによる侵略は、東洋の文化を西洋にもたらす。そして長きにわたったイスラムとの分断状態にも十字軍が派遣されるなど社会に流動性が生まれる。イスラムのオスマン・トルコが地中海の東部を手中に収めたことも西洋の自覚を促す。そういった歴史の積み重ねは、西洋を復活へと導いてゆく。

東洋の衰えと西洋の復活。著者はここで、東洋が西洋を引き離し切れなかった要因を考察する。その要因として、著者は明の鄭和による大航海が東洋の優位と衰退を象徴することに着目する。鄭和艦隊の航海術。それは東洋を西洋に先んじてアメリカ大陸に到達させる力を持っていた。あるいはアステカ文明は、ピサロよりも先に中華文明によって絶滅に追いやられていたかもしれないのだ。そんな歴史のIF。そのIFは、マダガスカルやシリアまでも遠征し、当時としては卓越した航海術を擁した鄭和艦隊にとって不可能ではなかった。著者は鄭和艦隊を東洋の優位性を示す何よりの証拠と見ていた。

しかし明の皇帝たちは引き続いての艦隊の派遣に消極的となる。一方の西洋はバスコ・ダ・ガマやコロンブスなど航海によって大きく飛躍するのに。この差がなぜ生じたのか。この点を明らかにするため、著者はかなりのページ数を割いている。なぜならこの差こそが、541年から1773年まで1000年以上続いた東洋の優位を奪ったのだから。

あらためて著者の指摘する理由を挙げてみる。
・中国のルネッサンスは11世紀に訪れ、外遊の機運が盛り上がっていた。が、その時期には造船技術が進歩していなかった。一方、西洋のルネッサンスは16世紀に訪れたが、その際は東洋の造船技術が流入しており、労せずして西洋は航海技術を得ることができた。
・中国にとって西には西洋の文物があることを知っていた。だが、後進地域の西洋へと向かう動機が薄かった。また、東の果て、つまりアメリカ大陸までの道のりは間に太平洋を挟んでいたため遠方であった。つまり、東洋には距離的にも技術的にも未知の国へ向かわせるだけの動機が弱かった。東洋に比べて文化や技術で劣る西洋は距離的に大陸まで近く、技術の弱さが補えた。

東洋がダイナミズムを喪いつつある時期、われらが日本も登場する。その主役は豊臣秀吉だ。著者は本書の135ページで秀吉による日本統一をなぜか1582年と記している(私の意見では1590年の小田原征伐をもって日本は統一された)。が、そんな誤差はどうでもよい。肝心なのは、当時の世界史の潮流が地球的なスケールで複雑にうねっていたことだ。本書から読み取るべきは世界史の規模とその中の日本の締める位置なのだ。極東の島国は、この時ようやく世界史に名前が現れた程度でしかない。日本が範とし続けてきた中国は官僚による支配が顕著になり、ますます硬直化に拍車がかかる。ではもし、秀吉が明を征服していれば東洋にも違う未来が用意されていたのか。それは誰にもわからない。著者にも。

西洋はといえば、オスマントルコの脅威があらゆる面で西洋としての自覚が呼び覚ましていく。それは、ハプスブルク家による集権体制の確立の呼び水となる。西洋の発展には新たに発見された富の存在が欠かせない。その源泉はアメリカ南北大陸。精錬技術の発達と新たな農場経営の広がりが、西洋に計り知れない富と発展をもたらすことになる。そしてそれは産業革命へと西洋を導いてゆく。王権による集権化の恩恵をうけずに人々の暮らしが楽になる。それはさらなる富を生み出し技術発展の速度は速まる。全てが前向きなスパイラルとなって西洋を発展させる。かくして再び西洋が東洋を凌駕する日がやってくる。著者はそれを1773年としている。

1773年。この前後は西洋にとって重大な歴史的な変化が起こった。アメリカ独立戦争やフランス革命。もはや封建制は過去の遺物と化しつつあり、技術こそが人々を導く時代。ところが西洋に比べ、東洋では技術革新の波は訪れない。著者はなぜ東洋で技術発展が起きなかったのか、という「ニーダム問題」に答えを出す。その答えとは、硬直した科挙制から輩出された官僚が科学技術に価値を置かなかったことだ。東洋は後退し、いよいよ西洋と科学の時代がやって来たことを著者は宣言する。

なぜ産業革命は東洋で起きなかったのか。著者は科挙制の弊害以外に労働者単価が低かったことを主な理由としている。そして19世紀になっても東洋で産業革命が起きていた確率はほぼなかっただろうと指摘する。

いずれにせよ、西洋主導で社会は動きはじめた。その後の歴史は周知の通り。1914年から1991年までの大きな戦争(と著者は第一、二次大戦と冷戦を一つの戦争の枠組みで捉えている)をはさんでも西洋主導の枠組みは動きそうにない。いまだにG8で非西洋の参加国は日本だけ。

だが、著者はその状態もそう長くないと見る。そして、ここからが著者が予測する未来こそが、本書の主眼となるのだ。上巻のレビューにも書いた通り、今まで延々と振り返った人類の歴史。われわれのたどってきた歴史こそが、人類の未来を占うための指標となる。著者はここであらためて世界史の流れをおさらいする。今度は始源から流れに乗るのではなく、2000年の西洋支配の現状から、少しずつ歴史をさかのぼり、どこで東洋と西洋の発展に差が生じたのかを抑えながら。その際に著者は、歴史にあえて仮定を加え、西洋と東洋の発展の歴史が違っていた可能性を検証する。

著者はその作業を通じて「二〇〇〇年までの西洋の支配は、長期的に固定されたものでも短期的な偶発的事件によるものでもないと結論づけることができる」(301P)と書く。つまり、長期的に妥当な必然が今の西洋支配につながっているのだ。

では、これからはどうなるのだろう。著者は2103年を「西洋の時代が終わると予測される一番遅い時点」(309P)と仮定する。

ここ250年、西洋は世界を支配してきた。その日々は東洋を西洋の一周縁地域へとおとしめた。では今後はどうなるのか。これからの人類を占う上で、人工知能の出現は避けては通れない。人工知能が人類の知恵を凌駕するタイミング。それを技術的特異点(シンギュラリティ)という。人工知能に関するコアワードとして、シンギュラリティは人口に膾炙しているといってよい。著者はシンギュラリティが引き起こす未来を詳細に予測するとともに、破滅的な人類の未来もあらゆる視点から予想する。そもそもシンギュラリティに到達した時点で西洋と東洋を分ける意味があるのか、という問い。それと同時に、破滅した世界で東洋と西洋とうんぬんする人間がいるのか、という問いも含めて。著者の問いは極めて重い。そもそも西洋と東洋を分けることの意味から問い直すのだから。

著者の予測する未来はどちらに転ぶともしれない不安定で騒々しいものだ。著者は人類の歴史を通じて西洋と東洋の発展の差を考察してきた。そして今までの考察で得た著者の結論とは、進化という長いスパンからみると東洋と西洋の差などたいした問題でないことだ。

地理学、生物学、社会学。著者はそれらの諸学問を駆使して壮大な人類史を捉えなおしてきた。そして著者は未来を救うための三つの勢力として考古学者、テレビ、歴史を提唱する。考古学者や歴史はまだしも、テレビ? つまり、著者に言わせると、テレビのような大量に流される情報の威力は、インターネットのような分散された細分化され拡散される情報に勝るということだ。

が予測する未来は破滅的な事態を防ぐことはできる、と前向きだ。その予測は私たちにとってとても勇気をもらえる。私が本書のレビューを書き上げようとする今、アメリカの今後を占う上で欠かせない人物が頻繁にツイートで世を騒がせている。トランプ大統領だ。現代の西洋とは、アメリカによって体現されている。繁栄も文化も。そんな西洋のメインファクターであるアメリカに、閉鎖的で懐古主義を標榜したリーダーが誕生したのだ。そして世界をつぶやきで日々おののかせている。トランプ大統領は西洋の衰退の象徴として後世に伝えられていくのか。それともトランプ大統領の発言などは世界の未来にとってごくわずかな揺り戻しにすぎず、トランプ大統領の存在がどうあれ、世界は人工知能が引き起こす予測のできない未来に突入してゆくのか、とても興味深いことだ。

未来に人類が成し得ることがあるとすれば、今までの歴史から学ぶことしかない。今までの教訓を今後にどう生かすか。そこに人類の、いや、地球の未来がかかっている。今こそ人類は歴史から学ぶべきなのだ。本書を読んで強くそう思った。

‘2016/10/21-2016/10/27