Articles tagged with: アイザック・アシモフ

人工知能-人類最悪にして最後の発明


今や人工知能の話題は、社会全体で取り上げられるべき問題となりつつある。ひと昔前まで、人工知能のニュースは情報技術のカテゴリーで小さく配信されていたはずなのに。それがいつの間にか、人類が共有すべきニュースになっている。

人工知能の話題が取り上げられる際、かつては明るい論調が幅を利かせていた。だが、今やそうではない。むしろ、人工知能が人類にとっての脅威である、という論調が主流になっている。脅威であるばかりか、人類を絶やす元凶。いつの間にかそう思われる存在となったのが昨今の人工知能だ。本書もその論調に追い打ちをかけるかのように、悲観的なトーンで人工知能を語る。まさにタイトルの通りに。

人工知能については、スティーブン・ホーキング博士やビル・ゲイツ、イーロン・マスクといった人々が否定的なコメントを発表している。先日、亡くなられたホーキング博士は車椅子の生活を余儀なくされながら、宇宙論の第一人者としてあまりにも著名。さらに注目すべきは後者の二人だ。片やマイクロソフト創業者にして長者番付の常連。片や、最近でこそテスラで苦しんでいるとはいえ、ハイパーループや宇宙旅行など実行力に抜きん出た起業家だ。情報社会の寵児ともいえるこれらの方々が、人工知能の暴走について深刻な危機感を抱いている。それは今の人工知能の行く末の危うさを象徴しているかのようだ。

一体、いつからそのような論調が幅を効かせるようになったのか。それはチェスの世界王者カスパロフ氏をIBMのスーパーコンピューターDEEP BLUEが破った時からではないか。報道された際はエポックなニュースとしてまだ記憶に新しい。そのニュースはPONANZAが将棋の佐藤名人を、そしてALPHA GOが囲碁のランキング世界一位の柯潔氏を破るにつれ、いよいよ顕著になってきた。しょせんは人間の使いこなすための道具でしかない、とたかをくくっていた人工知能が、いつしか人間を凌駕ししていることに、不気味さを感じるように。

さすがにネットには、本書ほど徹底的にネガティブな論調だけではなく、ポジティブな意見も散見される。だが、無邪気に人工知能を称賛するだけの記事が減ってきたのも事実。

ところが、世間の反応はまだまだ鈍い。かくいう私もそう。技術者の端くれでもあるので、人工知能については世間の人よりも多少はアンテナを張っているつもりだ。実際に人工知能についてのセミナーも聞いたことがある。それでも私の認識はまだ人工知能を甘くみていたらしい。今まで私が持っていた人工知能の定義とは、膨大なデータをコンピューターにひたすら読み込ませ、あらゆる物事に対する人間の認識や判断を記憶させる作業、つまり機械学習をベースとしたものだ。その過程では人間によってデータを読み込ませる作業が欠かせない。さらには、人工知能に対して何らかの指示を与えねばならない。人間がスイッチを入れ、コマンドを与えてはじめて人工知能は動作する。つまり、人間が操作しない限り、人工知能による自律的な意思も生まれようがない。そして人工知能が自律的な意思をもつまでには、さらなる研究と長い年月が必要だと。

ところが著者の考えは相当に悲観的だ。著者の目に人工知能と人類が幸せに共存できる未来は映っていない。人工知能は自己に課せられた目的を達成するために、あらゆる手段を尽くす。人間の何億倍もの知能を駆使して。目的を達成するためには手段は問わない。そもそも人工知能は人間に敵対しない。人工知能はただ、人類が自らの目的を達成するのに障害となるか否かを判断する。人間が目的のために邪魔と判断すればただ排除するのみ。また、人工知能に共感はない。共感するとすれば初期の段階で技術者が人間にフレンドリーな判断を行う機構を組み込み、そのプログラムがバグなく動いた場合に限られる。人工知能の目的達成と人間の利益のどちらを優先させるかも、プレインストールされたプログラムの判断に委ねられる。

いったい、人類にとって最大の幸福を人工知能に常に配慮させることは本当に可能なのか。絶対にバグは起きないのか。何重もの制御機能を重ねても、入念にテストを重ねてもバグは起きる。それは、技術者である私がよく分かっている。

一、ロボットは人間に危害を加えてはならないし、人間が危害を受けるのを何もせずに許してもならない。
ニ、ロボット は人間からのいかなる命令にも従わなければならない。ただし、その命令が第一原則に反する場合は除く。
三、ロボットは、第一原則および第二原則に反しない限り、自身の存在を守らなければならない。

これは有名なアイザック・アシモフによるロボット三原則だ。人工知能が現実のものになりつつある昨今、再びこの原則に脚光が当たった。だが、著者はロボット三原則は今や効果がないと切り捨てる。そして著者は人工知能へフレンドリー機構が組み込めるかどうかについてかなりページを割いている。そしてその有効性にも懐疑の目を向ける。

なぜか。一つは人工知能の開発をめざすプレイヤーが多すぎることだ。プレイヤーの中には人工知能を軍事目的に活用せんとする軍産複合体もいる。つまり、複数の人工知能がお互いを出し抜こうとするのだ。当然、出し抜くためには、お互部に組み込まれているフレンドリー機構をかいくぐる抜け道が研究される。組み込まれた回避機能が不具合を起こせば、人間が組み込んだフレンドリー機構は無効になる。もう一つは、人工知能自身の知能が人間をはるかに凌駕した時、人間が埋め込んだプロテクトが人工知能に対して有効であると誰が保証できるのか。技術者の知能を何億倍も上回る人工知能を前にして、人間が張り巡らせた防御機構は無力だ。そうなれば後は人工知能の下す判断に人類の未来を託すしかない。人工知能が「人間よ爆ぜろ」と、命じた瞬間、人類にとって最後の発明が人類を滅ぼす。

人工知能を開発しようとするプレイヤーが多すぎるため、人工知能の開発を統制する者がいない。その論点は本書の核となる前提の一つだ。いつどこで誰が人工知能のブレイクスルーを果たすのか。それは人類にとってパンドラの箱になるのか、それとも福音になるのか。その時、人間にフレンドリーな要素がきちんと実装されているのか。それは最初に人工知能の次の扉を開いた者に委ねられる。

もう一つの著者の主要な論点。それは、汎用知能AGI(artificial general intelligence)が人工超知能ASI(artificial super intelligence)になったと判断する基準だ。AGIとは人間と同じだけの知能をもつが、まだ自立能力は持たない。そして、Alpha Goはあくまでも囲碁を打つ機能に特化した人工知能でしかない。これがASIになると、人間に依存せず、己で判断を行える。そうなると人間には制御できない可能性が高い。そのとき、人工知能がAGIからASIにステージが上がった事をどうやって人間は判断するのか。そもそも、AGIが判断するロジックすら人類が検証することは不可能。人間の囲碁チャンピオンを破ったAlpha Goの判定ロジックも、すでに人間では追えないという。つまりAGIへのステップアップも、ましてやASIに上がったタイミングも把握することなど人間にはできないのだ。

そして、一度意思を手に入れたASIは、電気やハードウエアなど、自らにとって必要と見なした資源は優先的に確保しにくる。それが人類の生存に必要か否かは気にしない。自分自身を駆動させるためにのみ、ガス・水道・電気を利用するし、農作物すら発電用の資源として独占しかねない。その時、人間にできるのはネットワークを遮断するか、電源の供給を止めるしかない。だがもし、人工知能がAGIからASIになった瞬間を補足できなければ、人工知能は野に解き放たれる。そして人類がASIの制御を行うチャンスは失われる。

では、今の既存のソフトウエアの技術は人工知能に意思を持たせられる段階に来ているのか。まずそれを考えねばならない。私が本書を読むまで甘く考えていたのもこの点だ。人工知能の開発手法が、機械学習をベースとしている限り、知識とその判断結果によって築きあげる限り、自立しようがないのでは?つまり、技術者がコマンドを発行せねば人工知能はただの箱に過ぎず、パソコンやスマホと変わらないのでは?大抵の人はそうたかを括っているはずだ。私もそうだった。

だが、人工知能をAGIへ、さらにその先のASIに進める研究は世界のどこかで何者かによって着実に行われている。しかも研究の進捗は秘密のベールに覆われている。

人間に使われるだけの存在が、いつ自我を身につけるのか。そして自我を己の生存のためだけに向けるのか。そこに感情や意思と呼べるものはあるのか。全く予想が付かない。著者はASIには感情も意思もないと見ている。あるのはただロジックだけ。そして、そのロジックは人類に補足できない。人工知能が自我に目覚める瞬間に気づく可能性は低いし、人工知能のロジックを人類が使いこなせる可能性はさらに低い。それが著者の悲観論の要点だ。

本書の中で著者は、何人もの人工知能研究の碩学や泰斗に話を聞いている。その中にはシンギュラリティを世に広めた事で有名なレイ・カーツワイル氏もいる。カーツワイル氏の唱える楽観論と著者の主張は平行線をたどっているように読める。それも無理はない。どちらも仮説を元に議論しているだけなのだから。私もまだ著者が焚きつける危機感を完全に腹に落とし込めているわけではない。でも、著者にとってみればこれこそが最も危険な点なのだろう。

著者に言わせると、ASIを利用すれば地球温暖化や人口爆発は解決できるとのことだ。ただ、それらの問題はASIによる人類絶滅の危険に比べれば大したことではないともいう。それどころか、人工知能が地球温暖化の処方箋に人類絶滅を選べば元も子もない。

私たちは人工知能の危機をどう捉えなければならないのか。軽く受け流すか、それとも重く受け止めるか。2000年問題やインターネットを巡る悲観論が杞憂に終わったように、人工知能も同じ道をたどるのか。

どちらにせよ、私たちの思惑に関係なく、人工知能の開発は進められて行く。それがGoogleやAmazon、Facebook、AppleといったいわゆるGAFAの手によるのか。ほかの情報業界のスタートアップ企業なのか。それとも、国の支援を受けた研究機関なのか。または、軍の統帥部の奥深くかどこかの大学の研究室か。もし、ASIの自我が目覚めれば、その瞬間、人類の未来は定まる。

私は本書を読んでからというもの、人工知能の危機を軽く考える事だけはやめようと思った。そして、情報技術に携わる者ものとして、少し生き方も含めて考え直さねば、と思うようになった。

’2017/10/17-2017/10/24


屍者の帝国


本書は読書人の間で話題になっていた。

屍者が動く世界。
主役はホームズの相手役であるワトソン。
途中で著者の伊藤計劃氏が死去され、途中から盟友の円城塔氏が後を引き継ぎ完成。

本書のこの様な特徴は、話題に持ってこいだ。私も本書の評判は聞いていて一度読みたいと思っていた。

そもそも、伊藤計劃氏の著書はまだ読んだ事がなく本書が初めて。ただ、未読ではあったものの、伊藤計劃氏の作品が取り上げられた書評は目にしていた。それを読んで伊藤氏のことをSF作家と認識していた。実際、本書を読んでみて印象に残ったのもSFを思わせるような世界観だ。だが、本書の著者は上に書いたとおり途中で交替している。どこまでが伊藤氏の筆によって書かれ、どこからが円城氏の執筆部分なのか。私は本書を読みながらその事がずっと気になっていた。その答えは末尾のあとがきに書かれていた。それによると伊藤氏が担当したのはプロローグだけらしい。つまり、伊藤氏はプロローグによる世界観を構築したのみ。内容のほとんどは円城氏によって書かれたということだ。円城氏の作風も文学の極北を目指すような実験性に溢れているが、SF的なところも多分にある。だから円城氏も書き継げたのだろう。だが、それによって伊藤氏が本書に与えた貢献が薄れることはない。本書の特色は伊藤氏が作りあげた世界観にあるのだから。

なにしろ、死者が動く世界だ。しかもゾンビやグールのようなファンタジー世界の住人ではなく、科学技術にのっとって死者を動かすという設定が奇抜だ。そして時代設定を近未来でなく過去としているのもよい。

なぜかというと、今の私たちは死者を動かす技術を持っていないからだ。私たちを支配する倫理観は、死者を動かす行いを無意識に拒むように仕向けている。死者自体を忌避するような検閲が働いてしまうのだ。なので、本書の舞台を近未来に設定することは難しい。なぜなら、今の倫理観の延長上に死者を動かす技術を成立させることになるからだ。それは読者にとって抵抗を感じることだ。それを回避するため、伊藤氏は時代を過去に設定したのではないか。それによって、本書の世界観は私たちにとってなじみ深くなるが、実際は別の世界の物語として構成されるのだ。

読者は本書の物語が別世界に展開する物語と了解しつつ本書の世界観を受け入れる。倫理観の抵抗に遭うことなく。屍者を蘇らせ、心を持たないロボットの様に自在に使役する。読者はそんな世界観に馴染みつつ、倫理観の抵抗を感じることもない。伊藤氏が作りあげたのは、そのような世界観だ。

屍者が違和感なく街中を歩き、軍隊にあっては忠実な兵士として命を顧みず突っ込んでいく。ワトソン氏が住むのはそのような世界だ。ワトソン氏はその優秀さゆえ、ある機関に雇われることになる。ある機関は、医者の免許をワトソン氏のために用立て、世界各国へと任務で赴かせる。その任務とは、屍者を多数配下におき、自在に使役する謎の組織の調査。

ネクロウェアと呼ばれる屍者の操縦技術。本書の19世紀末では、この様な技術が発明されおおっぴらに使用されている。ネクロウェアがあっての屍者文化だ。だが、ネクロウェアは万人に広く公開されている技術ではない。しかし、実際に大量に屍者を扱っている組織がいる。そればかりかその組織は屍者に新たな能力を吹き込む技術を開発し、それで死者をより複雑に操っているふしがある。

SFの世界でよく知られているのは、アイザック・アシモフによるロボット三原則だ。本書にはその三原則に似た別の三原則が登場する。名づけてフランケンシュタイン三原則。提唱者はフローレンス・ナイチンゲール。
一、生者と区別のつかない屍者の製造はこれを禁じる。
二、生者の能力を超えた屍者の製造はこれを禁じる。
三、生者への霊素の書き込みはこれを禁じる。

そのような原則を踏まえてワトソン氏がまず訪れたのはボンベイ。大英帝国の植民地インドにあって有数の都会。ここでバーナビーという武闘派パートナーとタッグを組むことになる。

基礎調査を終えた二人が向かったのは中央アジア。今でいうアフガニスタンにあたる。ここで二人に相対するのは、アレクセイ・カラマーゾフ。いうまでもなく『カラマーゾフの兄弟』の三男である。学究肌の控えめな人物アリョーシャとして世界文学史上でも著名なキャラクターだが、本書においては「ザ・ワン」の遺志を継ぎ、屍者の秘密を探る人物として登場する。

「ザ・ワン」とは、屍者を操作する技術を発見した人物である。というよりも屍者を創り上げる技術を発見した人物といえば分かりやすい。「ザ・ワン」が創造した屍者こそ、あのフランケンシュタインなのだから。上に挙げた三原則でも名前が登場するフランケンシュタインだ。

本書は虚構の世界が舞台である。著者はそれを最大限に利用し、虚構の世界の他の住人たちを自在に登場させ、本書の世界を華やかな物にしている。後の世の私たちのよく知る人物が数多く登場するのも本書の面白さといえる。

本書はワトソン氏をさらに異境へといざなう。それは日本。文明開化真っ只中の、いまだに西洋人を指して異人やメリケンさんと呼ぶ時代の日本である。そこにさらに屍者まで乱入させてしまうのだから、著者もまったくいい度胸をしている。幕末ならいざ知らず、和洋がぎこちない形で混じわっていた明治初期は、小説でもあまり読んだことがない。だが、著者は本書は外遊中に日本を訪れていたグラント米国元大統領と明治天皇の会見の場を、あろうことか屍者からなる軍勢に襲わせている。ワトソン氏の波乱万丈な旅行もそうだが、著者のプロットも相当冒険だ。ただでさえ描くのが難しい時代と場所なのに米国元大統領と天皇の会見の場を屍者に蹂躙させるのだから。でもここまでぶっ飛んだ設定だとかえってすがすがしく思えてしまう。

円城氏の著作を読むのはは「これはペンです」に続いて久々だが、どちらかといえば理論に裏打ちされた冷徹な文体が記憶に残っている。本書で目立つのは断定調の「〜る」を多く用いた文体だ。その筆致は、屍者という冷えたクリーチャーが登場する本書にあって疾走感を与える効果を発揮している。そもそも本書の文体は冷徹を通り越し、全体が冷えている。それは、冷えた死者が動き回る本書の世界観にふさわしい。冒険小説を思わせる波乱万丈な筋書きで血沸き肉踊る戦闘シーンもふんだんに用意されているのに、これほどまでに熱量が感じられない小説はなかなかない。それは読む人にとっては違和感を感じるかもしれない。だが、それが逆に本書に印象的な読後感を与えている。むしろ、死者がうごめく本書にあって、冷えていないほうがおかしいと思えるほどに。

だが熱量の点を抜きにしても、本書は生と死の境目がどこか、という深遠なテーマを追求しておりとても興味深い。意思を持たず操られていればそれは屍者なのか。果たして意思とはどこにあるのか。どこまでが自由意志なのか。自由意志があったとしてそれをどこまで発揮できているのか。

フランケンシュタイン三原則にある、生者への霊素の書き込み。これこそは、ネクロウェアを使って生者を屍者として扱う技術。ある組織とワトソン氏が追い求める本書の核心でもある。ここに至り、生者と屍者の区別は融けて無くなる。

生と死を区別する無意識の判断。著者はこの点を執拗に揺さぶる。読者は本書を読み進めるうちに、自らの価値観が揺さぶられることに気づくはずだ。果たして自分たちが生きていると断言できる根拠はどこにあるのか、と。

SFというジャンルが近未来の世界を借りて、人間の常識や概念を揺さぶることにあるとすれば、本書は過去の時間軸を借りて哲学的なまでに死生の境目を追い求めた作品といえる。円城氏恐るべしである。そして、この世界観を構想した伊藤氏もまた同じ。夭折が惜しまれる。私も伊藤氏の作品を読んでみなくては。そう思った。

‘2016/01/31-2016/02/10