その本の「はじめに」には、著者の「伝えたいこと」がギュッと詰め込まれています。この連載では毎日、おすすめ本の「はじめに」と「目次」をご紹介します。今日はメラニー・ミッチェルさんの 『教養としてのAI講義 ビジネスパーソンも知っておくべき「人工知能」の基礎知識』 です。
【はじめに】
恐怖にとらわれる
コンピューターは驚くべき速さでますます利口になっているようだが、そんなコンピューターにもまだ無理なもののひとつは、皮肉を察することだ。そう思ったのは、数年前、カリフォルニア州マウンテンビューにあるグーグルの本社「グーグルプレックス」で、人工知能（AI）について話し合う会議に向かう途中で迷ってしまったときのことである。グーグルプレックスは、いわば「検索と発見」の総本山だ。しかも、私が迷子になってしまったのは、Google（グーグル）マップ部門の建物のなかだったのだ。まさに皮肉としか言いようがないではないか。
Googleマップ部門の建物自体はすぐに見つけられた。屋根から突き出ている赤と黒のサッカーボールのようなカメラを搭載した、Googleストリートビュー用の大きくて無骨な撮影車が正面玄関の前に停まっていたからだ。だが、ひとたび建物内に入ると、警備室で渡されたよく目立つ「来訪者」バッジをつけた私は、パーティションで複雑に仕切られたいくつもの仕事スペースのあいだを、きまり悪い思いをしながらさまよい歩くことになった。それぞれの小部屋のなかでは、ヘッドホンをしたグーグルの社員が、アップルのデスクトップパソコンのキーを熱心に叩いていた。しばらくのあいだあてもなく（マップもなく）探し続けると、丸1日行われる会合のために用意された会議室がようやく見つかり、なかで集まっている出席者たちの輪に加わることができた。
2014年5月に行われたこの会議を主催したのは、若きコンピューター科学者ブレイス・アグエラ・ヤルカスである。彼は当時、グーグルの人工知能開発への取り組みの一端を担うため、技術者として最高位の肩書を与えられていたマイクロソフトをあとにして転職してきたばかりだった。グーグルは1998年にひとつの「製品」で始まった。それはインターネットで検索するための、それまでなかった非常に優れた手法を用いたウェブサイトだった。その後、グーグルは世界で最も重要なテクノロジー企業へと成長し、現在ではGmail（ジーメール）、Googleドキュメント、Google翻訳、YouTube（ユーチューブ）、Android（アンドロイド）といった製品やサービスを数多く提供している。それらはあなたが毎日使っているものからおそらく耳にしたことがないものまで、実に多岐にわたっている。
グーグルの創業者ラリー・ペイジとセルゲイ・ブリンは、コンピューターに人工知能を搭載するという野望を長きにわたり抱いていて、その実現への探求がグーグルの最重要課題となった。同社はここ10年のあいだに、AIの専門家を大量に採用した。なかでも注目されたのは、発明家、あるいは議論を呼ぶ未来学者としてよく知られたレイ・カーツワイルだ。彼が提唱している「AIシンギュラリティ」（訳注：「技術的特異点」ともいう）とは、近い将来においてコンピューターが人間より賢くなる時点を指している。グーグルはこの未来像の実現を支援するために、カーツワイルを迎え入れたのだった。2011年、グーグルは「グーグル・ブレイン」と命名されたAI研究の社内グループを設置した。それ以降、同社はアプライド・セマンティクス、ディープマインド、ヴィジョン・ファクトリーといった、グーグル・ブレインと同じくらい楽観的な名前のAIスタートアップ企業を、見事に次々と買収した。
つまり、誰の目にも明らかだが、グーグルはもはや単なるウェブ検索用ポータルサイト企業ではない。同社はAIを応用する企業へと急速に成長している。AIこそが、グーグルと親会社アルファベットが提供する多様な製品とサービス、採算を度外視した独自の研究成果をひとつにつなぎ合わせるものだ。グーグルの究極の目標は、ディープマインドの設立当初の使命記述書に示されている「知性を解明して、それをほかのすべての問題の解決に利用する」ことだ。
AIと『GEB』
私はグーグルでのAI会議に参加するのがとても楽しみだった。1980年代の大学院時代からAIに関連するさまざまな分野に携わってきた私は、グーグルが成し遂げたことに大きな感銘を受けていた。それに、私も会議に貢献できるよいアイデアを出せると思っていた。だが正直にいうと、私はお供として出席したにすぎなかった。この会議はグーグルの選りすぐりのAI研究者たちがダグラス・ホフスタッターを招いて話を聞き、彼と対話するために企画されたものだったからだ。ホフスタッターはAI分野における伝説的な存在であり、『ゲーデル、エッシャー、バッハ あるいは不思議の環』（1985年、白揚社）という謎めいた題名がつけられた有名な本の著者でもある（同書の略称は『GEB』）。あなたがコンピューター科学者やコンピューターマニアなら、『GEB』を聞いたことがある、または読んだことがある、あるいは頑張って読もうとしてみたことがあるはずだ。
1970年代に書かれた『GEB』は、ホフスタッターの数学、美術、音楽、言語、ユーモア、言葉遊びといった多彩な分野に対するほとばしるような知的な情熱をすべて合わせることで、人間にごく当たり前のように備わっている知性、意識、自己認識が、知性や意識を持たない生体細胞の基質からどのようにして生まれるのかという深い疑問を解明しようとしたものだ。同書はさらに、いつの日かコンピューターが知性と自己認識を何らかの方法で身につける可能性についても語っている。『GEB』は類まれな著書であり、多少なりとも似ているものさえほかに聞いたことがない。しかも、気軽に読める本ではないにもかかわらずベストセラーになり、ピューリッツァー賞と全米図書賞をともに受賞した。『GEB』はほかのどんな本よりも、より多くの若者にAI分野に進むきっかけを与えたのは間違いない。私もそんな若者たちのひとりだった。
1980年代の初め、数学の学位を得て大学を卒業した私は、ニューヨーク市に住んで私立高校で数学を教える生活に不満を抱きながら、自分が人生で本当にやりたいことを見つけようとあれこれ考えていた。『GEB』を知ったのは、『サイエンティフィック・アメリカン』誌の書評で大絶賛されているのを読んだときだ。私はすぐさま『GEB』を買いにいった。それから数週間かけて同書をむさぼり読んだ私のなかで、AI研究者になりたいという当初の漠然とした思いが、もっと具体的に、ダグラス・ホフスタッター本人と研究するのだという確信にまで高まっていった。本の内容や進路の選択に対してこれほど強い気持ちを抱いたのは、それまでなかったことだった。
当時のホフスタッターはインディアナ大学でコンピューター科学の教授を務めていたので、私は同大学のコンピューター科学博士課程に出願して入学し、それからホフスタッターの講座に受け入れてもらえるよう本人に頼み込むという無謀な計画を立てた。若干気になったのは、私がそれまでコンピューター科学の講座を一度たりとも受けたことがなかった点だ。コンピューター自体は、小さい頃からそばにあった。1960年代に設立されたテクノロジー企業のハードウェア技術者だった父は、趣味で自宅の家族部屋に大型コンピューターを組み立てて設置した。冷蔵庫くらい大きなそのSigma（シグマ）2機には、「私はFORTRAN（フォートラン）言語で祈る」と記された丸いマグネットが貼られていた。当時まだ小さかった私は、家族の一員であるこの大きなコンピューターはほかのみんなが寝ている夜中に密かに祈っているのだろうと、半ば信じていた。1960年代から70年代にかけて、私はFORTRAN、次にBASIC（ベーシック）、それからPascal（パスカル）というように、それぞれの時代の人気の言語を少しずつかじりながら育った。とはいえ、専門的なプログラミング技術についてはほとんど知らなかったし、ましてやコンピューター科学専攻の大学院進学予定者が当然身につけておかなければならない知識などゼロに等しかった。
計画の実現を早めようとした私は、学年度末に教師を辞めてボストンに移り、新たな進路に備えるためにコンピューター科学の入門講座を受け始めた。新しい人生に踏み出してから数カ月後、マサチューセッツ工科大学（MIT）のキャンパスで授業が始まるのを待っていた私は、なんとこの大学でダグラス・ホフスタッターの講義が2日後に行われるという掲示を目にした。驚きのあまり、案内を思わず二度見した。自分の幸運が信じられなかった。講義に参加したあと、群がっている崇拝者たちのそばで辛抱強く待ち続けると、ようやくホフスタッターと話すことができた。そうしてわかったのは、ホフスタッターは1年間の長期有給休暇をMITで過ごしている最中で、その後インディアナからアナーバーのミシガン大学へ移る予定だということだった。
細かい話は省略するが、まず夏のあいだ研究助手として働かせてほしいとホフスタッターを粘り強く説得した私は、その後大学院生として6年間彼のもとで研究し、コンピューター科学の博士号を取得してミシガン大学大学院を卒業した。その後も長年にわたってホフスタッターと頻繁に連絡を取り合い、AIに関する議論をたびたび行ってきた。私がグーグルのAI研究に興味を抱いていたのを知っていたホフスタッターは、親切にも今回の会議に同行者として誘ってくれたのだった。
チェスと第一の疑いの種
なかなか見つからなかった会議室に集まっていたのは約20名のグーグルの技術者で（そのほかはダグラス・ホフスタッターと私）、彼らはみな同社のさまざまなAIチームのメンバーだった。こうした会議の最初によくやるように、出席者が部屋のなかを一回りして自己紹介し合った。若いときに読んだ『GEB』に触発されてAI研究の道に進んだと教えてくれた人も何名かいた。出席者たちはみな、伝説的な存在であるホフスタッターがAIについてどんなことを語るのかを想像して、興奮する気持ちと好奇心を隠せないようだった。ついに、ホフスタッターが立ち上がって話し始めた。「AI研究全般について、さらにはより具体的にここグーグルでの研究について、いくつか意見を述べたいと思います」。ホフスタッターの口調は真剣だった。「私は怖いのです。とても」
ホフスタッターは話を続けた。1970年代にAIの研究を始めたときにはAIの可能性にワクワクしたが、その一方でAIの実現はほど遠く思えた。「そのため、差し迫った危険はありませんでしたし、実際に何かが起こっている気もしませんでした」と彼は語った。人間のような知性を持つ機械をつくるのは奥深い知的な冒険であり、実を結ぶまでには少なくとも「ノーベル賞を100回受賞しなければならない」と言われていた長期的な研究プロジェクトだった。ホフスタッターは、AIは原理的に実現可能だと信じていた。「『行く手を阻む敵』はジョン・サールやヒューバート・ドレイファスといった、AIの実現は不可能だと主張する懐疑派たちでした。彼らは脳が物理の法則に従う物質の塊であることや、コンピューターがニューロン（訳注：「神経細胞」ともいう）、神経伝達物質といったあらゆるレベルでそれらをモデル化できることを理解できなかったのです。理論的には、そうしたモデル化は可能です」。実際、『GEB』ではニューロンから意識にいたるさまざまなレベルにおける知能のモデル化についてのホフスタッターの考えが詳細に論じられていて、それは彼の研究において何十年にもわたる主要なテーマでもあった。しかし実用面では、ホフスタッターは自分が生きているうち（あるいは子どもの代でさえ）に汎用的な「人間レベル」のAIが実現することは決してないだろうとつい最近まで思っていたため、その危険性をさほど危惧していなかった。
ホフスタッターは『GEB』の終盤に、人工知能についての「10の質問とそれについての考察」（訳注：『GEB』20周年記念版では「10の質問と憶説」と表記）を載せた。そのひとつ「誰にも負けないチェスプログラムはできるだろうか？」に対するホフスタッターの予測は「ノー」だった。「チェスで誰にも負けないプログラムはできるかもしれないが、それはチェス専用のものではなく、汎用型人工知能のプログラムの一部だろう」
2014年のグーグルでの会議で、ホフスタッターは自分が「完全に間違っていた」ことを認めた。1980年代と90年代におけるチェスプログラムの急速な改良によって、ホフスタッターは自身のAI短期予測に第一の疑惑の種をまいた。AIの先駆者ハーバート・サイモンは、「10年以内に」チェスプログラムが世界チャンピオンになるだろうと、1957年に予測していた。しかし実際には、ホフスタッターが『GEB』を執筆していた1970年代半ば時点での最良のコンピューターチェスプログラムは、上手な（だが一流ではない）アマチュアレベルにすぎなかったのだ。ホフスタッターはチェスのチャンピオンにもなった心理学教授エリオット・ハーストと、親交を深めていた。ハーストは人間のチェスの達人たちがコンピューターチェスプログラムとはいかに異なるかを、詳細に論述していた。実験によると、人間のチェスの名人たちはあらゆるチェスプログラムで使われているような次の手をしらみつぶしで調べる戦法をとるのではなく、チェス盤上の局面を即座に認識して考えていた。ゲームのあいだ、最高レベルの人間のプレイヤーは駒の並びを見て、「この種の局面」には「この戦略」が必要だと見抜くことができる。それはつまり、そうしたプレイヤーたちは、目の前の局面と戦略をより高いレベルの概念の一例として素早く認識できるということだ。ハーストは、こうした局面と抽象概念を認識する総合的な能力なしには、チェスプログラムが最も優れた人間のレベルに到達することは決してないと論じた。ホフスタッターは、ハーストの主張を受け入れた。
しかしながら、1980年代から90年代にかけて、コンピューターチェスは大幅に改良された。その最大の理由は、コンピューターの処理速度が飛躍的に向上したことだ。最高の能力を誇るプログラムはどれも総当たり的に調べて次の手を決めるという、人間とはほど遠い戦法をまだ使っていた。1990年代半ばにはチェス専用のコンピューターであるIBMの「ディープ・ブルー」がチェス選手最高位の「グランドマスター」レベルに到達し、1997年には世界チャンピオンタイトル保持者のガルリ・カスパロフを六番勝負で破った。かつて人間の知性の頂点とみなされていたチェスの最高級の技能は、しらみつぶし戦法に屈したのだった。
音楽─人間性のとりで
ディープ・ブルーの勝利によって、マスメディアは高度な知能を持つ機械の台頭への不安をさかんに取り上げたが、「真のAI」の実現はまだはるか先に思われた。ディープ・ブルーは確かにチェスは指せたが、それ以外のことは何もできなかったからだ。ホフスタッターはチェスについては読み誤ったが、それでも『GEB』で行ったほかの予測については意見を曲げなかった。とりわけ、次のひとつ目の質問に対しては主張を固持した。
質問─コンピューターが美しい曲をつくれる日は来るだろうか？
予測─来る。だが、ずっと先のことになるだろう。
ホフスタッターは以下のように続けている。
音楽は感情の言葉であり、プログラムが人間と同じくらい複雑な感情を持つ日が来るまでは、それが美しい曲を書けることは決してない。既成の曲の構造をうわべだけまねるという「偽造」は可能かもしれないが、たとえ曲の第一印象がどうであろうと、音楽表現とは構造的なルールの枠組みに収まっているだけのものではないのだ……ショパンやバッハがもう少し長く生きていれば書いたかもしれない曲を、創造性を持たない電気回路の部品から生み出すようあらかじめプログラムされた、大量生産品の卓上型「オルゴール」を通信販売で20ドルで買える日がもうすぐ来るかもしれないなどと考えるのは、人間の精神の深遠さに対する滑稽かつ恥ずべき思い違いだ。
ホフスタッターはこの予測について、「『GEB』で最も重要な主張のひとつであり、自分の命を懸けていると言ってもいい」と語った。
1990年代半ば、音楽家デイヴィッド・コープによってつくられたプログラムによって、ホフスタッターの自身のAI予測に対する自信はまたしても、しかも今回は非常に大きく揺るがされた。そのプログラムは「音楽的知能による実験」またはEMI（エミー）と呼ばれるものだった。作曲家で音楽科の教授でもあったコープがEMIをそもそも開発したのは、自身の曲づくりに役立つ、彼独自の作風に沿った楽曲を自動的につくるためだった。だが、EMIが有名になったのは、バッハやショパンといったクラシックの作曲家のような曲もつくることができたからだった。EMIは作品全体の構造を捉えるためにコープが開発した、膨大な数のルールに従って作曲する。そのルールを、対象とする作曲家の一連の作品から選ばれた大量の「手本」に用いると、「その作曲家風の」新しい曲をつくることができる。
グーグルでの会議の話に戻ろう。ホフスタッターはEMIとの遭遇について、驚くほど激しい感情を込めて次のように語った。
私はピアノの前に座り、EMIが作曲した「ショパン風」マズルカのひとつを弾いてみました。正真正銘ショパンの曲というふうには聞こえませんでしたが、十分にショパンらしく、しかも初めから終わりまで作風は崩れませんでした。その事実によって、私はただひたすら深く悩まされました。
小さい頃からずっと、音楽は私をワクワクさせるものであり、心の底から感動させてくれるものでした。それに、私が愛するどんな曲からも、それをつくった人間の心から感情がじかに伝わってきます。彼らの心の奥底へ招かれている気がします。この世で音楽による表現よりも人間的なものはないと思えるほどです。ええ、絶対にないと。うわべだけをまねた音符の操作によってできたものが、まるで人間の心から伝わるもののように聞こえるという話には、とても、とても心が痛みます。この事実によって、私は完ぺきなまでに打ちのめされたのです。
ホフスタッターは次に、ニューヨーク州ロチェスターにある名門校イーストマン音楽学校で講演したときのことを語った。EMIについて説明したあと、ホフスタッターは音楽理論科や作曲科の教員たちも含めた同校の出席者に、ピアニストがここで演奏する二つの作品のどちらがショパンの（あまりよく知られていない）マズルカで、どちらがEMIの作曲によるものかを当ててみてほしいと言った。出席者のひとりは「最初のマズルカは確かに優雅で魅力的でしたが、『真のショパン』級の創造性や壮大な流れがありませんでした……2番目は叙情的な旋律といい、壮大かつ優雅な半音階の転調といい、調和の取れた自然な形式といい、明らかに本物のショパンでした」と後日語っている。教員の大半も同様の意見だったようで、最初の曲がEMIで2曲目が「本物のショパン」だと主張し、ホフスタッターを驚かせた。正解はその逆だったからだ。
ホフスタッターはいったん間を置いて、グーグルの会議室にいる私たちの顔をのぞき込んだ。誰も何も言わなかった。ようやく、彼は先を続けた。「私はEMIが恐ろしくなりました。EMIが嫌でたまらなかったし、大きな脅威に思えました。私が人間性のなかで最も大事にしていたものが、EMIによって破壊されそうで怖かったのです。EMIは私が人工知能に抱いている恐怖の本質を、最も的確に表している例と言えるでしょう」
グーグルとシンギュラリティ
ホフスタッターは次に、自動運転車、音声認識、自然言語理解、言語間翻訳、コンピューターが芸術作品や曲をつくるといった、グーグルがAIで実現しようとしているものに対して、自身のなかで相反する感情が激しく交錯している点について語った。グーグルがレイ・カーツワイルと彼が提唱するシンギュラリティを積極的に受け入れたことで、ホフスタッターの不安はますます高まった。カーツワイルのこの予測では、自分で学んで自身を向上させる能力を身につけたAIが急速に人間レベルの知能に追いついて、その後追い越すとされている。グーグルはこの展望をできるだけ早く実現するために、あらゆる手を尽くしているように見える。ホフスタッターはシンギュラリティの根拠についてはなはだ疑問に思っているが、それでもなお、カーツワイルの予測に心が乱され続けていると語った。「私はそのシナリオに恐れを抱きました。とうてい信じられないと否定しながらも、同時に『実現の時期は外れているかもしれないが、予想自体は正しいのかもしれない』とも思えたのです。私たちは完全に不意を突かれることになるかもしれません。何事もなく日々が過ぎていると思っていたら、いつのまにかコンピューターが人間より賢くなっていたことを、ある日突然知らされるというわけです」
こうしたことが実際に起きれば、とホフスタッターは続けた。「私たちはAIに取って代わられます。そして、私たちは過去の遺物になり、AIの後塵を拝することになるでしょう」
「もしかしたら、本当にそうなるかもしれませんが、すぐにはそうなってほしくありません。私は自分の子どもたちがAIの後塵を拝するようなことになってほしくないのです」
最後に、ホフスタッターは会議室で熱心に話を聞いているグーグルの技術者たち自身について直接触れた。「こうしたものをつくろうと人々がやみくもに突っ走って必死になっていることが、私にはとても恐ろしいのです。とても不安で、残念でたまりません。私の胸のなかでは嫌悪、恐怖、不審、困惑、動揺が渦巻いています」
ホフスタッターは、なぜ恐怖にとらわれているのか？
私は部屋を見まわした。ホフスタッターの話を聞いていた出席者たちは、不思議そうな顔つきをしていた。当惑している者さえいた。ここにいるグーグルのAI研究者たちにとって、この話題は怖くもなんともなかったからだ。それに、彼らにとってはどれもずっと前から知っている話だった。ディープ・ブルーがカスパロフを破り、EMIがショパンのようなマズルカをつくり始め、カーツワイルがシンギュラリティを扱った第一作を書いたとき、ここにいる技術者の多くは高校生で、たとえ『GEB』のAIについての予測が当時の状況と多少ずれていても、同書を読んで感銘を受けていただろう。彼らがグーグルで働いているのは、まさにAIを実現するためだ。しかも、次の100年以内にどころか、一日でも早く。彼らには、ホフスタッターが何に対してそこまでストレスを感じているのか理解できなかった。
AIの分野に携わっている人は、「超スーパーインテリジェント高度な知能を持つ機械が悪と化す」という、ありがちなSF映画におそらく影響された一般人が抱いている不安を聞かされることに慣れている。そうしたAI研究者たちは、「ますます高性能化したAIが、一部の仕事で人間に取って代わる」「ビッグデータの分析にAIが活用されると、プライバシーが侵害されたり、巧妙な差別が起きたりする恐れがある」「理解力に欠いたAIシステムに自律的な判断を任せると、大惨事を招きかねない」といった懸念が世間にあることもよくわかっている。
だが、ホフスタッターの恐怖は、まったく違うものに対してだった。AIが度を超えて賢くなる、侵略的になる、有害化するといったことでも、あるいは役に立ちすぎるということにでもなかった。彼が恐ろしくなったのは、「知性、創造性、感情、あるいは意識そのものさえ、あまりに簡単につくれるようになるのではないか」「自分が人間性で最も大切だと思っていたものが、『便利なツール』にすぎなくなってしまうのではないか」「うわべだけをまねるしらみつぶしのアルゴリズムが、人間の精神を解き明かせるようになるのではないか」ということに対してだった。
『GEB』で極めて明確に記されているとおり、ホフスタッターは精神とそのあらゆる特性はすべて、体と物質的世界との相互作用とともに、脳やそのほかの体の部位の物理的な基質から生まれると確信している。そこに非物質的なものや霊的なものが潜んでいることは決してない、と。ホフスタッターの不安の本当の原因は、ある種の複雑さに関連している。彼は私たちが最も大事だと思っている人間性が、がっかりするほど簡単に機械でつくれることがAIによって示されてしまうかもしれないと恐れているのだ。ホフスタッターは例の会議のあと、ショパン、バッハといった人間性のお手本たちについて、次のように私に語った。「計り知れないほどの緻密さ、複雑さ、感情の深さを有する彼らの精神が、小さな半導体チップによって単純かつ平凡なものにできるのならば、人間性に対する私の認識は損なわれてしまうだろう」
混乱する私
ホフスタッターが会議で意見を述べ終えたあとに簡単な質疑応答が始まると、当惑気味の出席者たちはホフスタッターにAI分野、とりわけグーグルのAI開発に対する恐怖について、さらに詳しく説明してほしいと頼んだ。それでも、互いに共感するまでにはいたらなかった。続いて、プロジェクトを紹介するプレゼンテーション、グループでの討論、コーヒー休憩といった普通の会議と同じようなスケジュールで進んでいき、その間ホフスタッターの先ほどの話に触れられることは特になかった。会議が終わりに近づくと、ホフスタッターは出席者たちにAIの近い将来についてどう思っているか尋ねた。グーグルの研究者である彼らの何人かは、「汎用的な人間レベルのAIは、脳の仕組みから発想を得た『深層学習』（訳注：『ディープラーニング』ともいう）手法におけるグーグル独自の開発が重要な柱となって、30年以内に実現する」と予測した。
私は頭が混乱したまま、会議をあとにした。ホフスタッターがカーツワイルのシンギュラリティに関する著作を読んで困惑していたのは知っていたが、あれほど強い感情や不安を抱えていたとはまったく予想外だった。その一方で、グーグルがAI研究を強力に推進していることも知っていたが、AIが汎用的な「人間レベル」に早期に到達できると語った数名の科学者たちの楽観的な見方にも驚かされた。私自身は、AIは特定の狭い分野では大きく進歩したが、人間の幅広い総合的な知性にはまだほど遠いレベルであり、そこに到達するには30年どころか100年以内でも無理だろうと思っていた。しかも、私と違って早期実現を信じている人々は人間の知性の複雑さを非常に甘く見ている、とも思っていた。私はカーツワイルの本も読んでいたが、おおむね話にならないというのが感想だった。だが、自分が尊敬、称賛していた人々の意見をあの会議であれほど多く耳にして、自身の見解を批判的な目で再検討しなければならない気になった。仮に、あの場にいたAI研究者たちが人間を甘く見ていたとしても、もしかしたら私のほうも昨今のAIの能力と可能性を甘く見ていたのだろうか？
その後の数カ月間で、私はこうした疑問を取り巻く議論にこれまで以上に注意を払うようになった。すると、著名人たちが「『超人的な』AIの危険性について、今すぐにでも危機感を抱かなければならない」と突如として訴えかけている記事、ブログ投稿、書籍が山ほどあることに気づいた。2014年には物理学者のスティーヴン・ホーキングが、「完全なる人工知能の開発は、人類の終焉を招きかねない」と警鐘を鳴らしている。同年、テスラやスペースXの創業者である起業家のイーロン・マスクも、人工知能について「人間の存在を脅かす最大の脅威となる恐れがある」「私たちは人工知能で悪魔を召喚している」と語った。マイクロソフト共同創業者のビル・ゲイツも同調していて、「私はイーロン・マスクといった人々と同じ意見であり、この問題について関心を持とうとしない人たちのことが理解できない」と述べている。機械が人間よりも賢くなる潜在的な危険性を論じた哲学者ニック・ボストロムの著作『スーパーインテリジェンス』（2017年、日本経済新聞出版）は、冗長で難解だったにもかかわらず予想外のベストセラーとなった。
ほかの著名な知識人たちのなかには、反論する者もいた。彼らの言い分は「確かに私たちはAIのプログラムを人間に害を及ぼす恐れのない安全なものにすべきだが、近い将来超人的なAIが実現するという説はどれもあまりに飛躍しすぎている」というものだった。起業家で活動家でもあるミッチェル・ケイパーは、「人間の知性はすばらしいが、謎に包まれた奥深いものであり、その大半が解明されていない。そのためまったく同じものがつくられる恐れは当分ない」と解説している。この意見に同意しているロボット研究者（しかもMIT人工知能研究所の元所長）のロドニー・ブルックスは、「現在そして数十年先までの機械の能力は、著しく過大評価されている」と述べている。心理学者でAI研究者でもあるゲイリー・マーカスにいたっては、「『強いAI』（人間レベルの汎用的なAI）をつくろうという試みにおいては、ほとんど進歩が見られない」と言い切っている。
こうした相反する双方の意見をすべて引用しようとすると、きりがないほどだ。手短にいうと、調べてみてわかったのは「AIの分野は混迷を深めている」ということだ。AIは「大幅に進歩した」のか、それとも「ほとんど進歩していない」のか。「真のAI」の実現は「すぐそこまで来ている」のか、それとも「数百年後」なのか。将来、AIはすべての問題を解決するのか。それとも私たちの職を奪い、人類を滅亡させ、人間性の価値を貶めるのか。AIの開発は「崇高な探求」、あるいは「悪魔の召喚」のどちらなのだろうか。
この本が目指すもの
本書は人工知能分野の本当の状況を知りたいという、私の思いから生まれたものだ。現在のコンピューターには何ができるのか。今後数十年のあいだに登場するコンピューターには、どんなはたらきが期待できるのだろうか。グーグルで行われたあの会議でのホフスタッターの深く考えさせられる意見や、近い将来のAIに対するグーグルの研究者たちの自信に満ちた返答は、私にとってある種の警鐘となった。このあとの章で試みたのは、人工知能がどのように発展してきたのかをまず整理することだ。次に、AIの目標については現状ではあまりに多くの意見があって対立も見られるが、それでも本書はAIが目指す先を明確にしようと試みている。こうした取り組みを行うにあたって、最高レベルのAIシステムの仕組みは実際どんなものなのかを調べ、そういったシステムの成果と限界を検証する。最高レベルの知的水準が求められるゲームで人間を破る、ある言語を別の言語に翻訳する、複雑な疑問に答える、入り組んだ道路で車を操縦するといった高いレベルの知能が必要とされることを、今日のコンピューターがどの程度こなせるのかも調べていく。さらに、画像内の顔や物体を見分ける、話し言葉や書かれた文章を理解する、最も基本的な常識をはたらかせるといった、私たち人間が日々当たり前のように無意識に取っている行動を、AIがどれほどこなせるのかも検証していく。
さらに、「『汎用的な人間レベル』の知能、さらには『超人的』な知能とは実際にはどういうものを指すのか？」「今のAIはそういったレベルに近いのか？ あるいは少なくとも到達への道を辿っている最中なのか？」「AIの危険性とは、どういうものなのか？」「知性のなかで、私たちが最も大切にしている面は何か？ 私たち自身の人間らしさに対する認識を、人間レベルのAIはどの程度まで変えてしまうことができるのか？」「ホフスタッターの言葉を借りると、私たちはAIをどれくらい恐れる必要があるのだろうか？」という、AIが生まれた当初から熱い議論を巻き起こしてきた、より広い範囲の疑問も解き明かそうとしている。
本書は人工知能についての一般的な調査や歴史を扱ったものではない。この本はあなたの人生におそらく影響を与えている、あるいはいずれ影響を与えるであろうAIの手法や、人間の独自性に対する私たちの認識を変えてしまう可能性が最も高いAI開発での取り組みを、深く掘り下げて調べたものだ。私が本書を書いた目的は、この探求の成果をあなたと分かち合うためだ。そしてさらに、この分野でこれまでにどんな成果が達成され、機械が自身の人間性を主張できるようになるまであとどれくらいかかるのかを、私と同じくらいあなたにもよりはっきりとつかんでもらうためだ。
【目次】
