人工知能（AI）研究を続けるコンピューター科学者のメラニー・ミッチェル氏は、AIの実力と限界をきちんと理解したうえで、その活用法を探るべきだと主張する。その意味で、ChatGPTに代表される大規模言語モデルにも冷静な姿勢を崩さない。ミッチェル氏の『 教養としてのAI講義 』（訳：尼丁千津子）からAIの脅威と可能性を示す一問一答を抜粋・編集してお届けする。その2回目。
（第1回 「AIのせいで大量の失業者が出るのだろうか？」から読む）
質問：汎用的な人間レベルのAIの実現まで、あとどれくらいかかるのだろうか？
この質問の答えとして、アレン人工知能研究所のオーレン・エツィオーニ所長の次の言葉を借りることにする。「あなたが予想している年数を倍にして、それをさらに3倍にして、今度はそれを4倍にしてみてほしい。それが答えだ（※原注1）」
ほかにも、前の章のアンドレイ・カルパシーの言葉を、もう一度繰り返しておこう。「私たちはまだ、はるか、はるか遠くにいる（※原注2）」
私の意見も、まさにそのとおりだ。コンピューターの始まりは人間だった。具体的には、通常は女性で、彼女たちは兵士が大砲の狙いを定めやすくなるようにミサイルの軌道を計算するといった、第二次世界大戦で必要とされていた計算を手計算か機械式卓上計算機で行っていた。それが「コンピューター」の本来の意味だった（訳注：コンピューターには「計算する人」という意味もある）。クレア・エバンスの著作Broad Band（女たちの集団）によると、1930年代から40年代において「『若い娘』と『コンピューター』は、同じ意味で使われていた。国防研究委員会のある委員は……『1キロガール』のエネルギー量は、およそ1000時間の計算作業に相当すると見積もっていた」そうだ（※原注3）。
1940年代中盤になると、電子コンピューターが人間の「コンピューター」に取って代わり、たちまち超人的な存在になった。それはどんな人間の「コンピューター」にもできない、「高速の砲弾の軌道を、砲弾が飛ぶ速度よりも速く計算する」ことができた（※原注4）。これはコンピューターが得意として数多くこなしてきた、狭い領域でのタスクの初期の頃のもののひとつだ。最先端のAIアルゴリズムがプログラムされた今日のコンピューターはそれ以外の狭い領域のタスクも多数征服してきたが、それでも総合的な知性の獲得にはいたっていない。
この分野の歴史を振り返ると、私たちは汎用的なAIの登場について10年後、15年後、25年後、あるいは「一世代のうちに」という著名なAI専門家たちの予測を目にしてきた。ところが、そうした予測はひとつも実現しなかった。第3章で取り上げた、「綿密に練られたチューリングテストに合格するプログラムは実現しない」というレイ・カーツワイルとミッチェル・ケイパーとの「長期間の賭け」は、2029年に結果が出る。
私はケイパーに賭ける。なぜなら「 はじめに 」で紹介した、「人間の知性はすばらしいが、謎に包まれた奥深いものであり、その大半が解明されていない。そのためまったく同じものがつくられる恐れは当分ない（※原注5）」というケイパーの言葉に、全面的に同意しているからだ。
「予測することは難しい。特に将来については」。この機知に富んだ発言が誰のものかは不明だが、これはほかの分野同様にAIにおいてもいえることだ。AIの専門家たちへの「汎用的なAI、あるいは『超人的』AIはいつ頃実現するか」というアンケート調査は何度も行われているが、彼らの意見は「10年以内」から「実現しない」までと、大きなばらつきを見せている（※原注6）。要するに、誰も見当がつかないということだ。
はっきりしているのは、汎用的な人間レベルのAIにはAI研究者たちが何十年にもわたって理解、再現しようとしてきた、一般常識、抽象化、アナロジーといった能力が必要だが、それらは非常に捉えづらいという点だ。ほかにも次のような大きな疑問がいくつも残されている。汎用的なAIには意識は必要なのだろうか？ 自意識は？ 感情は？ 生存本能や死への恐れを抱くことは？ 肉体は？ 前にも紹介したマーヴィン・ミンスキーの言葉どおり、「精神に対する私たちの捉え方においては、現在はまだ形成期」なのだ。
質問：私たちはAIをどれくらい恐れる必要があるのだろうか？
もしあなたのAIについての見方が映画やSF小説（あるいは人気ノンフィクション作品の一部でも）に影響を受けたものであるなら、AIが意識を身につけて邪悪なものと化し、私たちをみな奴隷にするか殺そうとするという恐れをあなたが抱くのはわかる。だが、この分野が総合的な知性らしきものを実現するにはほど遠い点を考えると、AI研究者の大半はそういった不安は抱いていない。
本書を通じて説明してきたとおり、社会がAI技術を大慌てで受け入れようとする流れには不安な点がいくつもある。たとえば、大量の雇用喪失、AIシステムの悪用、システムの信頼性の欠如や攻撃に対する脆弱性。これらは技術が人間の暮らしに与える影響を懸念する人々が、まさに不安に思っていることのほんの一例だ。
私は 本書の冒頭 で、近年のAIの進歩に対するダグラス・ホフスタッターの失望と、だが実際に彼が恐怖に感じていたことの大部分は、それとはまったく別のものに対してだったことについて語った。ホフスタッターの不安は人間の認知と創造性がAIのプログラムにあまりに簡単に追いつかれて、たとえばショパンといった彼が最も崇拝していた人間の精神による高尚な創造物が、「便利なツール」を使ったEMIのようなうわべだけをまねたアルゴリズムに肩を並べられてしまうのかもしれないというものだった。ホフスタッターはこう嘆いた。「計り知れないほどの緻密さ、複雑さ、感情の深さを有する彼らの精神が、小さな半導体チップによって単純かつ平凡なものにできるのならば、人間性に対する私の認識は損なわれてしまうだろう」。
さらに、ホフスタッターは、カーツワイルのシンギュラリティ到来の予測にも動揺を隠せず、もしカーツワイルの言葉が多少なりとも正しければ「私たちはAIに取って代わられる。そして、私たちは過去の遺物になり、AIの後塵を拝することになる」と苦悩を表した。
ホフスタッターのこうした不安には確かに共感できるが、それでもあえて言えばそんな不安は明らかに時期尚早のような気がする。なにしろ、私が本書で最も伝えたいことは、「私たち人間はAIの進歩を過大評価する一方で、自身の知性の複雑さを過小評価している」という点なのだから。今日のAIは総合的な知性からはほど遠く、ましてや機械の「超高度な知能」など何のめども立っていない。だが、もし汎用的なAIが実現する日が来たら、その複雑さは人間の脳といい勝負になるのではないかと思っている。
では、私たちはAIを恐れるべきなのだろうか？ それは、イエスでもありノーでもある。意識のある超高度な知性を持つ機械は、実現のめどは立っていない。私たちが人間性のなかで最も大切にしている側面に、「便利なツール」が肩を並べることはない。少なくとも、私はそう思っている。とはいえ、アルゴリズムやデータの危険かつ非倫理的な利用の恐れについては、懸念すべき点がたくさんある。それらは非常に恐ろしい問題ではあるが、こうした事態へのAI界内外での注目がますます大きくなっていることには、ほっとさせられている。こうした問題に緊急に協力し合って対処しなければならないという共通の目的意識が、研究者、企業、政治家のあいだに広まっている。
メラニー・ミッチェル（著）、松原仁（解説）、尼丁千津子（訳）、日経BP、2860円（税込み）