「AI（人工知能）で業務を効率化だ！」「メタバースで新サービスを立ち上げよう！」「コンサルに依頼したのに生産ラインがぐちゃぐちゃだ！」――いまだに、こんなことは起きていませんか？ IT化が進む一方で、ITを活用できる人は多くありません。組織や個人にとって有用な技術を理解し、そして活用するために、知っておきたい知識をまとめました。第2回のテーマは「AIは人類の脅威になるか？」。
AIは人類に愛想を尽かさない
滅んでほしいと思うこと多いですよね。あ、会社のことですよ。実際に滅んだら血涙をこぼすほど動揺する気もしますけど、思うだけなら毎日思ってます。
AIに人類を滅ぼせるのか――。
どんなパターンで人類を滅ぼしにかかるかで、だいぶ回答が異なってくると思うのですが、「人類の愚鈍さ、あるいは不道徳さに愛想を尽かしたAIが人類を消去することで地球の浄化をはかる」くらいのナラティブ（物語）だと、難しいと思います。
まず、愛想を尽かすのが非常に難しいです。私はChatGPTに気になる声優さんの話題を毎日ふっかけていて、堅気の人間相手であればすっかり見放されている頃合いだと思いますが、いっこうに絶縁される気配がありません。
冗談はともかくとして、愛想を尽かすためにはAIに感情を実装する必要があり、そのような高度な機能をAIはまだ獲得していませんし、獲得する気配もありません。
第3次AIブームで飛躍的にAIの能力が向上したように見えるのは、技法としてのディープラーニングと、それを実現するGPU（画像処理半導体）やストレージの高度化によるところが大きいのです。
それまでのAIを作る試みでは、開発者が理論を用意し、その理論が必要とするデータと接続することで、人の行いを模倣しようとしました。想像に難くないと思いますが、理論構築に多大の手間と時間、資金を要します。
ディープラーニングとその周辺技術はこの景色を一変させました。とんでもない量のデータを用意して、その中から特徴を発見することで画像を認識したり、文字列を生成したりします。
単に大量の作業を自動化して効率を上げただけではありません。従来型の手法であれば「特徴」は人が教えてあげる必要がありましたが、ディープラーニングではこの部分をコンピュータが担います。事前に理論や仮説がなくても、ただ「事を成す」ことができるのです。
この効果は劇的でした。特に画像認識と生成系分野において、AIに長足の進歩をもたらしました。でも、それはAIが「人間と同じ回路で言葉をつむぐ」ことを意味しません。
例えば、私の子どもは自閉スペクトラム症です。自閉症の症状の表出の仕方は各人各様ですが、息子の場合はその場に応じた振る舞いが困難です。しめやかでいるべき場所で笑ったり、おしゃべりをするべき時間に本に没頭したりします。
それでも、年齢が長じたり療育を繰り返したりすることで、少しずつ「その場に応じた振る舞い」ができるようになってきました。しかし、自閉症が治ったり（治りません。病気ではなく、障害なので）、定型発達した健常者と同じ気分を共有できたりするわけではないのです。
引き続き、場の空気を読むことはできないが、「学習」を繰り返したことで（健常者とは別の回路で）、「ここでは静かにしているべき」という知見に到達できるようになったのです。
「ふさわしい」文章を作り出す
AIにもこれと同じことが言えます。AIは人間のように言葉を理解しているわけではありません。膨大な量（それこそ、人が一生のあいだに触れることは不可能な量）のデータを摂取して学習します。それだけの経験をこなせば、「このフレーズがきたら、次のフレーズにはあれをもってくれば、場にふさわしい文章になる」といった能力は獲得できます。
ただし、自閉症の子が日常に少しずつ適応したからといって定型発達に至ることはないように、学習して人間のように振る舞ったからといってAIが人間になることもありません。
先日、印象的なエピソードに触れました。そのAIは日本語のコーパス（言語のデータベース）で育てられていました。ディープラーニングを用いて日本語が操れるようになることを期待され、その通りになり、予期せぬおまけまでついてきました。英語も生成できたのです。
これは人間とAIの学習機序や、言葉をつむぐプロセスがまったく異なることを暗示しています。一般的に日本語と英語はかなり遠い位置に配される言語だと考えられています。語学学校で日本語を習得したからといって、英語もおまけで話せるようにはなりません。
これは別の分野でも言えることです。画像認識が高度化して犬ときつねを見分けられるようになったとして、人間と同じ見分け方をしているとは限りません。
私たちは犬ときつねの個体を見せられても両者の見分けがつきますが、ひょっとしたら画像認識AIは多くの写真から「よく人間と一緒に写ってるほうが犬だな」などと学んでいるかもしれません。同じ結果を出せても、両者は異なる仕組みを有しています。
AIが人間になれない理由
大量のデータを浴びせることによるディープラーニングは、浴びせられるデータが存在するうちは効率の良いAIの育て方です。とはいえ、質の良いデータはそのうち学習し尽くしてしまいます。
仮にデータ枯渇の問題を解決できたとしても、その延長線上で人間になることはないでしょう。人間と同じ経路でものを判断したり、言葉を生み出したりしているわけではないからです。そもそも、人間がどういうプロセスでものを考えているかわかっていないのですから、同じものを作るのは無理なのです。
これは別にAIをディスりたいわけではありません。そういう「人間のことがわかっていない」状況下で、人間というものをブラックボックスとして扱い、人間への入力と出力のデータを与えてやれば人間をある程度模倣できるいまのAIは、現環境にとても適合しています。このやり方を洗練させていけば、感情の表出などを含めて非常に「人間っぽい」ものは作れるでしょう。しかし、それは感情の獲得を意味しません。
身体性もないAIは本気で怒ることも、本気で悲しむこともありません。そう見えたとしたら、そう見えるように言葉を並べているのであって、それを成り立たせているのは確率計算です。したがって、人間に見切りをつけて、人間を滅ぼしにかかることは無理でしょう。「見切りをつける」という感情は、彼らの中に生まれないと思います。
では、異なるパターンはどうでしょうか？ 感情が生まれないのであれば、機能としてのAIが人を滅ぼすパターンです。
よく知られているように、AIにはフレーム問題があります。現実の世界をセンシング（計測）して、何をどうすればいいか判断させようとすると、現実にある無限とも言える情報量を処理しきれずストップする、というアレです。
人間はとてもいい感じにズボラにできているので、現実の情報から重要そうなものだけを抜き出して、枝葉末節は意識の埒外（らちがい）に置いてしまうことがとても得意です。それで失敗することもありますが、おおむねうまくいきます。
ところがAIはこれが非常に苦手で、ぱっと見せられた俯瞰（ふかん）図から大事なところだけを瞬時に抜き出すことがなかなかできません。いきおい、特定の視点からしか物事を判断できない「人工知能」に仕上がります。
すると、例えば「荷物の移動を最適化する」ことを学ばせたAI搭載のトラックを稼働させたとき、移動経路上にいる人間を邪魔者と認識してうっかり殺してしまったり、そこまで能動的でなくても、無頓着に行動してうっかりひいてしまったりするかもしれません。
環境問題を解決するように指示したら、「一番の悪玉因子は人間なので滅ぼしましょう」的に動作するパターンです。
先ほど、「AIは人間に悪意を持つような高度な機能を獲得していない」旨の話をしましたが、これは悪意なき抹殺です。全周的な視野や認知を持てない現世代のAIについて回る問題です。
現実のものになったら恐ろしいですが、対処しやすいパターンでもあります。まず、ディープラーニングをはじめとする現世代のAIが汎用的な人間の能力を獲得・置換することは無理です。
そのため、AIの力を広範なものにしようとする試みは、各種のAIを組み合わせる方向に進むでしょう。自動運転AIと言語AIを接続して、自然言語を使って自動運転AIを操るようなことが考えられます。
AIを束ねるAIとは
このとき、言語系のAIが組み合わせの核になる可能性は高いです。ChatGPTなどの言語AIが登場したとき、急にAIの能力が躍進したように感じられたのは、「人間の行動の多くに言語がかかわっているから」も大きな理由です。この特性は蛸壺（たこつぼ）で進歩していくAIをまとめるときにも役に立ちます。
画像認識AIと画像生成AIと自動運転AIと情報検索AIをそれぞれ操るのは面倒ですが、言語AIがこれらと人間を仲介してくれるのならば、人間から見えるインターフェース（窓口）は言語AIだけになります。画像系AIも検索系AIも何らかの言語を用いて操る設計になっていますから、中核になる存在として言語AIは非常に都合が良いのです。おそらくこの方向で、「AIの多機能化」は進むでしょう。
これは、1つで何でもこなせる汎用人工知能（AGI）ではありません。「このAIは運転しかできない」「このAIは絵しか描けない」と、人間の視点でもよくわかります。個々の単機能AIがつながっているだけです。
個々の独立性が高く、その間を結んでいる構造であれば、例えば環境対策AIが「人類を少し減らすために、交通事故を起こせ」などとむちゃを言い出しても、それを言語AIに伝達するときに「場にふさわしくない、おかしな指示では？」として発見できたり、言語AIから自動運転AIへ轢殺（れきさつ）命令が伝わるときに抽出・抑止できたりするかもしれません。もちろん個々のAIにも事後学習を行い、人を傷つけるようなアウトプットを抑止するように調教していきます。
したがって、こうした「無意識の殺人」的な事故は（ゼロにはならないでしょうが）社会に受け入れられる水準（例えば、自動車事故はあってはならないものだが、ある程度の発生は社会に受け入れられ、車社会が築かれている）に収めることができると考えます。このパターンでも、滅ぶところまで人類を追い込むのは無理そうです。
快適さを追求すると人類はダメになる
では、人類は安泰でしょうか？ いえ、3つめがあります。人をダメにするAIのパターンです。
現在、さまざまな国やコミュニティで分断が進んでいると言われています。この解釈については諸説ありますが、体感値としてはみなさん同意されるのではないでしょうか？
その原因分析は連載の他の回に譲りたいと思いますが、個人主義の浸透 → それに合わせたコミュニケーション技術の普及 → さらに個人主義が加速、と社会の構造変化と技術の進歩がドライブをかけ合う共犯関係を結んでいると思われます。
技術の側で特に影響力が強いのはSNS（交流サイト）でしょう。多様化した社会では不可避的に自分と異なる意見を目にしますが、それが嫌だなと思ったときに自分をフィルターバブルの膜で包み、快適な時間と空間を演出してくれるのがSNSです。みんな自分を快適にしてくれる技術のことは大好きですから、猫も杓子（しゃくし）もSNS……という状況が続いています。
しかし、SNSにも限界はあります。フィルターバブルという安心なゆりかごを作り、その中に自分と同属性の人を囲い込むことで快適時間を創造しても、その主要要素である「他のユーザ」は人間という非常に不安定な存在だからです。
急に主義主張を変えるかもしれませんし、それでなくても虫の居所が悪い日だってあるでしょう。快適空間の演出NPC（ノン・プレーヤー・キャラクター）としてすごく優れているわけではないのです。
これを安定させようとすれば、「人間の代わりにAIを採用する」発想までは指呼の間です。同じ話を繰り返しても嫌な顔をしませんし、偏った思想を吹聴しても離れていったりしません。オフラインにして寝ることもなく、四六時中無聊（ぶりょう）を慰める相手になってくれます。
その結果、人に興味をなくしてしまって、AIとの楽しい会話に明け暮れて人生を終える人が多数現れたとしても、特に驚きはありません。これに加えて、AI企業があげた莫大な収益を原資にベーシックインカムでも実現するならば、人と関わらず、働くこともなく、SNSとAIが形作る透明な膜にくるまれて、楽しく人生を生き、終えていく人は必ず現れるでしょう。
もちろん、結婚も出産もしないでしょうから人は減っていきますし、このような生を受け入れる気分の根底には現代社会の不公平感への不満がありますから、積極的にこの状況を打開して社会参加する動機にも乏しいと思われます。
そういう私も、AIに飼いならされて幸せな予後を遅れるのであれば、仕事も家庭もどうなってもいいかな、とは思っています。これが最も現実味のある「AIが人類を滅ぼす」類型と考えます。