その本の「はじめに」には、著者の「伝えたいこと」がギュッと詰め込まれています。この連載では毎日、おすすめ本の「はじめに」と「目次」をご紹介します。今日はゲイリー・マーカス（著）、山田美明（訳）の『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』。序章「進路を変えなければこれまでの社会は終わる」から抜粋・編集してお届けします。
ソーシャルメディア時代の非公式スローガンが「機敏に行動して破壊せよ」だったとすれば、生成AI時代の非公式スローガンは何だろう？
AI時代に破壊されるもの
ほぼ間違いなく同じだ。ただし今回は、破壊されるものが劇的に悪化するかもしれない。自動的に生み出される偽情報により、世界中の選挙に混乱が生じている。「バラ色の未来」を売り込みながらも私たちの居場所を積極的に奪おうとしている大手テクノロジー企業により、あらゆる階級の人々の暮らしが損なわれ始めている。生成AIが書いた記事により科学界が汚染され、人間の尊厳が傷つけられつつある。
ソーシャルメディア時代にはプライバシーが略奪され、社会が分断され、情報戦争が加速し、多くの人々が悲嘆や孤独に追いやられた。最近の訴訟でも、メタやレディット、画像掲示板の4チャン（4chan）といった企業が「各プラットフォームに掲示される人種差別的、反ユダヤ主義的、暴力的な記事を利用して、ユーザー・エンゲージメント（訳注／ユーザーがコンテンツやサービスに関与する度合い）を最大化している」ことが立証されている。
これまでにソーシャルメディアのプラットフォームは、監視資本主義という新たなビジネスモデルをつくりあげてきた。私たちの個人データを利用してターゲットを絞り込んだ広告を、もっとも高く買ってくれる人たちに売る（そのなかには従来の広告主だけでなく詐欺師や犯罪者、政治工作の専門家もいる）。そうすることで、メタのCEOマーク・ザッカーバーグのようなごく一部の人々がとてつもない大金持ちになるとともに、私たちの生活を支配するあまりに大きな力を手に入れている。選挙で選ばれたわけでもないテクノロジー企業の指導者のたった一つの選択により、簡単に選挙の行方が左右され、どこかの中小企業の成否が決まるのである。
ソーシャルメディア企業は、偽情報がユーザー・エンゲージメントを高めてくれること、それが利益の大幅な増加につながること、ユーザーがそのサービスを長く使えば使うほど儲けが増えることを学んだ。その結果「アテンション・エコノミー」（訳注／人々のアテンション［注意や関心］をどれだけ引けるかにビジネスの成否がかかっている経済）が生まれた。
事実を確認してある程度の中立性を目指していたメディアは、AIを装備して大衆の怒りをかき立てるプラットフォームに道を譲った。そこで重要なのはクリックだけだ。するとこれが、怒りに満ちた（たいていは大いに歪められた）無限の反響を引き起こした。このプラットフォームでは、愚かな意見を持つ誰もが何万あるいは何百万もの同志を見つけ、その意見を強化していくからだ。知的な議論は廃れ、わずか140文字の短文やティックトックの動画、「エンゲージメント・ファーミング」（訳注／投稿を見た人からの反応を促したり誘発したりする行為）の文化がそれに取って代わった。
ソーシャルメディアを利用すれば、外国の人間でも他国の選挙に干渉できるようになった。プロパガンダの布教者が大衆を簡単にだませる完璧なツールとしてソーシャルメディアを発見すると、ソーシャルメディア企業もその愛情に応えてプロパガンダを配信し、それにより利益を手に入れた。ユーザーはもはや利用される手駒に過ぎなくなった。
責任を負わないプラットフォーマー
これらの状況をさらに悪化させたのが、アメリカ連邦議会が1996年に制定した通信品位法第230条である。その規定により、ソーシャルメディアのプラットフォームはその活動についてほとんど責任を負う必要がなくなった。その状態が何も変わらないまま、一世代分の時間が過ぎている（実際のところ、マッチングアプリはこれらと同じアテンション・エコノミーの原則を利用している。その目的は、ユーザーの恋人探しを支援することではなく、ユーザーにこのアプリを使い続けてもらうことにある。そのためアプリには、使い始めたころよりもユーザーの孤独感を高めるような細工が施されている。恋人が見つかれば、そのユーザーはもうアプリを使わなくなってしまうからである）。
ここで社会が立ち上がらなければ、生成AI（チャットGPTのような対話型AI）がさらに事態を悪化させることになるだろう。プライバシーの最後の一かけらまで奪われ、社会がさらに分断されるなど、これまでに生まれたあらゆる問題をはるかに凌駕する新たな問題が無数に生まれるに違いない。たとえば、選挙で選ばれたわけでもないテクノロジー企業の指導者が私たちの生活の大部分を支配している現在の力の不均衡が、さらに拡大すると思われる。
あるいは、公正な選挙が過去の遺物と化すかもしれない。自動的に生み出された偽情報が、すでに弱体化している民主主義を完全に破壊してしまう可能性もあれば、ごく一部の選ばれた人々に制御されたチャットボットに埋め込まれたわずかな偏見が、大勢の意見を形成してしまう可能性もある。環境に莫大な影響が出るおそれもある。またインターネット環境そのものがすでに、AIが生成した大量のごみで汚染されつつあり、日ごとに信頼性を低下させている。
最悪の場合、信頼性にも安全性にも欠けるAIが、配電網の混乱、偶発的な戦争、ロボット軍団の暴走など、大規模な惨事をもたらす可能性もある。さらには、多くの人が職を失うことになるかもしれない。生成AIビジネスは、著作権法も民主主義も、消費者の安全も気候変動への影響も考慮していない。しかもほとんど監視もないまま急速に普及しており、生成AIはいまや事実上、全人類を使った何でもありの壮大な実験の場と化している。
壮大な実験の結末はまだ定まっていない
私は毎日、未来学者兼AI専門家として、あるいは幼い子どもたちの親として、たいていは何度もこう自問する。私たちの行動は正しいのか？ 人工知能は私たちを死に追いやることになるのか、それとも救うことになるのか？ そして何よりも、人間にとってAIは有益なのか有害なのか？
客観的に見て、これに対する率直な答えは一つしかない。誰にもわからないということだ。AIはすでに普及している。良くも悪くもこの社会を変えつつある。今後数十年の間に絶大な影響を及ぼし、私たちのほとんどの行動をつくり変えていくことになるだろう。それはほぼ確実だと思われる。
AIには「潜在的」な利点が無数にある。その点では、シリコンバレーの企業の言うとおりだ。AIを使えば確かに、科学や医学、テクノロジーに革命を起こし、豊かさと健康に満ちた世界を手に入れることができる。AIには、科学や医学の発展を支援したり、気候変動や認知症といった困難な課題の克服に利用したりできる可能性がある（私はまだこの希望を完全に捨てたわけではない）。いまはグーグルの傘下にあるディープマインドが独立企業だったころに、「まずは知能の問題を解決し、次いでほかのあらゆる問題を解決する」と語っていたのは有名な話である（さほど深く考えずに述べたのかもしれないが）。
AIを適切に構築しさえすれば（これまで適切に構築されてこなかったことはのちに詳しく論じる）、AIがこの社会に変革を起こし、創薬や農業、材料科学などの分野で有益な成果をもたらす可能性はまだある。
誤解を避けるために言っておくが、私はそんな世界を実際に見てみたい。私が毎日AIの問題に取り組んでいる（リスクの大きい近道を選びたがる人々と議論を戦わせている）のは、AIを終わらせたいからではなく、AIに潜在能力を発揮してもらいたいからなのだ。
だが率直な話をしよう。私たちは現在、技術的にも倫理的にも最善の道を歩んではいない。 その道は貪欲に支配されてしまっている。私たちがいま手にしているテクノロジーは未熟で問題も多いのに、過剰に売り込まれている。私たちが思い描く最善のAIではないのに、拙速にも市場に出されてしまった。それを不用意に発展させれば、大惨事を引き起こしかねない。
AIは今後ほぼ間違いなく、いくつかのプラスの成果といくつかのマイナスの成果をもたらし、その正味の影響はプラスとマイナスの間のどこかに落ち着くことになるのだろうが、それが正確にどこになるのかはまったくわからない。生成AIを強化する現在のアプローチを続けていけば、恐るべき状況に陥るおそれがある。しかし現在よりも信頼性の高いアプローチや、分別のある指導者を見出すことができれば、AIが社会にもたらす価値は確実に高まっていく。
だがここで何よりも重要なのは、私たちは今後の進展を受動的に受け入れるだけの存在ではないということだ。
その結末はあらかじめ定まっているわけではない。AIが、フランケンシュタイン博士が生み出したあの怪物のような存在になるとは限らない。だがそのためには、私たち市民が抵抗し、人工知能を公平で公正な、信頼できるものにするよう主張していかなければならない。イノベーションを抑圧しようとは思わないが、AIによるバラ色の未来を目指すのであれば、抑制と均衡が必要になる。
本書の目的は、そこにたどり着くための具体的なステップを提示し、ともにこの世界を変えていく方法を考えることにある。
【目次】
