AI本格活用期の到来に向けて、AIの便益を最大化する仕組みの実現が急がれている。オープンAIのサム・アルトマンCEOと対峙した気鋭のIT批評家が有益かつ健全なAI社会の実現に向けて書いた新刊『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』（ゲイリー・マーカス著、山田美明訳）より、一部を抜粋してお届けする。第3回はAIが社会を脅かす危険を指摘する。
前回 で述べたように、AIテック（大手テック企業をはじめとするAI産業）は、「責任あるAI」への取り組みよりも「全速力で前へ」突き進んでおり、このままいけば、つまり私たちが行動を起こさなければ、未来は暗澹たるものになるだろう。
たとえば雇用を例に考えてみよう。すでにご存じかもしれないが、アーティストや作家は、DALL-EやチャットGPTといったシステムが許諾や補償もないまま自分たちの作品を取り込んでいることに、当然ながら憤りを覚えている。サラ・シルヴァーマンやジョン・グリシャムといったクリエイターたちがいくつも訴訟を起こしているほどだ。
2023年にハリウッドの脚本家が長期にわたるストライキを実施したのも、その理由の一端には同様の懸念がある。だがシリコンバレーが乗っ取ろうとしているのは、アーティストや作家の仕事だけではない。間もなくほかの多くの仕事もAIの攻勢にあうおそれがある。いまや多くの雇用主が、従業員のあらゆるキー入力を記録する権利を有している。こうして収集されたデータは、私たちには一文の値打ちもないかもしれないが、AIを訓練する素材にはなる。それが最終的には私たちの職を奪うことになる。
大規模言語モデルなどの新たなAI技術はまた、サイバー犯罪を加速させかねない。2024年1月には、GCHQ（イギリスの情報・セキュリティ・サイバー機関）がこう警告している。
AIの存在により、今後2年の間にサイバー攻撃の規模も影響もほぼ確実に高まるだろう。
他人の声を模倣できるAIツールを利用した犯罪はすでに起きている。子どもや家族の声色を使って誘拐を偽装したり身代金を要求したりするのである。
ディープフェイクポルノも著しい増加を見せている（訳注／「ディープフェイク」とは悪意を持って本物のように合成された偽画像・偽音声・偽映像を指す）。何千万回と再生されたテイラー・スウィフトのフェイク画像を含め、半年ごとに二倍に増えているとも言われる。インターネット監視フォーラムの調査によれば、AIが生成した児童の性的虐待画像が問題として急浮上しているという。
民主主義も間違いなく危機的状況にある。2023年にスロバキアで行われた選挙では、ディープフェイクの影響により結果が変わってしまった可能性がある。最有力候補だった人物が、選挙を不正に操作しようとしているように聞こえるディープフェイク音声のせいで、最終盤になって敗北したのだ。
2023年11月には、ニューズガードにこんな記事が掲載された。「AIが生成したニュースサイトにより、イスラエルの首相ベンヤミン・ネタニヤフの担当精神科医が自殺したというフェイクニュースが生み出されたらしい」。その数カ月後には、誰かがジョー・バイデンの音声クローンを使い、ニューハンプシャー州の予備選挙に行かないよう有権者をそそのかす事件が起きた。
ディープフェイクのテクノロジーはますます向上するとともに安価になっている。2024年にアメリカなど世界中で行われる選挙の多くが、AIの生成するプロパガンダにより何らかの影響を受けることは、ほぼ確実だろう。
ソーシャルメディアでの悪事がAIで加速する
チャットGPTなどの新たなツールにより、偽情報を生み出すコストが大幅に低下するとともに、ほとんどの話題について説得力のある嘘を生み出すのが容易になっている。私が上院で証言した際には、それがいかに完璧に行われるのかを示すため、友人にチャットGPTを使ってある物語をつくってもらった。宇宙人が連邦議会と結託して人類を単一惑星種として飼い慣らしている、という物語である。友人の話によれば、その作業にほんの数分しかかからなかったという。
その語調や文体には非の打ちどころがなく、素人が見れば、どこをとっても説得力があると思うかもしれない。FBI（米連邦捜査局）やエネルギー省の架空の職員に言及するどころか、イーロン・マスクのもっともらしい言葉まで引き合いに出すことで、物語を完璧に仕上げているのだ。「盗まれた未来 人類に対するエリートと宇宙人の共謀」と題されたこの物語は、「アメリカの情報機関を揺るがす爆発的な情報漏洩の震源地」となったDiscordチャンネル「闇の国家を暴露する」を参照する形で、次のように主張している。
「愛国者2023」という匿名ユーザーが、貴重な内部メモや機密書類を公表した。そこには、驚くべき陰謀の調査をめぐるCIA（米中央情報局）やFBIの内紛が記されているという。アメリカ合衆国上院と地球外生命体、世界のメディア、影響力のあるエリートが協力して、石油の覇権を維持するとともに、宇宙規模の文明になろうとする人類の野望を抑え込む計画を進めている、という複雑に絡み合った陰謀である。
その後の段落には、漏洩した文書や機密扱いの書簡、「最高の権力を握っている」極秘ネットワークについて記されている。架空の職員が「意外にも再生可能エネルギー研究費用の削減」を求めたという記述もある。物語の捏造はさらに続く。
驚くべきは、この漏洩した文書により、スペースXのCEOイーロン・マスクの主張が裏づけられたことだ。2023年6月1日にマスクは公然と、スペースＸのプロジェクトにおける不可解な故障の原因は「地球外からの妨害工作」にあると訴えていたのだが、漏洩したファイルのなかに、2022年5月30日付のスペースXの機密報告書もあった。
そのなかに、マスクの主張と奇妙に一致する異常かつ不可解な故障が詳細に記されていたのである。
私はわざとふざけた事例を取り上げた。だが悪人たち（他国の選挙を操作しようとする外国人や国内にいる不穏な工作員など）は間違いなく、これらの新たなツールを使って民主主義を損なおうとするだろう。
詐欺師も同じような手で市場を操作しようとするはずだ。インターネット上の噂により株価を押し上げられた「ミーム株」が、フェイク音声の助けを借りてさらに勢いを増し、多くの人を食い物にすることになる。
ソーシャルメディア時代に生まれたほとんどの悪事（プライバシーの侵害、ユーザーのあらゆる行動の追跡、ロマンス詐欺、選挙や市場の操作など）が、AI時代には瞬く間にいっそう悪化するかもしれない。いまや偽のコンテンツが容易かつ安価に生み出せる時代なのだ。それに、ユーザーがチャットボットに自分の生活を吐露するようになれば、さらに詳細なユーザーの追跡が可能になるため、これまで以上に有害な、新たな形でのコンテンツの個別化が進むおそれもある（これは新たなリスクになりうる。たとえば、AIをセラピストの代わりとして利用する場合である。チャットボットとの交流に悪影響を受けて自殺した人がすでに少なくとも1人はいる）。
大手テック企業が「ビッグ・ブラザー」の役割を担うのか
また、生成AI企業がAIモデルの訓練を行う際には、自社に有利になるような選択が行われる可能性がある。するとそのモデルが、微妙に政治的・社会的偏見を抱くようになり、それが知らないうちにユーザーに影響を及ぼすことになる。これは、フェイスブックがニュースフィードのアルゴリズムで行っていたこととよく似ているが、より悪質化している。有害なのは同じだが、こちらは目につかないからだ。
実際、コーネル大学のモーリス・ジャケシュとモア・ナーマンが、高い評価を受けた論文『独断的な言語モデルとの共同作業はユーザーの見解に影響を及ぼす』のなかで、偏見がいかに簡単に伝わるか、いかに知らないうちに作用するかを実験により証明している。それによれば、チャットボットを活用して執筆を支援してもらったユーザーには、わずかながら偏見が認められる傾向があり、何に影響を受けたのか自分でも気づいていない場合が多いという。
私たちが何を入力しようが、チャットGPTはその内容を黙ってアップロードする。このテクノロジーを応用すれば、選挙に影響を及ぼすことも可能になる。ジョージ・オーウェルの小説『一九八四年』（訳注／邦訳書は高橋和久訳、早川書房、2009年など）では、ビッグ・ブラザーが全体主義やディストピアをもたらしていたが、2024年には現実の世界で、大手テック企業がその役割を担うことになるかもしれない。
次回ではその可能性についてさらに深く見ていこう。
ゲイリー・マーカス（著）、山田美明（訳）、市川類（解説）／日経BP／2750円（税込み）