AI本格活用期の到来に向けて、AIの便益を最大化する仕組みの実現が急がれている。オープンAIのサム・アルトマンCEOと対峙した気鋭のIT批評家が有益かつ健全なAI社会の実現に向けて書いた新刊『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』（ゲイリー・マーカス著、山田美明訳）より、一部を抜粋してお届けする。第2回はなぜAIテックが「邪悪」に陥ってしまうのかを説明する。
最初の理念は素晴らしかったが……
AIテック（大手テック企業をはじめとするAI産業）はなぜ「邪悪」に陥ってしまうのか。今回はその理由を探っていこう。
2000年ごろのグーグルの非公式モットーは「邪悪になるな」だった。また、オープンAIの当初の理念（2015年）は以下のようなものだった。
金銭的利益を生み出す必要に縛られることなく、人類全体に恩恵をもたらす可能性がもっとも高い方法でデジタル知能を発展させる。（中略）金銭的義務にとらわれなければ、人類へのプラスの影響に的を絞ることが可能になる。
だが、それから九年後のいま、オープンAIはさまざまな意味でマイクロソフトのために仕事をしている。マイクロソフトは、オープンAIが920億ドルの利益を稼ぐまでは、その利益のおよそ半分を受け取ることになっているうえに、ライセンス契約を通じてオープンAIの研究を特権的に利用する権利を有している。
AIを取り巻く企業文化に最大の変化が生じたのは、チャットGPTがリリースされた2022年11月下旬だったと思われる。チャットGPTはあっという間に予想外の人気を博し、わずか数カ月で１億人もの人々に利用される事態になった。いわば一夜にしてAIが、研究プロジェクトから「金の生る木」になりうるものに生まれ変わったのである。するとその瞬間に、「責任あるAI」に関する多くの議論が雲散霧消してしまった。
確かに私はそれまでも、ソーシャルメディアがもたらす腐食作用を擁護したことはなかった。プライバシー侵害を繰り返し、自社製品が世界に及ぼす影響にまったく関心を示さないフェイスブック（現在はメタ）を支持したことなどもちろんない。それでも2023年初頭までは、マイクロソフトやグーグルといった企業がAIについて良識的な考え方をしているという感覚があった。たとえばマイクロソフトは、その数年前から責任あるテクノロジーを標榜していた。社長のブラッド・スミスがそれについて1冊の本を執筆したほどだ。
2016年には「Tay」というチャットボットをリリースして大失態を犯し、そこからも教訓を学んだかと思われた。リリースして1日もたたないうちに、そのTayがナチスのスローガンを繰り返し始めたのだ。その際にマイクロソフトは、即座にTayを停止させるというきわめて良識ある対応をとった。
グーグルもまた、「LaMDA」というチャットボットをはじめとする製品を、十分に信頼できないとの懸念から、文字どおり数年間も市場に出そうとしなかった。このように舞台裏には魅力的な研究が無数にあったが、世界中の利用者への展開は制限されていた。
チャットGPT登場以後に事態が急変
ところがチャットGPTが世に出て数カ月がたつころには、事態が明らかに変化していた。2023年2月、オープンAIのGPT-4を搭載したマイクロソフトの新たなチャットボット「Sydney」が、ニューヨーク・タイムズ紙の記者ケヴィン・ルースに離婚を迫った。そのチャットボットがケヴィンを「愛しているといきなり告白」し、いまの妻と別れて「自分と一緒になろう」と説得を試みたのだ。その後に報道された内容もひどいもので、それを見ていた私は、マイクロソフトがまた一時的にSydneyを市場から引き上げるものと思い込んでいた。
ところが今回は、あのマイクロソフトも一切気にしなかった。一部をわずかに修正しただけで続行したのである。のちに明らかになったところによれば、マイクロソフトはこの種のことが起こりうると警告されてはいたものの、それでも前進あるのみと判断したのだという。しかもマイクロソフトはその数週間後、「責任あるAI」研究チーム全員を解雇している。
また同月には、技術系ニュースサイト『ザ・ヴァージ』とのインタビューで、マイクロソフトのCEOサティア・ナデラがこう述べた。「皆さんにお伝えしたいのは、私たちがグーグルを踊らせたということです」
実際、ナデラはグーグルを踊らせることに成功した。それが私たちにとっては不幸だったのかもしれない。その瞬間までグーグルは、いまだ信頼性の低いAIの品質向上をゆっくりと時間をかけて進めており、試験的なAIプロジェクトを社内に留め、拙速に世に送り出すのを控えていた。ところが、そんな業界の規範がこれを機にがらりと変わった。悪い方向へ、である。
チャットボットがワシントンDCの法学教授をありもしないセクハラ行為で告発したり、何千人ものアーティストや作家、プログラマーが自作を盗用されていると抗議したりしても、マイクロソフトはチャットボットを市場から引き上げようとはしなかった。数十億ドルあるいは数兆ドルもの利益が懸かっているいま、「責任あるAI」はもはや単なるスローガンへと変貌しつつある。
「責任あるAI」実現よりも「全速力で前へ」突き進む
それは何もマイクロソフトだけの話ではない。どの企業も「責任あるAI」を主張してはいるが、それを具体的な行動に移している企業などほとんどない。大半の企業は、アーティストや作家の権利をあからさまに無視して彼らの作品をAIシステムの訓練に利用する一方で、そのAIモデルが抱える信頼性の欠如や偏見といった問題には見て見ぬふりをしている。
主要企業の多くの幹部は、AIをコントロールできなくなるおそれを口にはするが、それでも全速力で前へ突き進むばかりだ。AIシステムの行方を予測するのがますます難しくなっているというのに、それを抑制しようとする重大な提案はひとつとして聞こえてこない（これについては、本書第4章「シリコンバレーの論理的堕落」などで詳しく述べる）。
個人的には、これに後味の悪さを感じている。これまでの人生の大半をコンピューターマニアとして過ごしてきた私は（前回冒頭を参照）、新たなハードウェアやソフトウェアが出るたびに夢中になったものだ。ニンテンドーのWiiに大興奮し、最初のiPodは発売日当日に買った。パンデミックの最初の一カ月は、仮想現実（VR）を探検したり、アップルの拡張現実（AR）キットを利用したプログラムを作成したりして過ごした。
だがもはや私はテクノロジーを愛してはいない。むしろ怖れている。テクノロジー産業はほぼ全面的に大規模言語モデルへと重点を移している。だが私の知るかぎりでは、そのモデルもそれを構築している企業の多くも、制御不能に陥りつつある。
次回（第3回）は、AIテックに任せきりにした場合に何が脅かされうるのかを具体的に示そう。
ゲイリー・マーカス（著）、山田美明（訳）、市川類（解説）／日経BP／2750円（税込み）