AI本格活用期の到来に向けて、AIの便益を最大化する仕組みの実現が急がれている。オープンAIのサム・アルトマンCEOと対峙した気鋭のIT批評家が有益かつ健全なAI社会の実現に向けて書いた新刊『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』（ゲイリー・マーカス著、山田美明訳）より、一部を抜粋してお届けする。第1回はなぜ著者がAI企業を危険視するかを説明する。
AIに期待するからこそ、大手テック企業に警鐘を鳴らす
私は幼いころから、さまざまな形でAIにかかわってきた。8歳のときに初めてプログラミングを学び、15歳のときにはコモドール64というパソコン上でLOGOというプログラミング言語を使い、ラテン語を英語に翻訳するプログラムを作成した。この取り組みが認められ、翌年には高校を2年飛び級して大学へ早期入学すると、ニューラルネットワークという一種のAI（現在の生成AIの祖先）を念頭に、子どもがどのように言語を学ぶのかといういまだ解決されていない壮大な問題を博士論文のテーマに選んだ。これらがいずれも、現在のAIを十分に理解するための下地となった。
40代になると、ディープマインドの成功に触発され、ジオメトリック・インテリジェンスというAI機械学習会社を立ち上げた。最終的にはウーバーに売却したが、私にとってAIは良いものであり、誰にとっても良いものであってほしいと願っている。
私が本書を執筆したのは、AIを愛し、AIの成功を心から望んでいるというのに、現状に幻滅し、その行く末に深い懸念を抱いているからだ。いまやAIは、金銭と権力により本来の使命から逸脱してしまっている。広告枠を販売したりフェイクニュースを生成したりするためにAI業界に入った者などいない。
私はテクノロジーに反対しているわけではない。AIの構築をやめるべきだとも思わない。それでも現状を続けるわけにはいかない。いま構築されているのは、間違った種類のAI、信頼のおけないAIだ。AI産業複合体と言い換えてもいい。だが正しい道を見出すことはできる。その希望を捨てるつもりはない。
読者のなかには私のことを、アメリカ連邦議会上院で証言した際に、オープンAIのCEOサム・アルトマンに異議を唱えた人物として記憶している人もいるかもしれない。2023年5月16日、私たち2人はその場で真実を述べると宣誓したが、私は本書でも真実のみを述べるつもりだ。
それは、AIテック（大手テック企業をはじめとするAI産業）がますます私たちを搾取するようになっている事実、AIが短期的にも中期的にも長期的にも、私たちが大切にしているほとんどのもの（プライバシーや民主主義、安全そのものなど）を次第に危険にさらしつつある事実である。そして、これらの事実に対して何ができるのかという問題について、私が考え抜いて導き出した答えを提示していきたい。
欠陥、無責任、過大な宣伝、独裁――AIテックが抱える根本問題
私が考えるに、根本的な問題は4つある。詳しくは本書で述べるが、以下で簡単に紹介しよう。
1：現在誰からも注目されている特定のAIテクノロジー（生成AI）には、大きな欠陥がある。
生成AIシステムが真実とでたらめとの相違に無関心なことは、繰り返し証明されている。軍隊で使われている表現を借りれば、「よく間違いは犯すが、決して迷いはしない」のである。『スター・トレック』のコンピューターは、常識的な質問に適切な答えを返してくれる頼りがいのあるものかもしれないが、生成AIはいわば運任せだ。さらに悪いことに、間違いが絶えず紛れ込んでいるというのにある程度は正しいため、私たちに自己満足的な安心感を抱かせてしまう場合が多い。
だから、それを扱う際には疑念を忘れてはならないのに、疑念を抱く人はほとんどいない。『スター・トレック』のコンピューターのように信頼のおけるものであれば、世界を変えられる可能性がある。だが現在私たちが手にしているものはひどい代物であり、誘惑的ではあるが信頼できるものではない。この汚れた真実を認めようとする人があまりに少なすぎる。
2：現在AIを構築している企業は、「責任あるAI」などと口ではうまいことを言っているが、そうした言葉と行動とが一致していない。
実際、このような企業が構築しているAIはまったく責任など担っていない。企業に歯止めをかけないまま放っておけば、「責任あるAI」が実現される可能性はまずない。
3：その一方で、生成AIについては現実的な性能をはるかに超えた過大な宣伝がなされている。
AIを構築している企業は、これまで具体的な社会への貢献などほとんどないにもかかわらず、いつかはAIが何らかの形で社会を救うことになるとの理由から、開発に制限を課さないよう求め続けている（著作権法からの免除など）。またたいていはメディアも、シリコンバレーが救世主になるという神話を鵜呑みにしている。
だが企業家がこうした誇張をするのは、そうしたほうが資金を集めやすいからだ。約束を破ったとしても、その責任をとることなどまずない。暗号資産の場合と同じように、おそらくは実現することのない将来の恩恵を漠然と約束して、現在もたらされている弊害から市民や議員の目を逸らすようなことはすべきでない。
4：この社会は、AI企業による一種の少数独裁政治へと突き進んでいる。
恐るべきことにソーシャルメディアで起きたことが繰り返され、AI企業が過大な権力を手に入れつつある。アメリカでは（ヨーロッパという明らかな例外を除けばほかの多くの国でも）大手テック企業が大半の支配権を握っており、これらの企業を抑制すべき政府がほとんど何もしていない。大半の市民がAIに関する厳正な規制を望んでいるほどAIへの信頼が低下しているというのに、いまのところ連邦議会はこの問題に適切に対応していない。
2023年5月に開催されたAIの監視に関する上院司法小委員会で私が証言したころには、これらすべての問題により、「企業の無責任、幅広い普及、十分な規制の欠如、内在的な信頼性の欠如から成る最悪の事態」が生み出されていたのだ。
次回（第2回）では、AIテックが「邪悪」に陥ってしまう理由を示そう。
ゲイリー・マーカス（著）、山田美明（訳）、市川類（解説）／日経BP／2750円（税込み）