AI本格活用期の到来に向けて、AIの便益を最大化する仕組みの実現が急がれている。オープンAIのサム・アルトマンCEOと対峙した気鋭のIT批評家が有益かつ健全なAI社会の実現に向けて書いた新刊『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』（ゲイリー・マーカス著、山田美明訳）より、一部を抜粋してお届けする。第4回はAIテックが社会の権力を握る可能性を指摘する。
重要な判断がAIテック1社の判断に委ねられる
前回 で示唆したように、AIテック（大手テック企業をはじめとするAI産業）がジョージ・オーウェルの小説『一九八四年』（訳注／邦訳書は高橋和久訳、早川書房、2009年など）の「ビッグ・ブラザー」のような役割を担うことになるかもしれない。その兆しはすでに見えつつある。
AIテックはすでに、部分的にではあれ人類にとってきわめて重要な決断を下している。しかも、ほかの人々と協議することもなく、独断で。
たとえば、大規模言語モデルを「オープンソース」化すべきかどうかという厄介な問題を例に考えてみよう。これは、そのモデルを野に解き放って自由に使わせるということであり、そんなことをすれば悪人たちが好き勝手にそれを利用できるようになる。これについては、何の弊害もなくまったく問題はないと考える人もいれば、この世界がきわめて無防備になると懸念する人もいる。いずれにせよ、判断に注意を要する問題である。
ところがメタは、社内での話し合いだけに基づき、このモデルを幅広く自由に使わせることに勝手に決めてしまった。ほかの議論を待つこともなく、「メタ指導部は、［同社のオープンソースの大規模言語モデルである］Llama-2を公開すれば、利点がリスクを圧倒的に上まわり、AIの展望を好転させることになる［と判断した］」と公表したのである（フェイスブックの元従業員が私に語ってくれたところによれば、実際の動機の一端は人材募集にあったのかもしれないという。「シリコンバレーの人間はたいていフェイスブック［で働くの］を嫌がるから、フェイスブックはいつも人材の募集に苦労していた。オープンソースのプロジェクトに技術的な意義があるのは（中略）それ［が人材を呼び寄せるから］にほかならない。世界にとって有益かではなく、自社にとって有益かどうかが問題なんだ」）。
メタの判断が間違っており、オープンソースのAIが深刻な被害をもたらせば、世界中の誰もが（おそらくは大いに）苦しむことになる。実際、マサチューセッツ工科大学のケヴィン・エスヴェルトによれば、（商用システムに見られるようなガードレールがない）オープンソースのAIが生物兵器の製造に使われるおそれがあるという。
政策の専門家デヴィッド・エヴァンス・ハリスが述べているように、「世界中の誰もが危険なAIシステムに無制限にアクセスできる」ようにしたのは間違っていた、ということがいずれ判明するかもしれない。すでに中国は、オープンソースのAIを盛んに利用している。
実際にそれが生物兵器の製造に利用されるかどうかはともかく、アメリカ国土安全保障省の最新の脅威評価によれば、ロシアや中国、イランの悪人が「自国の影響力拡大戦略の質や規模を向上させるためにAIテクノロジーを使う可能性がある」という。
自らの利益を優先、社会の便益は二の次なのか
なぜそのようなことが容易にできるのか？ これほど多くの利益が懸かっている以上、そう判断するのはメタだけであるはずがないからだ。
著名な地政学的戦略家イアン・ブレマーが、2023年のTEDトークでこう警告している。歴史的に政府が握っていた権力の多くが間もなく大手テック企業に奪われ、国民国家は半ば消えてしまうかもしれない、と。実際、すでにそれが起きている。オープンソースに関するメタの判断がいい例だ。同様に、大半のAI企業が、アーティストの道徳的権利はおろか法的権利さえあからさまに無視しているように見受けられる。アーティストやその作品に対する社会的関心よりも、自分たちの金銭的利益のほうが重要だと勝手に判断しているのだ。
もちろん、はっきりとそう言っているわけではない。だが2023年の暮れには、オープンAIが厚かましくもイギリスの貴族院で、自社が（明らかに作家やアーティストに配慮することなく）著作権で保護された素材を利用するのは、社会にとって必要不可欠なことなのだと訴えている。現在では、ブログの記事や写真、フォーラムへの投稿、ソフトウェアのコード、政府文書など、人間が生み出すほとんどの表現が著作権で保護されているため、現在の主要なAIモデルを訓練しようとすれば、著作権で保護された素材を使わざるを得ない。
レトリックもここまでいけば名人芸である。彼らは一度どころか一瞬たりとも、これらの作品の「使用許諾」を受けるというはるかに正当な代替案を認めようとしない。そもそも、AIシステムの燃料となるこれらの作品すべてを政府が無料で引き渡してくれるかもしれないのだから、そのクリエイターたちと利益を分け合おうとするはずがない。これはもはや、史上最大の知的財産の収奪と言っていい。
大手AI企業はいずれもみな、自分たちが求めている権力や金銭のほうが、社会にもたらされるリスクよりもはるかに重要だと判断しているらしい。その結果、大規模な偽情報キャンペーンを一瞬のうちに、安価に、幅広く展開できるツールが生み出されることになれば、情報生態系が損なわれ、おそらくは民主主義さえ損なわれる。とどのつまり、大半の市民の暮らしや社会構造が悪化する。
その影響は私たち一人ひとりに及ぶ。だが私たちの誰も、大手テック企業に「一票」 を投じたわけではない。
ゲイリー・マーカス（著）、山田美明（訳）、市川類（解説）／日経BP／2750円（税込み）