AI本格活用期の到来に向けて、AIの便益を最大化する仕組み（AIガバナンス）の実現が急がれている。オープンAIのサム・アルトマンCEOと対峙した気鋭のIT批評家が有益かつ健全なAI社会の実現に向けて書いた新刊『 AIテックを抑え込め！ 健全で役立つAIを実現するために私たちがすべきこと 』（ゲイリー・マーカス著、山田美明訳）。本書から、一橋大学イノベーション研究センター特任教授の市川類氏による「解説」をお届けする。
【解説】
一橋大学 イノベーション研究センター 市川 類
本書は、シリコンバレーに位置するAI企業がいかに大衆と政府を翻弄してきたかを明らかにしたうえで、AIを用いたポジティブな世界をどのように実現するのかという、これからの「AIガバナンス」のあり方を提言するものである。著者は、AIのリスクを米議会公聴会などで訴えている米ニューヨーク大学の認知科学者、ゲイリー・マーカス名誉教授である。
私（市川）はもともと、経済産業省で長年、技術・イノベーション政策やデジタル・AI政策に携わり、そのなかにおいて現在、技術・イノベーションとそれを取り巻く社会や制度・政策との関係に係る研究を専門としている。特に、最近は、AI技術が急速に進展するなかで、世界のAIガバナンス制度・政策がどのように変化していくのかについて研究を進めている。
このような観点から見た場合に本書は、世界のAIの中心地である米国における、特に2024年ごろのAIに係るリスク認識を示すものとして、興味深い一冊であると考える。
AIガバナンスの重要性と政策動向
一般的に、新技術やイノベーションは、社会にとって望ましいものとして考えられている。しかしながら、技術自体はもともと道具にしか過ぎず、その利用方法によっては、悪用される可能性もある。加えて、当初想定していなかったような影響を含め、社会的なリスクを生じさせることもある。
特に、AI技術は非常に革新的であり、かつ、あらゆる分野に利用される汎用性を持つことから、社会に対して広範な便益をもたらすことが期待される。その一方で、当初想定されなかったような大きな社会的リスクを生じさせる可能性も指摘される。このようなAI技術によってもたらされるリスクを、社会の受容範囲内に抑えつつ、技術からもたらされる便益を最大化するような社会的な仕組み・システム（法制度を含む）のことをAIガバナンスという。
このようなAIガバナンスのあり方については、従来から、世界各国において多くの議論がなされ、また、政策面での検討が進められてきた。特に2023年以降のいわゆる生成AIブームに伴い、その議論が拡大かつ加速してきている。すなわち、生成AIはその革新性により、今後の経済的な便益に対する期待が高まると同時に、それらがもたらし得る社会的リスクについて世界規模での懸念も指摘されている。このため、世界各国において、AIガバナンスのあり方が活発に議論され、その一部は政策に組み込まれつつあるわけだ。
ただし、その社会的リスクに関する認識は、各国の社会・文化・産業などによって異なる。同時に、AI技術自体やそれを取り巻く産業構造が大きく進化し、また、社会におけるAI技術の受容性も進むなかで、そのリスク認識自体も急速に変化しているのが現状である。特に、生成AIブームの当初は、その能力に高さに世界が驚嘆し、それゆえに、特に欧米を中心に将来的な「人類滅亡リスク」なども議論されたが、その後は、むしろ現実的に生じ得る具体的なリスクを特定し、それらを踏まえたAIガバナンス政策の検討が進むように移行しつつある。
本書の英語版が発行された2024年9月はちょうどそのころであり、本書はその時期の米国における状況を踏まえて、生成AIに係るガバナンス政策に向けた市民の取り組みを提言したものと位置づけられる。
しかしながら、世界のAIガバナンス政策をめぐっては、2025年1月に発足した第二期トランプ政権の政策動向を含め、本書の望む方向とはまったく逆の方向に進んでいるのが現状である。具体的には、AIガバナンスを積極的に進めるというよりは、むしろAIに係るイノベーションを積極的に推進するという政策方向に軸足を移しつつあり、これは、米国だけでなく、欧州なども含む世界的な傾向になっている。
他方、程度問題こそあれ、本書が指摘するように、AI技術が社会に対して何らかのリスクをもたらし得ることは間違いなく、AIガバナンス政策の必要性が薄れたことを意味するものでは全くない。
なお、日本では、2025年5月に新たにAI法が成立している。このAI法は、原則としてAI推進法であるとともに、罰則などを含まないいわゆる基本法ではあるが、AIガバナンスに係る施策の方針も含まれており、この秋以降に、その具体策の検討が進むことになっている。
「11の最重要事項」の捉え方
本書は、米国における生成AIに係るガバナンス制度の構築に向けた提言を行うべく、三部構成になっている。まず、第一部では、2023年以降ブームとなっている生成AIについて、これらは驚嘆すべきものだが、最終的に私たちが望むものではないものとして、12の脅威（リスク）を挙げて説明している。第二部では、シリコンバレーにある大手AI企業（AIテック）が、権力と金銭に固執しており、美辞麗句を使って世論を操作する一方、政府をも操作することによって、現在の不幸な状況を生み出しているとしている。そのうえで第三部では、このような状況に対して何ができるのかを示すために、AIガバナンスに関連した「11の最重要事項（要求）」を提言している。
前述のとおり、これらは2024年夏時点での内容であり、必ずしも最新の状況を反映したものではないが、現時点で適用される部分も非常に多い。例えば、第一部に記載されているような12の脅威（リスク）は、本書にあるとおり今後新たな種類のリスクを生む可能性はあるものの（例えば、今後のAIエージェントなどの技術の進展に伴うリスクなど）、現時点でも概ね適用されるものである。
また、第三部に記載されている「11の最重要事項」のいずれも、現時点においてもAIガバナンスに係る大きな論点である。ただし、ところどころにおいて、その後の経緯を留意しなければならない個所もある。例えばオープンAIのサム・アルトマンCEOなどシリコンバレーのAI企業も賛成している旨の記述については、その後の技術・産業構造の変化に伴い、現時点ではあてはまらない場合もある、などだ。
また、「11の最重要事項」におけるいずれの提言も、論点としては重要ではあるものの、国・地域によって事情が異なることにも留意が必要だ。例えば、「第7章 データに対する権利」、「第8章 プライバシー」、「第9章 透明性」については、現実のAIガバナンス制度として落とし込もうとしたときに一筋縄ではいかない、言い換えれば、各国・各地域の事情を考慮して実装しなければならない。したがって読者は、本書における指摘を理解したうえで、わが国あるいは自社においては具体的にどのような対応が可能なのかを考えるきっかけとすると良いであろう。
なかでも、今後の日本のAI法の施行に向けて喫緊の課題として参考になるのは、「第15章 機敏な管理が可能なAI専門機関」であろう。もともと、機微な管理（アジャイルガバナンス）の概念は日本初の概念であるとも言え、日本のAI法においても、そのような概念が組み込まれている。今後、政府内に具体的にどのようなAIに係る専門体制を整備していくかは大きな政策課題であり、その際、本書の提言も参考になると考えられる。
なお、第二部においては、シリコンバレー地域にある大手AI企業による「悪事」が多数記載され、信頼のできない「悪者」として描写されている。私（市川）自身は、シリコンバレーの企業を、このように一律に悪者とするような見方は取らないが、他方、AI企業の華やかな側面が多く報道されているなかで、このような一面があることを理解するという観点からは、本書は非常に参考になるであろう。
その際、本書にも記載されているように、すべてのAI企業に対して本書の指摘が画一的にあてはまるわけではないことに留意する必要がある。企業およびそのビジネスモデルによって本書の指摘の的確性が異なるためだ。そのうえで「11の最重要事項」を捉えた場合、長期的な観点から重要になるのは、「第14章 公正なAIを推進するインセンティブ」であろう。人間的価値観と合致しないAIに対する税制（ピグー税的発想）は、現実として制度設計は困難であると思われる半面、どのようなビジネスモデルが社会・経済制度的に人間的価値観にそぐわないとされうるのかについては、本書を読みながら頭を巡らせてみると良いだろう。
急変下で適切なAIガバナンスを検討するために
上述のとおり、世界のAIガバナンス政策を巡る環境は、本書の英語版の発行以降も急速に変化している。それでも、本書に掲げられているリスク認識や課題項目が、引き続き今後も重要な論点であり続けることは間違いない。
その際に本書は、AIに対するリスク認識は各国によって異なることを念頭に置いたうえで、AIの中心地である米国ではどのような議論がなされているのかを理解しつつ、日本におけるAIガバナンスのあり方を検討するうえで大いに参考になるはずだ。