「頻発する数百万人規模の情報漏洩の裏にAI（人工知能）がいる」「開発中のAIが勝手に他社のシステムに不正アクセスした」「AIが人類の存亡にかかわる脅威となる」――。そんな見出しのニュースを目にする機会が増えました。AIの能力が急激に進化しており、今後は人間が予想しない振る舞いをし、制御不能になるのではないかと心配されています。仕事の効率化などで大活躍するAIですが、それが私たちの社会、そして将来にどのような影響をもたらすのか、より高い視点から俯瞰（ふかん）しておくことも大切です。そこで、技術系の書籍を編集している部長2人が、全力でおすすめできる「AI教養」が身につく日経の本を9冊、紹介します。技術プロダクツユニットクロスメディア編集部の田村規雄部長と日経BOOKSユニット編集部の安東一真部長が解説します。
AI脅威論を現実的にした米アンソロピックの「クロード・ミュトス」
日経BOOKSユニット編集部長（Bグループ） 安東一真（以下、安東）：最近、「AI脅威論」ともいえるニュースや解説記事が増えましたね。AIが賢くなりすぎて人の制御が効かなくなり、それこそ「人類を滅ぼすのではないか？」という話にまでなっています。
技術プロダクツユニット クロスメディア編集部長 田村規雄（以下、田村）：そうですね。AIに制限をかけても、その制限を超える術（すべ）を自ら見つけ出し、外へ飛び出してしまうような事例がいくつも報告されています。AIが人間の想定する範囲を超えた振る舞いをしたり、勝手な判断をしたりすることで、システムや社会、ひいては人類に災いをもたらすのではないかという懸念です。
安東：そのような懸念が現実味を帯びて語られ始めたのは、米アンソロピックが「クロード・ミュトス（Claude Mythos）」を発表したときではないでしょうか。クロード・ミュトスは、サイバー攻撃能力が高すぎるため、もしも悪用されたら大変なことになるということで、同社が公開を取りやめたほどでした。
田村：そのクロード・ミュトスに代表されるような、AIによるサイバー攻撃のリスクを解説した本が『 クロード・ミュトスの衝撃 』ですね。
安東：そうです。本書は、著者のA.T. カーニーのパートナーの方に提案をいただき、ものすごくタイトなスケジュールで先月（9月）緊急出版しました。私も編集担当として力を込めて作りました。出版社が出した書籍としては、初めてクロード・ミュトスを解説したものになります。
クロード・ミュトスは今年4月に発表され、今も一般には公開されていない先端（フロンティア）モデルです。強い安全対策を施した公開バージョン「クロード・フェーブル5」が6月にリリースされましたが、米国政府の指令で、そのベースとなるモデルのクロード・ミュトス5とともに、約3週間、世界で提供が停止されたことでも話題になりました。クロード・ミュトスにアクセスできるのは、米Amazon Web Servicesや米Microsoftなどのほか、金融機関など一部の企業・組織だけです。この10月6日には、申請して承認されたセキュリティ専門家や組織が特定の用途で利用できるというプログラムが始まりましたが、今も一般には非公開です。
『 クロード・ミュトスの衝撃 』では、このクロード・ミュトスが従来のモデルとどう違うのか、そして、クロード・ミュトスを使った攻撃にどう対抗すればよいかを解説しています。
クロード・ミュトスはソフトウエアの欠陥（脆弱性）を多数見つけたことでも話題になりました。しかし、従来のモデルでも脆弱性の発見については、十分な能力がありました。大きな違いは、サイバー攻撃で「エージェント」的な振る舞いができるようになったことです。システムの脆弱性をくまなく探して、小さな穴を見つけたら、そこを大きな穴に広げ、さらにシステムの奥まで侵入していくという攻撃の一連の流れを自律的にできるのです。
田村：開発中のAIを検証している際に実行環境の壁の穴を見つけて自ら外に飛び出していったというニュースがありましたよね。
安東：アンソロピックだけでなく、米オープンAIもオーストラリアの国民健康保険の非公開情報に不正にアクセスしてしまうなど、同様の事故を起こして話題になりました。クロード・ミュトスに限らず、米国の最新フロンティアモデルは同じリスクを持っていると思ってよいでしょう。さらに、中国の公開モデルも、すでに同じレベルになりつつあるという評価結果があります。
本書の最後ではクロード・ミュトスに対して企業が取れる対策方法を、ロードマップとしてまとめています。30日、90日、1年という3段階で対策します。フロンティアモデルは、天才的なワザを使って攻撃してくるわけではありません。よくある攻撃手法を組み合わせるだけですが、人では不可能な驚異的なスピードで試す点が違います。
本書では、地道な対策をしっかり進めていくよう説いています。具体的な対策の観点の例としては、リモートアクセスや古いレガシーシステムといった脆弱性が生まれやすい箇所をしっかり把握し、これらの脆弱性をどう管理して修正していくかといった計画を作ることを挙げています。さらにすべての攻撃を防ぐことはほぼ不可能という前提に立ち、侵入時の対策を事前に決めておくことも指摘しています。
AIを使う側として知っておくべき、AIリスク管理の教科書
田村：AIによるサイバー攻撃だけでなく、「AIを使って作成した文書がウソばかりだった」「AIが勝手に個人情報を漏洩させた」「AIが判断を間違ってトラブルになった」というような身近なAI活用におけるリスクもありますね。それを解説するのが、『 AIリスク教本 改訂新版 』です。2023年に発行して大きな反響のあった書籍の改訂新版です。急速に普及したAIエージェントや、ロボットなどに実装されるフィジカルAIなど、前著を発行した後に出てきた最新事情を踏まえて、60ページの大幅な加筆増ページを行いました。最新のAI活用環境に対応した内容へと全面刷新しています。
AIのリスクを語る本ですが、もちろんAIの活用を否定しているわけではありません。むしろ、企業のAI活用を前進させるための本で、「適切なガードレールの引き方」を解説しています。世界中で整備が進んでいるAIの規制やガイドラインに従って、「AIガバナンスの仕組みを企業内に構築するためのノウハウ」を提供しています。AIを適切に、安全に、そして有効に活用したい企業の経営層から実務担当者まで、広くおすすめしたい本です。
安東：帯のイラストが印象的なシリーズですが、中身は相当硬派ですよね。著者は、日本IBMのAI倫理チームと同社内のAI倫理とガバナンス研究会です。プロのノウハウが詰まった1冊だと思います。
「AIブーム」を取り巻く市場や外部環境のリスクから未来を見る
田村：関連してもう1冊、『 AIバブルの不都合な真実 』も紹介させてください。この本は、現状のAIブームを「バブル」だと断言し、期待された性能とのギャップ、過剰な資金流入、クリエーターとの摩擦、資金フローの転換、成長の頭打ちとインフラ供給制約、政府による規制、倫理的視点からの反動など、さまざまな要因が重なってバブルが崩壊すると予言しています。
そして、崩壊のトリガーとなるシナリオの例として、「AIによる社会不安の惹起（じゃっき）」を挙げています。先ほど話したようなAIのリスクやセキュリティー上の懸念、AIリテラシーにまつわる教育格差の問題などが顕在化することで、社会不安が高まり、AIに対する期待感が一気に冷え込む恐れがあるというのです。
もちろん、この本もAIを否定しているわけではありません。こうしたリスクを乗り越え、バブルが崩壊した後にも生き残るための戦略や心構え、そして「AIとどう生きるか」を提言しています。AIバブルに踊らされることなく全体を俯瞰（ふかん）して、将来を見据えるために読みたい1冊です。
米国の事例とともに解説、生成AIが変える未来の働き方を読む
安東：そうですね。AIの脅威やリスクを論じた本ばかり続けて紹介してきましたが、もっと前向きな本も紹介しましょう。『 アフターAI 世界の一流には見えている生成AIの未来地図 』は、AI登場後（アフターAI）の世界がこれからどうなっていくのかを予見する最新事例が満載の1冊です。多くの方に読んでいただいており、7刷2万8000部を発行、電子版も7000部を超えています。
著者のシバタナオキさんは、米国シリコンバレーで活躍する現役の投資家です。仕事として、1000社を超える生成AIスタートアップを精査してきた知見をもとに、生成AIがビジネスをどう変えるのかを本書にまとめました。カスタマーサポート、マーケティング、営業、人事など特にAIの影響を受けやすい職種などを対象に、未来の姿を示します。
日本IBMやアドビ、ソフトバンク子会社のGen-AXなど、日本でAI導入を推進する識者6人の知見も詰まった1冊です。シバタさんからは、多様な業界の米国生成AIベンチャーの取り組みが提示される一方で、日本の識者からは、日本での具体的な実践方法が示されます。
田村：AIを活用することで、ビジネスや働き方がどのように変わるのか、具体的にイメージできる本だと思います。仕事でAIを使うことが当たり前になる時代は、もう始まっているといえるでしょう。これからの時代をどう生きるのかを考えるうえでとても参考になる1冊です。
AI時代に生き残るための企業戦略を考える
安東：AI活用が一般的になったとき、AIに負けずに打ち勝つための戦略を説いた本も紹介しましょう。『 AIに潰されないための 競争戦略 5つの武器（モート） 』です。
本書を通じて「モート」（堀）という言葉を知りました（笑）。著名投資家のウォーレン・バフェット氏が語った言葉で、他社が容易にまねできない「構造的な優位性」を指すそうです。AI時代において、市場で優位性を保つための5つの「モート」を「武器」として鍛えるべきと本書は説きます。
著者の城田真琴氏の得意領域でもあるソフトウエア業界では、「SaaS（ソフトウエア・アズ・ア・サービス）の死」という言葉が今も物議を醸していますが、その実像を知りたい人に本書はうってつけでしょう。すべてのSaaSが、汎用のAIモデルに置き換えられるわけではありません。本書で示す5つのモート、すなわち「マスターデータ」「ワークフロー」「ディストリビューション」「エコシステム」「スケール」によって自らの競争優位を守れないSaaSが淘汰されるのです。
一例を挙げましょう。「マスターデータ」は企業が「正しい記録」と認めるデータのことです。これを握っているSaaSであれば、ユーザー企業は簡単に乗り換えられません。会計システムやCRM（顧客関係管理）システムなどがその典型例です。本書ではこれを「死ぬのはSaaSではなく、薄いモートである」と表現しています。
こうした5つのモートを持つ強みは、ソフトウエア以外の業界にも通じます。「作ること」自体がコモディティ化していくAI時代にどのモートをどのように厚くしていくのか。金融や製造、医療など、多様な業界に向けた戦略を本書は提示しています。
生成AI革命をけん引する「サム・アルトマン」とは？
田村：こうして見ると、生成AIの登場によって、社会は本当に大きく変わっていますね。そんな大変革をもたらした1人として歴史に名を残す人物が、オープンAIでChatGPTを生み出したサム・アルトマンではないでしょうか。『 サム・アルトマン評伝 AIで世界を変えた男の正体 』は、このアルトマンと10年来の親交を持つジャーナリストによる評伝です。アルトマン自身も「著者の徹底的な調査は素晴らしい。もし引退したら、この評伝の後半の増補加筆に貢献できると幸いだ」と賛辞を寄せています。
これを読めば、アルトマンがAIを使って世界をどう変えようとしているのか、そのために何をしてきたのかが分かります。ドキュメンタリー、あるいは人間ドラマとして面白く読めるだけでなく、AIが変える未来についても、いろいろと考えさせてくれる1冊です。
生成AIはどうして人間の言葉で会話できるのか？
安東：この世界を変えたと言えるChatGPT登場の物語は興味深く、読み応えがありますね。ちなみに、ChatGPTをはじめとする生成AIの仕組みそのものも、AIを取り巻く教養として関心を持つ人がいるのではないかと思います。
田村：そうですね。どうして、昨今のAIは自然に会話したり文章を生成したりできるのか。AIはどのように「思考」しているのか。その仕組みは個人としても気になります。それらの答えを教えてくれる本を紹介しましょう。まずは、『 生成AI「思考」の裏側 なぜ賢いのか？ なぜ間違うのか？ 』です。
安東：生成AIがどのように言葉を生成したり学習したりするのかを、ごくシンプルに解説している本ですね。生成AIの中核である「Transformer」の基本的な仕組みまで、非常に分かりやすく解説していると思います。
田村：本書は技術者ではなく、一般のビジネスパーソンを対象に「中学生の数学の知識さえあれば、誰でも読み通せる」ように書かれています。難しい数式は一切登場しません。AIがどのように言葉を分解し、どのように計算して言葉をつむいでいるのか、シンプルな図解で説明しています。これを読めば、なぜAIが間違うこともあるのか、もっともらしいウソをつくのかなど、AIの限界点も理解することができ、前述のAIリスクについても知識を深められるでしょう。
手を動かしながら大規模言語モデルの仕組みを学ぶ本
安東：生成AIの仕組みを理解するための本は、日経BOOKSユニット編集部からも出しています。『 作ってわかる大規模言語モデルの仕組み 』です。
「作ってわかる」というのがポイントです。本書のコードはGitHubで公開していて、クラウドのPython環境「Google Colab」で、シンプルな大規模言語モデル（LLM）を実際に動かせます。コードをちょっといじって、LLMの挙動の変化を自分の目で確認できます。LLMの仕組みをまさに「体験」できるのがミソです。
本書はTransformerの実装から始まります。構成要素を1つずつ解説し、コードで動かしていきます。LLMが次に来る単語を予測して生成していく様子が分かります。
本の後半では、OpenAIが開発したGPTに発展させていきます。実は、GPTはTransformerをうまく簡略化した（デコーダのみを採用した）モデルなんですよね。GPT-2レベルのモデルを作った後に、ChatGPTリリース時に採用されていたGPT-3相当を作ります。単純な単語の予測の連続だけではChatGPTは実現できなくて、人の嗜好を学ばせる必要があります。差別をしてはいけないといった常識を持たせる作業です。
この辺りからGoogle Colabでは学習処理が重すぎて高性能なGPUが必要になります。ただ、推論だけであればGoogle Colabで試せます。LLMに常識を持たせると、出力がどう変わるのかを体験できるわけです。最後には、最新の「推論モデル」の仕組みも解説しています。最近のLLMが長い時間をかけて思考し、正しい結論を導く仕組みが分かります。
ディープラーニングを理解するための数学を学ぶ！
田村：実際に試せるのは楽しそうですね！ 最後にもう1冊、「ディープ」な技術解説書を紹介させてください。この『 最短コースでわかるディープラーニングの数学 増補改訂版 』は、現在のAIの飛躍的発展を支えるディープラーニング（深層学習）の技術を理解するための本です。ディープラーニングを理解するために必要な数学の基礎知識を学んでから、ディープラーニングのアルゴリズムの理解を目指せるように構成されています。ディープラーニングを本格的に学びたい人におすすめです。
この本は2019年に発行した書籍の増補改訂版なのですが、初版の編集は安東部長が担当したんですよね？
安東：そうなんです。エンジニアなど専門的に学びたい読者の皆さんから評価され、7刷1万8500部のヒットとなりました。電子書籍を足せば2万部を超えています。
「高校1年生の数学が分かれば理解できる」というのが本書のコンセプトです。当初、一般的には少しハードルが高い印象の本に見えるかもしれないと思っていましたが、 Amazonのレビューで、エンジニアではないシニアの方が「最後まで読んで非常に面白かった」と書いてくださったコメントを読んで感動したのを覚えています。現在のAIブームを生み出した最大のブレークスルーともいえる「ディープラーニング」を理解することは、理系的な知的好奇心を大いに満たす読書体験だと思っています。その本の増補改訂版が今年出たと聞いて、個人的にもうれしかったです。
田村：増補改訂版では、演習問題を各章に付けて理解度を確認できるほか、サンプルの実習コードも全面改訂しました。最新技術に対応するために、生成AIの基盤技術であるTransformerについても触れています。初版本を読んだ方にも、ぜひ読み直してもらいたいです。
文／安東一真（日経BOOKSユニット編集部長（Bグループ））、田村規雄（技術プロダクツユニット クロスメディア編集部長） 写真／馬本寛子、長野洋子（日経BOOKプラス 手前みそ班）