内容紹介
生成AIブーム以降、書店には活用法やプロンプト技術を解説する書籍があふれています。しかし、企業・団体のAI活用は既に次の段階へ進みつつあります。生成AIは日常業務に浸透し、自律的に業務を遂行するAIエージェントが現場へ導入されています。さらに、ロボットや自動化設備を支えるフィジカルAIも実用段階に入ってきました。AIはもはや単なる業務効率化ツールではありません。電力、通信、クラウドと並ぶ「事業インフラ」になりつつあり、だからこそAI活用一辺倒になりがちな企業・団体に、新たな経営課題が生まれています。
AIが暴走して停止したり、性能が劣化したり、規制や利用禁止、提供終了などによって使えなくなったりしたとき、企業・団体は重要業務を継続できるでしょうか――。
実はAIが止まる要因は多数あります。広域クラウド障害、基盤モデルの提供終了、利用規約の変更、規制当局による利用停止命令、サイバー攻撃、AIエージェントの暴走や機能不全、フィジカルAIの異常停止……。企業自身の意思とは無関係に、AIが停止・劣化・利用不能となるリスクは、今や現実の経営課題になりつつあります。
このようにAIが止まったときに備える能力を、本書では「AI停止耐性」と名付けました。企業・団体は今こそ「AI停止耐性」を高め、AI停止がもたらす影響とその備えを具体的に考え、「AIが止まることを前提とした経営」を実装する必要があります。
本書は、AI停止を信頼喪失型/統制不能型/敵対介入型/外部制約型/依存破綻型/安全重視型という6つの類型に整理し、「AI停止耐性」という能力を定義し、評価し、強化するための考え方と実践手法を、経営、組織、契約、技術の観点から具体的に提示します。また、「実践チェックリスト」で、自社のAI依存の度合いと停止への備えを可視化できます。
「AIを使う企業・団体」から「AIが止まっても動き続けられる企業・団体」へ進化できるかどうかが、今後の企業・団体の競争力を左右します。「経営者はいかに判断し、企業はいかに備えるべきか」という視点を常に持ち、実践していくために、本書は役立ちます。
<主な内容>
●はしがき
●序章 ある月曜日──AIが止まった朝
【第Ⅰ部 AI停止耐性とは何か】
●第1章 AIが止まると会社はどうなるのか
1-1 AIのインフラ化はどこまで進んだか
1-2 停止が及ぼす4つの影響
1-3 静かな停止も停止である
章末ツール 自社の停止影響を説明できるか(5問)
経営陣への報告ポイント
●第2章 AI依存を管理する──AI停止耐性の全体像
2-1 3つの先例から考えるAI依存
2-2 4つのレジリエンス系譜
2-3 6つの停止原因とAI利用停止の態様
2-4 AI停止耐性の5要素
章末ツール 5要素の簡易自己診断
経営会議への報告ポイント
【第Ⅱ部 AIはなぜ止まるのか──6つの停止原因】
●第3章 AIへの信頼が崩れる――「信頼喪失型」停止
3-1 もっともらしい嘘はなぜ生まれるのか
3-2 AIの利用継続を難しくする5つの問題
3-3 信頼問題はどのように利用停止へつながるか
3-4 停止範囲をどう決めるか
章末ツール 信頼問題が起きたとき、止める範囲を選べるか
経営会議への報告ポイント
●第4章 AIを止められなくなる──「統制不能型」停止
4-1 「答えるAI」から「実行するAI」へ
4-2 「忠実な誤解」はなぜ起きるのか
4-3 設計されたAI連携―1つの誤りが全体へ広がる
4-4 想定外のエージェント連携―個別管理を超えるリスク
4-5 封じ込め──異常を局所にとどめる
4-6 止めた後も業務を続ける──限定運転(縮退)及び復旧
章末ツール AIを組み込んだ重要業務の封じ込め・復旧チェックリスト
経営会議への報告ポイント
●第5章 AIは攻撃の手段にも経路にもなる ──「敵対介入型」停止
5-1 攻撃者も、AIを手に入れた
5-2 「だます」攻撃の精度と再現性が高まる
5-3 自社のAIが、攻撃の入口になる
5-4 実行権限・外部入力・接続範囲が、被害を決める
5-5 予防に加え、検知・封じ込め・復旧を設計する
付録 AIインシデント初動・通知・連携チェックリスト──被害の性質に応じて動く
章末ツール 攻撃されても続けるための検知・封じ込め・復旧チェック ── 自己点検チェックリスト
経営会議への報告ポイント
●第6章 AIが使えなくなる──外部制約型の停止
6-1 政府が止める
6-2 ベンダーが止める
6-3 市場が止める
6-4 AIが止まる法的瞬間──4つの引き金
6-5 「乗り換えられる」状態を保つ
章末ツール チェックリスト──API依存度・出口条項・規制ウォッチ
経営会議への報告ポイント
●第7章 AIがまとめて止まる日──「依存破綻型」停止:見えていない依存を可視化する
7-1 AIは単独では存在しない
7-2 見えていない依存 ─ 契約書に現れない結びつき
7-3 漏斗の細い部分 ── モデル・クラウド・GPU・電力
7-4 単一障害点と共通原因リスク ──一カ所の停止と、同じ原因による同時停止
7-5 AI停止影響マップ ── 業務別に依存と影響を可視化する
7-6 備えの方向 ── 冗長化と、AIを織り込んだBCP
章末ツール 依存リスクの棚卸し ── スコアリング式チェックリスト
経営会議への報告ポイント
●第8章 フィジカルAIが止まる日 ──「安全重視型」停止
8-1 物理世界で「止まる」とは何か
8-2 安全停止と操業停止は、同じではない
8-3 どこまで隔離できるか ── 止める単位の設計
8-4 何で仕事を続けるか 物理の縮退
8-5 復旧・再稼働の条件
8-6 停止が外へ波及するとき ── 依存と供給網
章末ツール フィジカルAI停止への備え ── 停止・操業継続スコアリング
フィジカルAI停止・操業継続シート
経営会議への報告ポイント
【第Ⅲ部 AI停止耐性を測る】
●第9章 AI依存度を測る
9-1 測るのはAI利用量ではない
9-2 5領域診断 ── 依存はどこに表れるか
9-3 業務ごとに依存度レベルを判定する
9-4 依存度×耐性の4象限 ── 現在地の地図
章末ツール AI依存度診断シート(完全版)
経営会議への報告ポイント
●第10章 AI停止耐性を測る
10-1 5要素を採点可能な設問にする
10-2 成熟度を判定する ── レベル1~5
10-3 記入例と読み方 ── A社の診断結果
章末ツール AI停止耐性診断シート(完全版・25問)
経営会議への報告ポイント
●第11章 AI停止を平時の経営に組み込む
11-1 6つの管理基盤を整える
11-2 経営会議で見る項目
11-3 KRIで監督する
11-4 段階的に実装する──全部を一度にやらない
章末ツール AI停止耐性・経営運用ギャップ分析
経営会議への報告ポイント
【第Ⅳ部 AI停止耐性を実装する】
●第12章 AI停止耐性の5つの機能をつくる
12-1 5機能 ─ 担当を明確にすべき仕事
12-2 5機能の責任分担 ── 誰が数字を作り、誰が監督するか
12-3 割り付けの3モデル ─ 集中型、連邦型、分散型
12-4 最初の90日 ─ 5機能を立ち上げる
章末ツール 「5機能の実装状況」15問
経営会議への報告ポイント
●第13章 取締役会は何を見るか、何を問うか──AI停止耐性の経営監督
13-1 監督と執行 ── 取締役会の持ち場はどこか
13-2 定期報告6項目 ── 取締役会向けの一枚
13-3 監督が不十分だったとき ── 取締役の法的義務
13-4 拡張KRI一15指標の導入方法
章末ツール 経営監督の実装状況(15問・30点)
経営会議への報告ポイント
●第14章 AI停止演習── 計画を試し、改善につなげる
14-1 なぜ演習なのか
14-2 5つのシナリオ
14-3 演習結果を経営へ接続する
章末ツール AI停止演習・運営キット
経営会議への報告ポイント
●特設 取締役会でいますぐ議論すべき10の質問
●終章 AI時代の強い会社
●あとがき
●巻末資料のダウンロード案内
