その本の「はじめに」には、著者の「伝えたいこと」がギュッと詰め込まれています。この連載では毎日、おすすめ本の「はじめに」と「目次」をご紹介します。今日は日本IBM AI倫理チーム／AI倫理とガバナンス研究会の『 AIリスク教本 改訂新版 AIエージェント＆フィジカルAI AI新時代のガバナンス 』です。
【はじめに】
本書は「企業においてAI（人工知能）活用を前進させるための適切なガードレールの引き方を解説した本」です。クルマが安全・快適に走れるように道路にガードレールを設置するのと同様に、AIに対しても適切なガードレールを用意する必要があります。そのための必要な知識と手法をまとめました。
AIやその活用にはリスクがあり、それをゼロにすることは極めて困難です。リスクを完全にゼロにしたければ、AIを使わない（クルマに乗らない）選択をすればよいのでしょうが、それでは意味がありません。AIのリスクを正しく理解し、1つひとつ適切な対策を行えば、ゼロにはできなくとも、リスクを回避したり低減させたりしながらAIプロジェクトを前に進められます。そのために企業は、必要な体制やプロセスを全社横断で整え、道具を準備する必要があります。これが本書で言う「AIリスクに対するガードレール」です。
AIの世界では今ものすごいことが起こっています。つい最近までAIは、画像を解析して製品や設備が正常か異常かを判別する分類や、商品の需要などがどう変動するか数値で予測する用途などに使われていました。しかしオープンAI（OpenAI）の「ChatGPT（チャットジーピーティー）」やスタビリティーAI（Stability AI）の「Stable Diffusion（ステーブルディフュージョン）」といったいわゆる生成AI（Generative AI）の登場が世界を一変させました。
生成AIはその名の通り、文章や画像といったコンテンツを、少しの指示を与えるだけで生成してくれたり、長い文章を適切に要約してくれたりします。しかも人間が創作したものと区別することが難しいくらい高い品質で生成できます。そして最近では、コンテンツ生成にとどまらず、自律的に行動するAIエージェントやそれを物理デバイスやロボットなどに搭載したフィジカルAIへと応用が進んできています。ソフトウエアのプログラムコードも、生成AIを使って作成しAIエージェントにより実行できるように進化してきています。
基礎的な知識を学び、高い品質の出力ができる生成AIの登場で、経営層から新入社員まで幅広い層がさまざまな用途にAIを利用するようになったことも、現在におけるAI利用の特徴です。AIで従来の仕事のやり方を大きく変えられるに違いないと、数多くの企業がAI活用への取り組みを進めています。今後AIをうまく活用した企業とそうでない企業との間で、競争力に大きな差が生まれるのは容易に想像できます。つまり今、企業とビジネスはAIによる大きな転換期にあるのです。
このようなAIの進化を「光」とすると、「影」の側面がAI活用に伴うリスクです。AIが広く使われるほどに、リスクは大きくなっていくからです。著作権やプライバシーの侵害、企業情報の漏洩、大量に作られる偽情報、偏見や悪意の増幅といった問題がすでに起きていたり、予測されたりしています。AIがもたらすリスクで不利益を被る人が多数現れ、世界中で数多くの訴訟が起きているのも事実です。AIの進化によって「許容される／されない」の境目にある判断が難しいグレーゾーンの幅が広くなり、各国でガバナンスの考え方が整理されてくるまで世界中が混乱状態に陥った時期もありました。
そのような状況の中、AIの光と影を理解する適切な指南書が必要であるという思いから、2023年12月に本書の初版を発行しました。その時点では、現在リスク対策のよりどころとなっている「AI事業者ガイドライン」や各種政府のガイドラインも公開されていなかったため、本書は一定の役割を担えたかと自負しています。
一方で、その後数年の間に、AI技術はさらに進化し、世界中で規制・ガイドラインの整備が進みました。今回の改訂ではその進化や社会情勢の変化に対応しました。具体的にはAIエージェントをはじめとした技術進化により高まるリスクと対策、規制・ガイドラインの世界での整備状況の俯瞰（ふかん）、これら規制・ガイドラインに従いAIガバナンスの仕組みを企業内に構築するためのノウハウです。読者のみなさんにとっての使い勝手を考慮し、AI開発者、提供者、利用者やAIエージェントなどの用語の定義を、「AI事業者ガイドライン」における定義に極力合わせるよう努めました。
本書の初版は日本IBM AI倫理チームが執筆しました。このチームはIBMコーポレーションのグローバルなAI倫理委員会と常に連携しながら、日本IBMが毎日のように実施している「AIプロジェクトのリスク審査」を担っています。このリスク審査ではリスクの指摘だけでなく、リスクを減ずる具体的な対策も提案します。AI倫理チームにはAIに関する各種の法律やガイドライン、プロジェクトのビジネス要求、AIの基礎技術やシステム全体の設計、利用可能なオープンソースやソフトウエア製品といった多岐にわたる知識と理解が求められます。そのためチームは法務部門に所属する弁護士から、日本のビジネスの現場でお客様と直接接するコンサルタントやエンジニア、基礎研究所のリーダー、技術営業まで多様なメンバーで構成されています。
今回の改訂にあたり、AI倫理チームのメンバーに加え、日本IBM内における技術コミュニティー活動であるAI倫理とガバナンス研究会に属するメンバーが著者チームに加わりました。皆、AI倫理とガバナンスに関心を持ち、実業務でもこれらに携わっています。
本書には、AI倫理チームと上記研究会のメンバーの実際の経験と、100年以上にわたって「善き社会市民」としての責任を重視してきたIBMが蓄積したビジネスAIの知見が数多く含まれています。本書は、「企業の中でAIをどんどん使っていきたい。でもリスクが心配だ。具体的にどう対処すればよいのか知りたい」といった読者の疑問に答えるため、AIに具体的にどのようなリスクがあり、それにどのような対策を講じるべきかについて整理します。この理解と対策によって、企業はこの転換期をチャンスとして生かせるのです。
本書の構成は、まず1章で、AIリスクへの対策を怠るとどういう問題が起きるのかを伝えるために、企業がAIリスクにさらされるいくつかのシナリオを、架空の物語を通してお伝えしました。
2章では、特にここ数年のAIの目覚ましい進化で何が起きているか、またなぜAIのリスクが高まるのかを解説。AIリスクに備えなければいけない理由を理解できるようにまとめました。
3章では、具体的なAIリスクの種類とそれぞれへの対処方法について、AIのサービスを提供する事業者や、従業員のAI活用を進めたい企業など、関係者の立場ごとに分けて整理しました。続く4章で、それぞれの関係者が取り得る対策を解説しました。場面やユースケース（利用例）、利用可能なソフトウエアの紹介も含めて、可能な限り具体的に説明するように心がけました。
5章はAIの規制・ガイドラインを解説しました。世界各国の規制・ガイドラインや国際協調の取り組みを俯瞰した後、具体的なケースを取り上げ、企業内のAIガバナンス担当者が実務で考え行動するための示唆を整理しました。あわせて、規制・ガイドラインに沿ってAIガバナンスの仕組みを構築するための方法にも触れました。最後の6章では1章から5章までの内容を踏まえ、企業がいったいどういう行動を取るべきなのかをまとめました。
読者のみなさんが、AIリスクを正しく理解し、AIリスクに対応する適切な仕組みを自社に整備できること。その結果として日本市場におけるAIの信頼性が世界トップレベルとなり、日本企業の国際競争力が高まる。本書がこの歩みの一助になれることを強く願っています。
2026年8月吉日
日本IBM AI倫理チーム および
AI倫理とガバナンス研究会 一同
【本書の発行に寄せて】
（IBM AI倫理委員会 共同議長より）
人工知能は新たな決定的な段階に突入しました。ほんの数年前までは、多くの議論はAIシステムが公平で透明で説明可能でプライバシーを尊重すべきかどうかに集中していました。これらの問いは今日でも重要なものです。しかし、AI基盤モデル、生成AI、そしてますます自律的なAIエージェントによって支えられた今日のAIシステムは、複雑なタスクについて推論し、他のシステムと相互作用し、個人、組織、社会に具体的な影響をもたらす意思決定を形成することができます。
AIの能力が進化するにつれて、それを統治するための私たちのアプローチも進化しなければなりません。責任あるAIはもはや倫理的原則を特定したり規制を順守したりすることだけではありません。イノベーションと責任がともに進むための組織の実践、技術的能力、ガバナンスプロセスを構築することが重要です。ガバナンスはイノベーションの障害としてではなく、顧客、従業員、規制当局、社会の信頼を得て維持するための条件の1つと見なすべきです。
IBMでは、信頼こそがAIの成功した導入の基盤であると長らく信じてきました。当社の責任ある技術フレームワーク（https://www.ibm.com/trust/responsible-technology）は、多分野にわたるガバナンス構造およびAIライフサイクル管理の技術的アプローチと相まって、社内でのAIの責任ある開発と展開を導いてきました。AI技術が進化するにつれて、予測のための機械学習から生成AI、そして現在ではますます自律性の高いシステムへと発展し、私たちのガバナンスも進化してきました。この経験は、責任あるAIは目的地ではなく、学習、適応、改善の継続的なプロセスであるという根本的な真実を改めて示しました。
特に重要な教訓の1つは、AIガバナンスは単一の分野だけに頼ってはいけないということです。研究者、エンジニア、法務専門家、ビジネスリーダー、デザイナー、セキュリティ専門家、政策立案者など、多くの関係者間の緊密な協力が必要です。効果的なガバナンスは、組織プロセス、AIシステムに組み込まれた技術的保護措置、適切な規制枠組み、そして情報に基づいた責任ある人間の利用など、複数の監督形態を組み合わせています。単一の仕組みだけでは十分ではありません。意味のあるガバナンスには、これらすべての要素が連携して働くことが必要です。
本書はその包括的な視点を反映しています。AI倫理を抽象的な議論として提示するのではなく、AIリスクの理解、新たな課題の予測、AIライフサイクル全体にわたるガバナンスの実施に関する実践的な指針を提供します。冒頭の章で示された現実的なシナリオは、日常の組織環境でAIリスクがどのように生じるかを示しています。続く章では、これらのリスクの技術的基盤を検証し、それらの管理アプローチを論じ、変化する規制環境をレビューし、効果的なAIガバナンスプログラムを構築しようとする組織のための実践的な指針を提供します。特に価値があるのは、生成AIやAIエージェントがもたらす新たな課題に注目している点です。これらの自律性の高まりは、確立された責任あるAIの実践と並行してガバナンスアプローチの進化を求めています。
日本は長らく技術革新のリーダーシップと社会に貢献する技術開発へのコミットメントで高く評価されてきました。AIが経済のあらゆる分野にますます統合される中で、このような書籍は組織がこれらの強力な技術に伴う機会と責任の両方を適切に捉え、対応していくための助けとなるでしょう。
単一の組織、企業、国がすべての答えを持っているわけではありません。信頼できるAIを構築することは、産業界、学界、政府、市民社会の協力に依存する共有の責任です。実践的な経験、共通の枠組み、教訓を共有することで、人々、企業、社会に利益をもたらすAIを開発する私たち全体の能力を強化します。この協働精神は、AIシステムがますます高度化し、相互に接続され、社会への影響力を増していく中で不可欠となるでしょう。
この本がIBMのお客様や実務者にとって貴重なガイドとなるだけでなく、日本のAIコミュニティー全体にとって有益なリソースとなることを願っています。何よりも、この本を通じて読者のみなさんが、責任あるAIをイノベーションの制約としてではなく、その最大の推進要因の1つとして捉えるようになることを願っています。
IBM AI倫理委員会 共同議長
フランチェスカ・ロッシ（Francesca Rossi）
IBMフェロー
AI倫理・ガバナンス担当グローバルリーダー
クリスティーナ・モンゴメリー（Christina Montgomery）
IBMチーフ・プライバシー＆トラスト・オフィサー
【目次】
【著者紹介】
本書籍は、日本アイ・ビー・エム株式会社（日本IBM）に在籍する、日本IBM AI倫理チームのメンバーと、技術コミュニティー（TEC-J）のAI倫理とガバナンス研究会で活動するメンバーとで執筆しました。
▼AI倫理チーム
山田 敦：AI倫理チーム・リーダー／データサイエンティスト／博士（工学）
立花 隆輝：東京基礎研究所 副所長／IBM Quantum クライアント・デリバリー・リード／博士（工学）
望月 朝香：AI倫理プロジェクト・マネージャー／ソフトウェア・エンジニア／修士（情報科学）
三保 友賀：イギリス法事務弁護士／ EU法修士
河津 宏美：データサイエンスサービス部門マネージャー／シニアデータサイエンティスト／博士（工学）
竹田 千恵：理事／AI Lab 推進事業部長
福田 剛志：研究開発担当 兼 東京基礎研究所 所長／博士（情報科学）
伊勢 文貴：アドバイザリーデータサイエンティスト／修士（工学）
武田 未果：政策渉外部長／修士（国際関係）
種村 紀子：シニアソフトウェアエンジニア／博士（理学）
●AI倫理とガバナンス研究会
天白 政樹：責任あるAIチーム・リーダー／データサイエンティスト
谷口 詩音：責任あるAIチーム 戦略コンサルタント／修士（国際関係）
劉 浩翔：責任あるAIチーム 戦略コンサルタント／修士 （工学）
伊藤 真理子：AIエージェント事業部 シニアコンサルタント
曹 夢頔：ハイブリッド・クラウド＆データ事業部 データサイエンティスト
外川 一記：ハイブリッド・クラウド＆データ事業部 シニアコンサルタント／修士（理学）
松木 友理恵：AIエージェント事業部 データサイエンティスト
矢野 心平：金融コンサルティング事業部 シニアコンサルタント