その本の「はじめに」には、著者の「伝えたいこと」がギュッと詰め込まれています。この連載では毎日、おすすめ本の「はじめに」と「目次」をご紹介します。今日は日本IBM AI倫理チームの『 AIリスク教本 攻めのディフェンスで危機回避＆ビジネス加速 』です。
【はじめに】
本書は「企業においてAI（人工知能）活用を前進させるための適切なガードレールの引き方を解説した本」です。クルマが安全・快適に走れるように道路にガードレールを設置するのと同様に、AIに対しても適切なガードレールを用意する必要があります。そのための必要な知識と手法をまとめました。
AIやその活用にはリスクがあり、それをゼロにすることは極めて困難です。もしAIのリスクを完全にゼロにしたければ、AIを使わない（クルマに乗らない）選択をすればよいのでしょうが、それでは意味がありません。
AIのリスクを正しく理解し、1つひとつ適切な対策を行えば、ゼロにはできなくとも、リスクを回避したり低減させたりしながらAIプロジェクトを前に進められます。そのために企業は、必要な体制やプロセスを全社横断で整え、道具を準備する必要があります。これが本書で言う「AIリスクに対するガードレール」です。
AIの世界では今ものすごいことが起こっています。つい最近までAIの出力は、画像を解析して製品や設備が正常か異常かを判別する分類や、商品の需要などがどう変動するか数値で予測する用途などに使われていました。しかし米オープンAI（OpenAI）の「ChatGPT（チャットジーピーティー）」や英スタビリティーAI（Stability AI）の「Stable Diffusion（ステーブルディフュージョン）」、米ミッドジャーニー（Midjourney）の「Midjourney（ミッドジャーニー）」といったいわゆる生成AI（Generative AI）の登場が世界を一変させました。
生成AIはその名の通り、文章や画像といったコンテンツを、少しの指示を与えるだけで生成してくれたり、長い文章を適切に要約してくれたりします。しかも人間が創作したものと区別することが難しいくらい高い品質で生成できます。そのため、AIがまるで人間のように考えているのではないかと錯覚すらしてしまいそうです。
基礎的な知識を学び、高い品質の出力ができる生成AIの登場で、経営層から新入社員まで幅広い層がさまざまな用途にAIを利用するようになったことも、現在におけるAI利用の特徴です。AIで従来の仕事のやり方を大きく変えられるに違いないと、数多くの企業がAI活用を模索し始めています。今後AIをうまく活用した企業とそうでない企業との間で、競争力に大きな差が生まれるのは容易に想像できます。つまり今、企業とビジネスはAIによる大きな転換期にあるのです。
このようなAIの進化を「光」とすると、「影」の側面がAI活用に伴うリスクです。AIが広く使われるほどに、リスクは大きくなっていくからです。著作権やプライバシーの侵害、企業情報の漏洩、大量に作られる偽情報、偏見や悪意の増幅といった問題が既に起きていたり、予測されたりしています。AIがもたらすリスクで不利益を被る人が多数現れ、世界中で数多くの訴訟が起きているのも事実です。
難しいのはAIの進化によって「許容される／されない」の境目にある判断が難しいグレーゾーンの幅が広くなり、世界中が混乱状態に陥っています。
混乱した社会に秩序を取り戻すために、世界の主要国でAIに関する規制やガイドラインの策定が進んでいます。これらは、AIの開発や導入および利用に関わる関係者が果たすべき責任を明確化しようという取り組みですが、まだまだ発展途上で議論の行方も不確かな状況です。企業がAIを大きなビジネス価値に変えるためには、AIの光と影を理解した適切なガードレールが必要不可欠なのです。
本書の著者は日本IBM AI倫理チームです。このチームはIBMコーポレーションのグローバルなAI倫理委員会と常に連携しながら、日本IBMが毎日のように実施している「AIプロジェクトのリスク審査」を担っています。
このリスク審査ではリスクの指摘だけでなく、リスクを減ずる具体的な対策も提案します。AI倫理チームにはAIに関する各種の法律やガイドライン、プロジェクトのビジネス要求、AIの基礎技術やシステム全体の設計、利用可能なオープンソースやソフトウエア製品といった多岐にわたる知識と理解が求められます。そのためチームは法務部門に所属する弁護士から、日本のビジネスの現場でお客様と直接接するコンサルタントやエンジニア、基礎研究所のリーダー、技術営業まで多様なメンバーで構成されています。
本書には、AI倫理チームのメンバーの実際の経験と、100年以上にわたって「善き社会市民」としての責任を重視してきたIBMが蓄積したビジネスAIの知見が数多く含まれています。本書は、「企業の中でAIをどんどん使っていきたい。でもリスクが心配だ。具体的にどう対処すればよいのか知りたい」といった読者の疑問に答えるため、AIに具体的にどのようなリスクがあり、それにどのような対策を講じるべきかについて整理します。この理解と対策によって、企業はこの転換期をチャンスとして生かせるのです。
本書の構成は、まず1章で、AIリスクへの対策を怠るとどういう問題が起きるのかを伝えるために、企業がAIリスクにさらされる幾つかのシナリオを、架空の物語を通してお伝えしました。
2章では、特にここ数年のAIの目覚ましい進化で何が起きているか知り、またなぜAIのリスクが高まるのかを解説しました。AIリスクに備えなければいけない理由を理解できるはずです。
3章では、具体的なAIリスクの種類とそれぞれへの対処方法について、AIのサービスを提供する事業者や、従業員のAI活用を進めたい企業など関係者の立場に分けて整理しました。続く4章で、それぞれの関係者が取り得る対策を解説しました。場面やユースケース（利用例）、利用可能なソフトウエアの紹介も含めて、可能な限り具体的に説明するように心がけました。
5章はAIの規制・ガイドラインを解説しました。過去数年にわたって国内外において、どのような取り組みがなされ、今後どこに向かおうとしているのかも概観します。特に現在関心の高い、EU（欧州連合）のAI規則案（AIを包括的に規制する法律案）について紙幅を割きました。日本の動きにも触れました。
最後の6章では1章から5章までの内容を踏まえ、企業がいったいどういう行動を取るべきなのかをまとめました。
読者のみなさんが、AIリスクを正しく理解し、AIリスクに対応する適切な仕組みを自社に整備できること。その結果として日本市場におけるAIの信頼性が世界トップレベルとなり、日本企業の国際競争力が高まる。本書がみなさんのこの歩みの一助になれることを強く願っています。
2023年11月吉日
日本IBM AI倫理チーム一同
本書の発行に寄せて
（IBM AI倫理委員会 共同議長より）
IBMにおける信頼できるAIのルーツは、少なくとも部分的にはハーバード大学のラドクリフ研究所にあると言えるでしょう。当時同研究所に所属していたフランチェスカ・ロッシは、テクノロジーの詳細よりも、社会横断的に共鳴する大きな問いを投げかける学術フェローたちと一緒に学んでいました。そうした議論に参加し、翌年IBMに入社したロッシはIBMに社会的視点をもたらし、さまざまな部門から集まったIBM社員がAI倫理に関して議論するためのワーキンググループの創設に貢献しました。それが、AIの研究に焦点を当てていたIBMの基礎研究部門（IBMリサーチ）内において、IBMで初めてのAI倫理委員会の設立につながりました。
AIが進化するにつれIBMの経営層は、AI倫理委員会をIBMチーフ・プライバシー＆トラスト・オフィサーであるクリスティーナ・モンゴメリーが率いるチーフ・プライバシー・オフィスの下に移しました。モンゴメリーは、弁護士および取締役会のコーポレート・セクレタリー（事務部長）としての知見や法令対応業務での過去の経験があり、AI倫理委員会を事業部門の小さなグループから、データ、プライバシー、AIガバナンスに関するIBMの戦略を管理する全社的なビジネス機能に変革させました。
この再編成により、ロッシとモンゴメリーが共同議長を務めるAI倫理委員会は一段と強固なものとなりました。本委員会は、IBMの事業部および地域をまたいだリーダーから成るグループとして、IBMの原則と倫理に関する考え方をビジネスおよび製品開発における意思決定に浸透させる役割を担っています。本委員会は、一元化されたAIガバナンスと責任の明確化を推進する一方で、本委員会と事業部門の対話の機会を設け、それぞれの案件への柔軟な対応を行っています。
本委員会の重要な原動力の1つは、IBMの「信頼と透明性の原則」です。当社の会長兼最高経営責任者（CEO）であるアービンド・クリシュナは、「信頼が私たちの活動のライセンスです」と言っています。その信頼と透明性の原則は、AIを含む新しいテクノロジーをIBM全体で開発・導入する際に、倫理に厳格な企業文化を創造し、維持するための強固な基盤となっています。
誕生以来、AIは成長し続け、さまざまな業界のビジネス・プロセスで活用されるようになりました。ところが、2023年初頭の生成AIの台頭により、AIは転換点を迎えることになりました。AIの可能性について社会的な認知度が劇的に高まったと同時に、この強力なテクノロジーに対する懸念も同様に認知されるようになりました。IBMでは、信頼と透明性の原則という基盤、そして強力なAIガバナンスの枠組みがあったからこそ、AI倫理委員会は、生成AIの台頭によって増幅された懸念と新たな懸念の両方に対処するために必要な調整を迅速に行うことができました。
もしAIが責任を持って導入されなければ、社会全体におけるAIへの信頼の失墜や、イノベーションを阻害しかねない規制など、現実の世界に影響が及びます。テクノロジーの可能性を十分に発揮するために、企業はAIに対して責任を持っていることを世界に証明しなければならなりません。企業は、幾つかの活動を新たに始めることでそれを実現することができます。具体的には、戦略を主導する責務を持つAI倫理担当者を任命すること、AIガバナンスを一元化し、ガイドラインの実践を助けるAI倫理委員会または同様の組織を設置すること、継続的なコンプライアンス戦略の実行を助けるソフトウエアを選択することなどが含まれます。
IBMは1923年に、日本の商社と代理店契約を締結し、1937年に日本法人を設立して以来、日本における信頼できる事業者としてお客様のパートナーとなってきました。その信頼関係を継続したいという私たちの思いが、信頼され、説明責任を果たすAIの構築と導入の取り組みに表れています。本書が、IBMおよびそのお客様のみならず、日本のAI環境全体にとって重要な財産となることを祈っています。
IBM AI倫理委員会 共同議長
フランチェスカ・ロッシ（Francesca Rossi）
IBMフェロー
クリスティーナ・モンゴメリー（Christina Montgomery）
IBMチーフ・プライバシー＆トラスト・オフィサー
著者紹介
本書籍は、日本アイ・ビー・エム株式会社（日本IBM）に在籍する「日本IBM AI倫理チーム」の下記メンバー7名で執筆しました。日本IBM AI倫理チームは、IBM Corporationで2018年に発足し、全社のAIガバナンスを司ってきたAI倫理委員会の一翼として2022年に組織されました。サービスの事業部門、製品の事業部門、基礎研究および製品開発部門、そして法務部門と多彩なバックグラウンドと専門知識を有するメンバーで構成され、IBMが2018年以来積み重ねてきたAIリスクに対応するための知識と仕組みを継承し、社内外のAIプロジェクトへのAIリスク審査を中心に、AI倫理の啓発・普及活動など、AIの信頼性を高める活動を担っています。
執行役員 兼 技術理事、AIセンター長
日本IBMに入社し、東京基礎研究所にて、主に3次元形状処理の研究に従事。コンサルティング部門に異動後、2009年に新設された「先進的アナリティクスと最適化」チームのリーダーを務める。2017年よりIBM技術理事（Distinguished Engineer）。社内では日本のAI倫理チームのリーダーと、データサイエンティスト職のリーダーを務める。併せてデータサイエンティストとして、製造業、流通業、保険業などを対象にデータとAIを活用した業務変革を支援。博士（工学）。
シニア・テクニカル・スタッフ・メンバー
日本IBMに入社後、東京基礎研究所で音楽電子透かし、音声合成、音声認識の研究に従事。2014年から音声技術チームのマネージャー、2016年からは自然言語処理やその他の機械学習も含めてAI研究全体のマネージャーを務める。複数のWatson（ワトソン）製品の研究開発と応用プロジェクトに参加。2022年からは社長室に所属し、さまざまな部門横断的なプロジェクトの推進を行う。2023年よりwatsonx（ワトソンエックス） プロジェクト・マネージャー。博士（工学）。
ソフトウェア・エンジニア、AI 倫理プロジェクト・マネージャー
日本IBMに入社し、ソフトウェア開発研究所にてLotus（ロータス）製品の開発やサービス・デリバリーに従事。2016年よりグローバリゼーション技術にて、翻訳業務を支援・管理するシステムの開発・運用、グローバリゼーション情報を提供する社内ポータル・サイト作成・管理、教育コース企画・開発などに従事。 2023年より現職。修士（情報科学）。
カウンセル、トラスト＆コンプライアンス オフィサー 法務・知財・コンプライアンス
イギリスでロースクール卒業後、ソリシター（イギリス法事務弁護士）資格取得。イギリス大手法律事務所でアソシエイツとして勤務後に、日本に帰国。外資系金融機関の法務部でインハウスロイヤーとして、長年にわたり金融関連法務の経験を積む。2021年末に日本IBMに入社し現職。日本AI倫理チームでは、法務担当として主に案件審査や契約書へのアドバイスを担当。修士（EU法）。調理師。
シニアデータサイエンティスト
日本IBMに入社後、ハードウェア開発部門にてストレージのバックエンドサポートに従事。2014年にケニアの医療事情改善に向けたコンサルティング、データ分析のボランティアに参加。2015年にソフトウェアサービス部門に異動し、データサイエンスサービスのデリバリーに従事。特に運用まで考慮したAIモデルの開発・導入支援に注力。2023年にデータサイエンスサービス部門のマネージャーに着任。博士（工学）。
テクノロジー事業部 理事 データ＆AIテクニカルセールス統括部長 兼 watsonx（ワトソンエックス）GTM Japanリーダー
これまで製造・流通・金融など幅広い業界へAIビッグデータ領域を中心にITインフラ提案を実施する傍ら、IT技術者育成・交流のためのコミュニティーとしてMeetup（ミートアップ）を立ち上げオーガナイザーを務めてきた。現在は、データ・AI領域におけるソフトウェア・ソリューションを提案する技術者の組織、及び、生成AIによるビジネス創出のための共創プログラムを実施するグローバル組織の2つのチームをリードしている。
執行役員 東京基礎研究所 所長
日本IBMに入社し、東京基礎研究所にてデータベース、データ統合、データマイニング、バイオインフォマティクスなどの技術の研究に従事。2004年より大和ソフトウェア開発研究所にてデータベース関連ソフトウェア製品の開発に携わり、2012年ソフトウェア開発担当理事を経て2015年より現職。博士（情報科学）。
【目次】
