「生成AIに任せてよい仕事」と「生成AIには任せてはならない仕事」の境界線は、どこにあるのでしょうか？　そんな疑問を解き明かすのが2025年11月刊『その仕事、AIには無理です。』（髙木 裕仁著、日本経済新聞出版）です。ブレーンストーミング、ドキュメント要約、営業AIエージェント、メルマガ生成といった活用事例をもとに、新進気鋭のデータサイエンティストが生成AI・LLM（大規模言語モデル）の可能性と限界、ビジネス活用の注意点を解説。本書から一部を抜粋・再構成してお届けします。1回目は、「RAG」について。

「わかりません」と言えないAI

　生成AIは、多様で幅広い知識をもとに、ユーザーの質問に対して適切な回答を返してくれます。その知識の範囲は、日常生活に関する雑学的な情報から、学術的に高度な理論、さらには一部の専門家しか知らないようなマニアックな分野にまで及ぶこともあります。

　しかし、そんな生成AIにも明確な限界が存在します。それは、「知らないことには正しく答えられない」という、極めて基本的かつ重要な原則です。生成AIは、あらかじめ与えられた膨大な学習データに基づいて構築されており、その知識の範囲は、モデルが学習した時点までの情報に限定されています。

　つまり、「学習していないこと＝知らないこと」であり、人間のように後からニュースを読んだり、誰かに教わったりして知識を増やすことは、AI自身の力ではできないのです。

　たとえば、まったく知識のない分野について、友人から質問されたとしたらどうでしょうか。多くの方は、「わからない」「それは知らない」と正直に答えるはずです。

　中には、無理に答えようとして、あやふやな知識を頼りに、それらしくもっともらしいことを言ってしまう人もいるかもしれません。生成AIでもこれとよく似た現象が起こるのです。

　生成AIは、学習していない事柄について質問されたとき、本来であれば「わかりません」と答えるべきですが、そうならないことがあります。代わりに、過去に学んだ似たような事例や関連する単語・概念をもとに、それらしく推測を行い、「いかにも正しそうな」回答を生成してしまうのです。これはまさに、人間が十分に知らないことに対して知ったかぶりで答えるような構造と酷似しています。

　こうして生まれるもっともらしい誤答は、生成AIの利便性が高まる一方で、その信頼性に対する不安を引き起こす要因にもなっています。特に、医療や法律、ビジネスなど、正確さが非常に重視される分野では、AIが自信たっぷりに間違った内容を提示することが、大きなリスクにつながりかねません。

回答を生成する前に必要な情報を外部から取得する。それがRAG（Harmony vine／stock.adobe.com）

画像のクリックで拡大表示

「調べてから答える」仕組み

　半自動的に必要な情報を補いながら生成を行う仕組みとして注目されているのが、「RAG（Retrieval-Augmented Generation：検索拡張生成）」です。RAGとは、生成AIが回答を生成する直前に外部の情報ソースを検索し、その結果をもとに出力を行うという技術です。つまり、モデルが「知っていること」だけで答えるのではなく、「知らないことは調べてから答える」といった、人間に近い振る舞いが可能になるのです。

　RAGが提供するプロセスは、おおむね次のように段階的に構成されています。

　RAGの最大の特長は、「回答を生成する前に必要な情報を外部から取得する」という点です。従来の生成AIは、あくまでも過去の学習データ、つまり「記憶」に依存して応答していました。しかしRAGは、リアルタイムで情報を検索・取得し、その内容を踏まえて回答を構築します。このプロセスは、人間が知らないことに直面したときに、資料やインターネットを使って調べたうえで答えるという流れに非常によく似ています。言い換えれば、RAGは生成AIに「調査力」を与える仕組みであり、知識のカバー範囲と正確性を飛躍的に高める技術なのです。

　このRAGの導入によって、生成AIが本来苦手としていた2つの課題を補うことが可能になります。それが、「知識の鮮度不足」と「根拠の不透明さ」です。

　多くの生成AIモデルは、学習時点の情報しか持っていないため、最新の出来事に対応することができません。知識の鮮度がないのです。たとえば、「2025年現在の最低賃金はいくらか？」といった質問に対して、モデルが2023年時点のデータで回答してしまえば、誤答の可能性が高くなります。RAGは、こうした状況において質問の直前に最新情報を取得し、タイムリーで正確な回答を生成することができます。特に、法制度の変更、経済指標の更新、災害情報、商品価格など、情報の更新頻度が高い分野で大きな力を発揮します。

　もうひとつの問題は、生成AIがなぜその回答に至ったのかが見えにくいという、根拠の不透明さです。多くのAIはブラックボックス的に構築されており、ユーザーが出力内容の根拠を確認できないという課題があります。しかし、RAGでは検索に使用した情報ソースをそのまま提示することが可能です。たとえば、「この回答は経済産業省の公式ガイドラインに基づいています」といった出典を添えることで、ユーザーがその信頼性を自ら確認できるようになります。これは、ビジネス判断、法務判断、学術研究など、正確性と根拠が求められる領域において特に有効です。

　このように、RAGによって得られる価値は、「鮮度の高い知識」と「信頼できる根拠」という、生成AIが本来苦手としていた領域を大きく補うものです。

『 その仕事、AIには無理です。 』

［画像のクリックで別ページへ］

「生成AIに任せてよい仕事」と「生成AIには任せてはならない仕事」の境界線は、どこにあるのでしょうか？　ブレーンストーミング、ドキュメント要約、営業AIエージェント、メルマガ生成といった活用事例をもとに、新進気鋭のデータサイエンティストが生成AI・LLM（大規模言語モデル）の可能性と限界、ビジネス活用の注意点を解き明かします。

髙木裕仁著／日本経済新聞出版／2200円（税込）