「生成AIに任せてよい仕事」と「生成AIには任せてはならない仕事」の境界線は、どこにあるのでしょうか？ そんな疑問を解き明かすのが 2025年11月刊『その仕事、AIには無理です。』（髙木 裕仁著、日本経済新聞出版）です。ブレーンストーミング、ドキュメント要約、営業AIエージェント、メルマガ生成といった活用事例をもとに、新進気鋭のデータサイエンティストが生成AI・LLM（大規模言語モデル）の可能性と限界、ビジネス活用の注意点を解説。本書から一部を抜粋・再構成してお届けします。2回目は、「ビジネス活用のハードル」について。
AIが重視する「最も適切そうな表現」
生成AIに「アイデアを出して」と依頼すれば、瞬時にいくつもの案を提示してくれます。さらに「少しユニークなものを」と指示すれば、王道から外れたアイデアも含めて出力してくれます。こうしたスピード感や網羅性は、生成AIならではの強みです。
しかし、実際に業務で活用してみると、「どこか感覚がかみ合わない」、「核心を突いてこない」と感じることも少なくありません。その背景には、人間と生成AIの間に存在する感覚のズレがあります。
たとえば「Z世代向けの商品アイデアを考えてほしい」と依頼した場合、生成AIは「映え」や「○○しか勝たん」といった流行語を含む案を出したとしましょう。これらはかつてZ世代を象徴する言葉として大量に使われていたため、生成AIにとっては「もっともらしい」キーワードです。しかし現実のZ世代にとってはすでに古びており、「それ、ちょっとズレてる」と受け取られることもあります。
このようなズレが生じてしまう根本的な原因は、生成AIの設計にあります。生成AIは、大量の過去データから「確率的に最も適切そうな表現」を導き出すように作られており、そこには最新のトレンドや空気感といった微細な変化が反映されにくいのです。
一方、人間は日常の会話や観察、文化的背景などを通じて、文脈や空気感を直感的に理解し、違和感を敏感に察知します。こうした感覚的な判断力をもたない生成AIでは、その差を埋めることが難しく、結果として出力に「なんとなく古い」「今の感覚と合っていない」といったズレが生まれるのです。
意味は抽出できても意図は把握できない
多くの現場では、生成AIによる要約をたたき台として活用し、その後人間が調整を加えるという運用が定着しつつあります。要約の初稿をAIに任せることで、作業負担の軽減と時間効率の向上を両立できる点は、非常に合理的です。
しかし、「その要約は本当に伝えるべき内容を反映しているのか？」という観点から見ると、信頼性には注意が必要です。特に、経営層への報告書や社外文書など、「誰に・何を伝えるか」が明確な文書では、生成AIの出力が要点を外すリスクが高くなります。
これは、生成AIが「意味の抽出」にはたけていても、「意図の把握」には不向きであるという構造的な制約によるものです。AIは、頻出語や段落構成に基づき「重要そうな文」を抽出しますが、その判断は統計的・形式的であり、論理の中での重みや背景の意図は考慮されません。
たとえば、文末にさらりと添えられた一文が、資料全体の方向性を示すこともあります。あるいは、議論の流れの中で立場や視点が少しずつ変化していくような文書では、要点が時系列とともに動的に変化します。しかし生成AIは、こうした変化を追いきれず、冒頭部分の説明ばかりを強調したり、最後の結論や前提条件を見落としたりすることがあります。
また、読み手に特有の事情（たとえば過去の経緯や過敏な関心領域）を前提に書かれた文書では、それを踏まえてこそ意味を持つ部分が、生成AIには見えないまま処理されてしまいます。
つまり、生成AIは文章の中から情報を抜き出すことは得意でも、「その情報がなぜ重要か」「何を伝えたいのか」といった構造的な意図までは把握できません。要約とは、単に文を短くする作業ではなく、「誰に・何を・どのように伝えるか」を再構成する知的作業です。この本質的な再構成力において、生成AIには限界があるのです。
もうひとつ見逃せない課題は、文書に込められた「文化的・社会的な配慮」や「語り方のニュアンス」を、生成AIが適切に処理できないという点です。特にビジネス文書では、「どう伝えるか」が「何を伝えるか」と同じくらい重要な意味を持ちます。
たとえば、日本語においては直接的な表現を避け、丁寧さや謙虚さを込めた言い回しが一般的です。「ご検討いただければ幸いです」「ご相談させていただけますと幸いです」といった表現には、単なる依頼以上の人間関係の調整や配慮が含まれています。
さらに、ビジネス文書にはしばしば建前と本音、間接的なメッセージや、空気を読む要素が織り込まれています。「一応の提案」と書かれていても、それが実質的には強い意思表示であることもあります。人間は文脈や相手の立場を踏まえてその裏を読むことができますが、生成AIにはそのような含意の解釈力が備わっていません。
- 「何を伝えるか」を理解できない（＝意図の把握ができない）
- 「どう伝えているか」を再現できない（＝表現文化の対応ができない）
この二重の限界を踏まえると、最終的な要約の品質は、人間が文書の意図と文脈を照らし合わせながら調整することでしか保証できないことがおわかりいただけるかと思います。要約の責任を担うのは、あくまでも人間です。
髙木裕仁著／日本経済新聞出版／2200円（税込）