実は、Copilotは単純にLLMに入力を渡してその出力を返しているわけではなく、LLMに渡す前後に、前処理と後処理を行っています。これによって精度や安全性を高めたり、組織内のデータを活用したりすることができるのです。『Microsoft 365 Copilot活用大全』から抜粋・再編集して、Copilotの動作原理について深掘りします。
ステップ1 指示の入力（図中矢印①）
ExcelやPowerPoint、Teamsといった普段使っているアプリからCopilotへ指示を出す。Microsoft 365のアプリでは、リボンや画面上の分かりやすい位置にCopilotボタンが配置されており、どのアプリからでもシームレスに呼び出せる。望む応答を得るためには、適切な指示（プロンプト）が必要である。
ステップ2 プロンプトの修正（図中矢印②）
Copilotは、ユーザーが入力したプロンプトだけて応答を生成するわけではない。“グラウンディング（Grounding）”という処理で、社内ドキュメントなど、応答に必要な情報をプロンプトに付け加える。これにより、社内資料などを踏まえたうえで応答を生成できる可能性が高まる。つまり、あなたの置かれている状況や目的に即した、有益な回答が得られやすくなる。さらに、このプロセスによって“ハルシネーション（AIが事実に反する情報を生成すること）”のリスクも抑えられる。グラウンディングのプロセスの中で重要な役割を担っているのが、Microsoft Graphとセマンティックインデックスだ。Microsoft Graphによって、OutlookやTeams、SharePointといったMicrosoft 365のサービス間でデータ連携や操作が行われる。セマンティックインデックスは、非構造化データ（文章など）のベクトル化（数値形式への変換）という先進的な技術を利用して、データを意味・関連性・文脈の観点で捉えて検索可能な形に変換するものである。つまり、文書などの非構造化データを意味や文脈に基づいて検索可能にする技術だ。これにより、例えばファイル名に「売上」「報告」と含まれていなくても、「SalesReport2025.xlsx」や「RevenueSummary_Q1.docx」のような意味的に近いドキュメントを見つけられる。また、Microsoft 365 Copilotコネクタを使えば、自社オンプレミスや外部のSaaS／ファイル共有／Wiki／データベースなど、Microsoft 365外にあるデータもGraphに取り込める。取り込まれた情報はインデックス化され、Copilotが社内ナレッジとして統合的に検索・要約できるようになる。Microsoft Graphとセマンティックインデックスを活用することで、プロンプトに関連する社内情報を検索し、プロンプトに反映させたうえでLLMに渡す構造になっている。これが、より有用で正確な応答につながる。
ステップ3 応答の生成（図中矢印③④）
こうして修正されたプロンプトがLLMに渡され、応答のベースが生成される。LLMとは、大量のテキストデータから学習し、言語パターンをもとに理解や要約、生成を行うモデルを指す。チャットサービスであるChatGPTもその一例であり、Copilotで使われるモデル（例:GPT-4／GPT-5系など）もこのLLMである。ただし、Copilotの応答生成は単純な“文章生成”にとどまらない。内部的に複数のモデルやツールを使い分け、それらを統合する“オーケストレーション層”によって、状況に応じて最適な処理が行われる。例えば、最新情報の取得にはWeb検索モデルが使われ、コード生成や数値解析、翻訳、要約といった専門的処理にはそれぞれ特化したモデルが選ばれる。さらに、ExcelやLoop、Outlookなど、Copilotを呼び出したアプリケーションの特性に応じて、専用の推論エンジンが応答を“アクション可能な形”に変換する。例えば、Excelでは数式の生成や検証、PowerPointではスライド生成などが行える。単なる文章以上の、実用的なアウトプットを得られるようになっているのだ。このような進化により、Copilotは単なる“対話型AI”ではなく、ユーザーの働き方やアプリの文脈を理解し、必要な情報や動作を引き出す“生産性支援エンジン”になっている。
ステップ4 後処理（図中矢印⑤）
LLMが応答を生成したあと、そのままユーザーに返されるわけではない。まず、応答内容を補強するために、追加の検索が行われることがある。例えば、最初の応答案をもとにMicrosoft Graphを通じて関連情報を探し、応答の精度を高める。次に、応答内容が組織のデータと矛盾しないかをチェックし、もし矛盾があれば修正を加え、組織内のデータに整合した内容に近づける。その後、Azure OpenAI Service上で動作するCopilotが、データプライバシー、コンプライアンス、セキュリティの基準およびMicrosoftの責任あるAI原則（公平性／信頼性／安全性／プライバシー／透明性／説明責任）に基づいた自動チェックを行う。これによって、機密情報の漏洩や有害コンテンツの生成を防いでいる。最後に、応答は各アプリに応じて最適な形式に整形される。Wordなら文章構造を整え、Excelなら表として、PowerPointならスライド形式など、ユーザーがそのまま使える形で返される。
ステップ5 ユーザーへの応答（図中矢印⑥）
最終的な応答は、あなたが使っているアプリケーションの画面内にシームレスに表示される。その内容を“挿入”や“適用”を選ぶだけで、文書やシート、スライドに反映することもできる。エージェントモードであれば反映までCopilotが実施してくれる。あなたがCopilotを初めて使う場合、望んだ回答が一度では得られないかもしれない。しかし、プロンプトの工夫や、各アプリケーションに応じた使い方を覚えることで、徐々に自分に合ったCopilotの使い方が見えてくる。
本書は、Microsoft 365を業務で使い倒すための実践大全です。会議、資料作成、メール処理、データ分析、業務自動化――日々多岐にわたる業務で利用するMicrosoft 365を、Copilotとともに「最強のビジネス基盤」へと進化させます。
アクセンチュア Copilot利活用推進チーム（著）／日経BP／2750円（税込み）