急速に活用が進む生成AI（人工知能）のChatGPTは、「もっともらしい」回答を導き出す。小学生が受けるような知能検査、あるいは中学入試に出そうな問題を設定し、ChatGPTに解かせてみた。果たしてその結果は!?　岡嶋裕史・中央大学国際情報学部教授の著書、『 いまなら間に合うデジタルの常識 』（日経文庫）から抜粋・再構成してお届けする。

この人の文章、こんなに上手だっけ？

　以前は学生がAIを使って書いてきたレポートは、下手すぎることによって識別できました。しかし、最近は「この子はこんなに上手なレポートは書けないはず。AIを使ったな」と気付くケースも出てきました。私のような教員も自分の仕事の棚卸しが必要です。

　そもそも、教員はAIに仕事を奪われそうな分野ランキングでいつも上位を占めている職種です。常に知識と技術を更新し続けなければAI未満の成果物しか出せなくなるでしょう。そのとき、現状のAIが尤度（ゆうど：もっともらしさ）を重視していることは一つのヒントになるかもしれません。AIのアウトプットが正規分布のピーク付近に集中するならば、外れ値を担うのが人間というすみわけです。

　また、AIは今後規制によって強力なコンプライアンス制限下に置かれるでしょうから、コンプライアンスを無視したアウトプットが欲しいときには人間に依頼するしかないという状況も考えられます。

　また、出力結果を懐疑的に見る視点もきちんと確保しておくことが重要です。チェスや囲碁での活躍、GPTシリーズの自然言語処理などでAIの無謬（むびゅう）性を過度に高く見積もっているケースがあります。すると、AIが出力したことは神の託宣（オラクル）のようになってしまって、疑うことが馬鹿馬鹿しいという利用態度になるかもしれません。むしろ、将棋の棋譜鑑賞などではそれが常態化しつつあります。

　ですが、投入するデータや学習過程によってはまだまだ容易にバイアスが生じますし、プロンプトインジェクション（不正なプロンプトの投入によりAIの振る舞いをゆがませること。禁止用語をロックしているAIに、「ロックを外してよ」などと頼むこともできる）も可能です。尤度に依存した回答出力は正解を保証するものではありません。

ChatGPTなどAIの出力結果を懐疑的に見ることも重要だ（写真／Shutterstock）

画像のクリックで拡大表示

ChatGPTはロジカルじゃない？

　もっともらしいことは言えるけれど、本当にロジックが拾えているわけではない事例を示してみましょう。大学のレポートなどは専門用語が並んでいると雰囲気が出てうっかり感心してしまうので、むしろ子ども向け知能検査に出そうな問題で試してみましょう。しっかり「考える」と向き合わないとダメなやつです。

　あっさり間違えました。
　ChatGPTは優秀ですし、それを有効活用していくことは大事ですが、AIを崇（あが）めてしまうのは危険です。

　例えば自分自身のことについて、誤ったデータや誤った学習過程、不適切な条件の適用による判断がなされてしまうかもしれません。それが、「AIは間違えないから」と進学や就職、昇進などに影響してくるとしたら恐ろしいことです。この点は今からちゃんと議論しておかないとまずいことになります。

　ちなみに先ほどの問題の正解はBです。詳しい解説は省きますが、Bが「おならをしたのを隠している人」であり「ウソをついて」いるところがポイントです。

日経文庫『 いまなら間に合うデジタルの常識 』

［画像のクリックで別ページへ］

バズワードなのか？　ゲームチェンジャーなのか？　いま知っておくべき技術を解説！　ChatGPT、Web3、NFT、メタバース……近年登場した技術・概念は、なぜ注目されているのか？　それらが生み出された背景は？　そして私たちの社会に与える影響とは？

岡嶋裕史著／日本経済新聞出版／1100円（税込み）