「伝わらない」悩みを抱える人がますます増える一方、生成AI（人工知能）は日々進化を続けています。AI時代のコミュニケーションの本質や人間はどのように自らを磨くべきかについて、『 「何回説明しても伝わらない」はなぜ起こるのか？ 』の著者、今井むつみさんに聞きました。
<前編「 今井むつみ 「説明しても伝わらない」のは「9歳の壁」と同じ 」から読む>ビジネスの場面でも、子どもの教育の場面でも生成AI（人工知能）や対話型AIが活用されるシーンが増えていることを、どう見ていますか？
AIは「記号接地」していません。一つ一つの言葉（記号）の意味を分かっている訳ではなく、理解していない言葉をやはり意味を理解していない別の言葉に置き換えているのです。AIの中では、単語が経験や感覚に対応していない、つまり身体感覚に「接地していない」のです。記号接地しないというのは、単語一つ一つの意味を考えないということです。しかし、意味を考えているふりはできる。そして、そのふりがどんどんうまくなっている。それが本当に恐ろしいなと思います。
人には流暢性バイアスという思考バイアスがあります。流暢に言われると、全く辻つまが合っていなくても信じてしまう。だから古今東西、中身がどうであれ演説がうまい人が政治を牛耳ったりしてきたわけです。そして対話型AIは、間違った答えを返すことが頻繁にありますが、あまりに流暢に堂々と言うから気づきにくいのです。
私が小中学生用に自分で作った問題、例えば「2分の1と3分の1ではどちらが大きいですか」と対話型AIに聞いてみたところ、途中までは部分的に正しいことを言うのです。ただ、最後に統合して正しい結論を出せない。「分子が同じだったら分母が大きいほど、分数は小さくなります」と、そこまではいいのに、「だから2分の1の方が小さい」という結論を出していました。
対話型AIが出すアウトプットに対して、自分で判断できるのであれば活用を取捨選択できますが、教育課程にある子どもたちが無防備に使ったら、もっともらしいその答えを信じてしまいますよね。だから子どもの教育に、対話型AIを使うことには強い危機感を抱いています。
慶応義塾大学環境情報学部教授
対話型AIは考えているふりは得意。では、どんなことが苦手なのでしょうか？
5月に日本経済新聞で面白い連載記事がありました。「AI、東大入試に挑む」というもので、記者さんが今年の東大2次試験を対話型AI「ChatGPT」に解かせてみたのですね。英語は8割ぐらいできて合格ラインよりもかなり上だった。でも、数学は1点、物理は5点でした。
東大の2次試験に、公式を丸暗記しておいたら答えられるような問題は出ないわけです。問題を読んだら、どの解法でどう答えに向かっていけばいいか、直観的に道筋をつかんで、その道筋に従って詰めていくことができないと時間内に解くことは難しい。しかし、ChatGPTのようなAIは、直観的に道筋をつかむことは一番苦手なことですし、多分これからもできないだろうと思います。
AIは記号接地していない＝意味を考えないですから、データの海を漂流して、データの確率的なパターンを抽出することは、ものすごくうまいし、人間にはできないことです。しかし、そこから意味をくみ取るとか、直観的に捉えるといったことはしないし、できない。
データから出した確率的なパターンと、人が意味や状況をくみ取り直観的に捉えることとでは、大きな違いがあるわけですね？
本の中でも紹介しているのですが、『ハドソン川の奇跡』という映画をご存じでしょうか。2009年1月に起きた実際の飛行機事故を基にした映画です。
離陸直後、野鳥の群れにぶつかって両翼のエンジンが停止。事故が起きたとき、機長は、「近くの空港に緊急着陸する」という管制官の提案を退け、自身の直観に従って、ハドソン川に不時着水するという行動を取りました。わずか208秒ほどのことだったといいます。後日、事故調査委員会から、コンピューターでシミュレーションすると、空港に緊急着陸が可能だったと疑念が提示されるのですが、機長は、そのシミュレーションは、緊急事態に遭遇した人間が状況把握に必要とする時間や葛藤、判断のプロセスを考慮していないと指摘します。実際、事故に遭遇した機長と管制官が試行錯誤する時間を「35秒」とカウントしてシミュレーションすると、緊急着陸を試みても市街地や森に墜落するという結果でした。
機長は元空軍で戦闘機「ファントム」の操縦を経験し、その後、民間のパイロットを長年務めてきた超一流のパイロットだったといいます。150人を超す乗客乗員全員の命が助かるという「奇跡」を可能にしたのは、膨大なデータに基づくシミュレーションではなく、機長の直感だったのです。
この「意味」と「直観」こそが、人が何かを学び熟達していく上で、大変重要な要素なのです。
瞬時の判断は、そのような特殊な状況下でなくても、求められるものでしょうか？
私が心に残っているのは、20世紀の巨匠といわれたピアニスト、スヴャトスラフ・リヒテルが残した言葉です。「自分が弾きたいと思う曲を弾けるようになるか疑念を持つことはありましたが、それぞれの曲の弾き方については、これはこう弾くべきであって他の弾き方はないという確信をはじめからもっていました」 （『リヒテル』 ブリューノ・モンサンジョン著、中地義和・鈴木圭介訳／筑摩書房）
弾けるかどうかはテクニックの問題もあるから、そこに向かって練習はするわけですが、どう弾くかに対して迷ったことはない。それは恐らく将棋の大局観と同じなのでしょう。本当に一流の人には直観的に到達点、あるべき姿が見えているから、それに向かってどうしたらいいかを考えることができるし、それに向かって努力することもできる。
仕事の場面でも、大量の報告書類の中から、「この数字、おかしくないか？」と気づく人がいませんか？ 限られた時間の中で膨大な量の数字を精査することは不可能でも、この内容はおかしいのではないか、この数字はチェックしなければならないのではないか、ということが直観的に分かる。そうしたビジネスの熟達者は、全体を俯瞰（ふかん）して、問題の意味を直観で捉えているのでしょう。いくらAIに接していても、そうした大局観や生きた知識、直観の習得にはつながりません。
人間の強みである直観は、どうしたら習得できると思いますか？
例えば、スポーツの世界では、サッカーでは誰にパスをするか、テニスでどちらにどんなスピードで打ち返すか、プレーヤーが瞬時に判断します。それだけ練習を重ねているということですよね、漫然と練習しているだけでなく、そのときそのときにどうするのが一番良かったのか、自分はこうしたけれどもそれよりもいいやり方がなかったのかと徹底的に考え抜く。データ野球とかいろいろ言われますが、練習のときにそれをしているから本番でできるわけです。
直観は天から降ってくるものではなく、そこに向かってたゆまず考え抜かれた訓練(deliberate practice)＊を続けるなかで手に入れるものです。超一流の達人の持つ直観は、生きた知識の究極の形で、AIには持つことができないものです。人間の学びとはこのように真剣で考え抜かれた長時間の訓練の結果、優れた直観を磨いていく過程に他ならないのです。
取材・文／中城邦子 構成／市川史樹（日経BOOKプラス） 写真／山本琢磨