知っておきたい今井むつみさんの認知科学の広くて深い世界を、体系的に学べるように、えりすぐってお届けしていきます。このパートでは、2024年11月の新刊『 AIにはない「思考力」の身につけ方 ことばの学びはなぜ大切なのか？ 』（今井むつみ著、ちくまQブックス）を抜粋して、今井さんが10代の読者に今、伝えたいことを紹介します。3回目は、「AIを使う前に考えてほしいこと」についてです。
「答えがひとつでラクチン」が危険な理由
生成AIが知性に悪影響を与えかねないのは、これまで活用されてきた検索とは大きな違いがあるからです。
検索ではさまざまな参照先が示されるのに対し、生成AIで示される答えは「ひとつ」のベストアンサーが提示されることがほとんどです。検索エンジンは順位付けするにせよ、答えを示すわけではありません。しかし、生成AIはバシッとひとつの答えを示してくれます。ここに情報を見比べたり、選んだりという思考の働きはうまれません。
さらにまずいことには、たったひとつのこの答えが、間違っている危険性もあります。これは分数の問題で見てきたとおりです。ですから、現在ビジネスの場面で生成AIを使っている人たちは、自分がよく知っている分野に限ってこの機能を利用しています。知らないことを知るための検索機能としては、使っていないのです。
例えば生成AIは、プログラミングが得意です。かなりいい精度のプログラムを書くといいます。ただ、これをプログラミングを知らない素人が使うと、どこが間違っているのかがまったくわかりません。熟練したプログラマーは、そんなふうには生成AIを使いません。たたき台を生成AIにつくらせ、最後は必ず自分で目を通し、間違いを修正し仕上げているのです。
みなさんはもしかすると、生成AIを探究学習などに利用しているかもしれません。しかし、調べることを目的とした生成AIの利用には細心の注意が必要です。知らないことを生成AIだけで調べることはおすすめできません。
外部装置に頼ることで、「考える力」が失われる
私が一番危惧しているのは、生成AIの性能の良し悪しではなく、学ぶみなさんのマインドの方です。幼いうちから生成AIを使うことで、「生成AIに聞けばいい」というマインドが育ってしまうことを心配しています。
それは、自分で考えないということだからです。
「考える力」というのは、複雑な脳の働きを必要とします。
脳に記憶されている必要な知識に素早くアクセスしてそこに注意を向け、不必要な情報からは注意をそらします。そして絞り込んだ知識を使って、さまざまな推論をしていきます。このような過程を経てはじめて、問題の解決ができる。
考えるというのは、とても複雑な脳の働きなのです。
しかし、生成AIなどの外部装置に答えを出してもらうのが当たり前になると、私たちは考えなくなり、また、考えることができなくなってしまいます。考えるということには、地道な訓練が必要だからです。
以前、あるホテルで宅急便を出したときのことです。
1500円の送料を「現金でお願いします」と言われました。あいにく細かいお金がなかったので、1万円札を担当の若い従業員に手渡しました。1500円だから、おつりは8500円です。暗算でできる範囲の計算ですよね。しかしその方は、その計算をスマホでした後、1万円を超えるおつりをトレーに載せました。私はつい、「1万円より多いですよ。1500円の代金で、1万円より多かったらおかしいって思いません？」と聞いてしまいました。するとその方は、もう一度スマホで計算をし直し、「間違えました」と言って8500円をトレーに置きました。この「もう一度スマホで計算する」という様子に、私は不安を覚えました。
「計算はスマホでするもの」と思い込んでいる（もしくは会社から指示されている）のかもしれません。実はこのようなことがあったのは、一度ではありません。「スマホで計算したほうが間違いがないのでは？」と思う方もいるかもしれませんが、打ち間違いをしないという保証はありません（現に打ち間違えで多くのおつりをくれようとしたのですから）。
計算も考える力のひとつです。自分の頭ではなく外部装置に完全に頼っていると、その機能は失われてしまいます。みなさんは脳の体操だと思って、身近なお金の計算は暗算をするようにしましょう。
なぜ自分で考えないといけないのか？
考えることも、ある種の習慣です。
考えることをやめてしまうと、答えはどこか自分の外にあると思うようになります。自分が作り出すものではなく、生成AIに聞いたら出てくるもの、スマホで計算をしたら出てくるものと思うようになるのです。このような人にとって、正解は「たったひとつ」です。なぜなら生成AIもスマホの計算機も、常にひとつの答えしか提示しないからです。
ただ物事の答えというのは、たいていの場合グレーなものです。白黒つけられるもののほうが少ない。だから私たちは考えるのです。