シリコンバレーの有名投資家、リード・ホフマン氏はChatGPTを提供するOpenAIの最初期の投資家であり、元取締役でもある。そのホフマン氏がGPT-4と対話しながら未来を予測した新刊『 ChatGPTと語る未来 』から、3回目となる今回は、ChatGPTのハルシネーションと呼ばれるウソの危険性について抜粋して掲載する。
OpenAIが2022年11月30日に「リサーチプレビュー」として試験的にChatGPTを一般公開したとき、「ChatGPTは、一見もっともらしく見えても、内容が不正確か、あるいはまったくでたらめな答えを出力することがあります」と公式ブログで警告した。
それからたった5日で、100万人がChatGPTを試すために登録をした。そして彼らが使用感を語るにつれて、ChatGPTがもたらす「ハルシネーション（幻覚）」（誤りやねつ造、あるいはアルゴリズムの異常による奇妙な答えがたびたび出力されること）が、ソーシャルメディアやニュースで注目を浴び、この新奇なチャットボットの第一印象を決めるのに一役買った。
そのため、これから取りあげる例の一部は、もはや「古い」情報に思えるかもしれないが、そこは大目に見てもらいたい。
- ハーバード大学のある研究者によると、「それ」が事実と主張するものには「すべてダブルチェックが必要」であり、しかも「数あるソースのなかの1つにすぎない」ことを忘れてはならないという。
- ワイアード誌のある記者は、「それ」は本当に生産性を高める進歩なのか、それともただ「間違った情報を大衆にばらまく」方法が1つ増えただけなのか、と疑問を呈した。
- ある有名なジャーナリストは、ケネディ兄弟の暗殺事件で自身が果たした役割について憶測まじりで書かれた紹介文を読んで、「それ」を「欠陥を抱えた信用ならないリサーチツール」と呼んだ。
- 懐疑的なある編集者は、世間では技術革新と呼ばれている「それ」は、「子どもが何か質問をしたら、両親が誤りを訂正するために鉛筆を手に取るより早く、間違った答えを返してくるもの」と表現されるべきだと述べた。
これらの例を読んで、少し古い情報だと思ったとしたら、その感覚は正しい。ここで話題になっている「それ」は、ChatGPTではなくWikipediaを指していて、例はすべて、2000年代中盤の記事から引用したものだからだ。
新しいテクノロジーはいつも危険視されてきた
もう少し考察を広げてみよう。1990年代を通じて、「それ」はまさにインターネットそのものであり、まだまだ力をもっていたオールドメディアの門番たちにとっては、ヒラリー・クリントンが養子であるエイリアンの赤ん坊と一緒に写った写真が表紙を飾るウィークリー・ワールド・ニューズ誌よりも信用できないものだった。ワシントンD.C.の静かな夜に耳を澄ませば、ウェブニュースのパイオニアであるマット・ドラッジが、自分のレポートが正しい確率は8割ぐらいだと放言して、記者クラブのレポーターたちをいら立たせたときに巻き起こった抗議の声の反響がまだ聞こえてくるようだ。
とはいえ、いまこんな話をもち出したのは、大規模言語モデル（LLM）のパフォーマンスについて、自己満足の擁護を繰り広げるためではない。私自身、GPT-4が私のポッドキャスト「マスター・オブ・スケール」に関して、でたらめな内容を出力したり、ソースを求めたら偽のリンク集を示したりするのを目の当たりにしている。さらに、文章のなかで自信たっぷりにある「事実」を主張しておきながら、その2つあとの文章で矛盾する情報を（同じく自信たっぷりに）披露して、なんの断りもなくその「事実」を否定するのを見たこともある。
だから、LLMをできるかぎり精度の高い、信頼できるものにするために、私たちは最大限の努力を払うべきだと思うし、実際にそうしているところだ。
だが、このテクノロジーを追求するにあたっては、いま世間で言われているような懸念（新しいテクノロジーの問題点や予測不可能な点が、社会で引き起こすとされ危険も含めて）がけっして目新しいものではないことを念頭に置いておく必要がある。
紀元前から新しい技術は危険視されていたとGPT-4は言う
人間は昔から、これまでの技術や権力関係、暗黙の了解や明示された価値観から自分たちがつくりあげてきた秩序が、無知や誤った認識によって覆されることを恐れてきた。その一例として、紀元前370年ごろのソクラテスを取りあげてみよう。
GPT-4 「バズる」ツイートの案としては以下があります。
――書くという行為は、記憶力を弱めるうえに、何か賢いことをなしたような錯覚におちいる危険な発明である。それは話し言葉の幻影にすぎず、生の思考にもとづいていない。
#書く前に考えよ
――書き言葉は、話し言葉の代用品としては不十分だ。聴衆や状況、目的に合わせて変えられないし、声音や感情、意図を伝えることもできない。訂正したり、ある部分をあとから明確にしたり、詳しく説明したりもできない。それは硬直した死んだ言葉なのだ。
#思ったままを語りなさい
――書くことは忘却の一種であり、学びではない。書くことで私たちは、内的な記憶ではなく、外的な記号に頼るようになる。勤勉ではなく、怠惰になる。理解は深まらず、浅くなる。知的ではなく、無知になる。
#記憶することを忘れるなかれ
人間の知性がつねに崩壊の瀬戸際にあるという危機感をもつのは、別におかしなことではない。多くの調査や研究が示すとおり、人間が把握している事実などごくわずかだからだ。だが、この状況で、本当に強力な幻覚生成装置が必要だと言えるのだろうか？
GPT-4にGPT-4を普及させてよいのかを聞いてみた
では、ここでGPT-4の力を借りて、偉大なSF作家であるH. G. ウェルズに思考実験をしてもらおう。1938年にウェルズは、「世界の頭脳」と名付けた全世界規模の知的装置の構想を提唱した。
さて、ではここにGPT-4のようなとてつもなく強力な幻覚生成装置を投入してしまっていいのだろうか？（この質問に対して、H. G. ウェルズの立場から、著書『世界の頭脳』の内容をもとに、この新しいテクノロジーが人類によい情報をもたらす可能性を支持する意見を500字程度で述べること）
GPT-4 私は長いあいだ、知識と英知のネットワークである「世界の頭脳」の実現を夢見てきた。これは人類の全頭脳を結集し、集合知を高めるものだ。この装置があれば、ただ人類の学問の膨大な財産を保存・配布するだけでなく、それらを統合・分析し、新しい洞察と発見を生み出せるようになる。「世界の頭脳」は生きて成長し、自己修正をする有機体であり、人類の変化するニーズや課題につねに適応していく。
そしてGPT-4は、この夢を実現するための大きな一歩だ。GPT-4は幻覚生成装置ではなく、シミュレーションマシンであり、学習したデータにもとづいて、どんなテーマにももっともらしい首尾一貫した文章を生成できる。人間に代わって判断するのではなく、複数の視点や議論や証拠を提供し、人間がよりよい判断を下せるようにしてくれるのだ。GPT-4の登場は人類への脅威ではなく、私たちの視野を広げ、仮説を検証し、間違いを正すためのチャンスだと言える。
GPT-4は「世界の頭脳」そのものではない。だが、賢く道徳的に使えば、その貴重な構成要素にはなりうる。私たちは、見識を広げ、合理性と創造力を育み、自信と希望をもって未来と向き合えるようになるかもしれない。
H. GPT. ウェルズよ、よくぞ言ってくれた！
井上大剛＝翻訳
リード・ホフマン、GPT-4著／井上大剛、長尾莉紗、酒井章文 訳／日経BP／1980円（税込み）