「AIに任せておけばいい」「AIを信じている」――本当にそれでいいのでしょうか？ChatGPTの登場によって生成AIブームが起こり、PCやスマホなどの端末を通してAIに触れることが当たり前になっています。ここでは、AIと人間との新しい関係の中で「では、我々はどう生きたらいいのか」を考察していきます。今回はAIが活躍するデジタル空間を「地形」と捉える視点から、現代のネット社会の支配構造を解説します。
「思考からの逃走」を続けると何が起こるか
2020年に『 思考からの逃走 』という本を書きました。大好きなパノプティコン建築（プレシディオ・モデーロ刑務所：別に収監されたいわけではありません）を書影にしたので、とても気に入っています。
書いていたのはコロナ禍のまっただ中で、それまで「先生、就職先を決めてください」と言ってきていた学生たちが、その判断を教員ではなくAIに委ね始めた様子を、導入のエピソードにしました。
あの本で伝えたかったことを一言でまとめると「意思決定の外部化」です。失敗が許されず、何もかもが可視化されるようになった社会では、小さな失敗で人生が詰むような感覚に陥ります。自分で決めて責任を負うことはあまりに高くつく。だから、自分より間違わなさそうな何かに判断を預けたくなるのです。
「他者に判断を預ける」なんて、昭和の教育ではあまりいいものとして教わりませんでしたが（今でもたぶんそうです）、個人の合理性から見るとむしろ自然で、皮肉なことに「いいとは思えないもの」のほうが、これからの社会を滑らかに回しそうだ、と予想し、一度外部化した機能を取り戻すのは至難だから、考えることをやめる、つまり、思考からの逃走を続けると私たち人間はあっという間に縮退していきますよ、という話で締めくくったのが、前作の『思考からの逃走』でした。
あれから数年が経ちました。前作の刊行は、ChatGPTが世に出る2年ほど前でした。「AIは人になれないが、AIに人を見いだす人は増え続ける」と書いたあのときは、もう少しのんびりした進歩を想像していましたが、外れるといいなと思っていた予想は、結果としてかなり当たり、変化のスピードはあっという間に加速しました。
今、誰のポケットにも、文章を書き、相談に乗り、慰めてくれるAIが入っています。
教室の風景も一段と変わりました。研究の構想がいいかどうか、学生はまずAIに聞きます。まあ、教員に聞くよりおっかなくないですし、機嫌によって言うことが違ったりもしないでしょう。しかも、構想そのものをAIに任せていることも多い。会社の会議でも「うちのAIはこう言っています」と持ち寄りますよね。学生だけの話ではありません。
誤解のないように書き添えておくと、「若年層がAIに飲み込まれている」といった警鐘をがんがん鳴らしたいわけではありません。どこまで機械に任せ、どこからを自分の手に残しておくかという判断は、彼らはとても上手です。無防備なのは、「わしが育てた」ご自慢のAIの見解を持ち寄って議論している私たち老人のほうかもしれません。
「思考からの逃走」の先に進んだ私たち
前作で取り上げた「思考からの逃走」は、その後、私が想像していた以上の速さで進みました。今、私たちはすでに「逃走の先」にいるように感じます。
ただ、問題は判断をAIに任せるかどうかだけではありません。自分で考え、選んでいるつもりのときも、何を目にし、どんな行動を取りやすいかは、私たちが使っているアプリケーションによって左右されています。あるアプリでは他人の足を引っ張りたくなり、別のアプリでは見たくもない他人の幸福に打ちのめされる。私たちは道具を使っているつもりで、その道具がつくる環境に、行動だけでなく感情まで引きずられているのかもしれません。
毎日、毎時間をそこで過ごす私たちにとって、アプリケーションはすでに「地形」のような存在になっていると考えます。ここでいう「地形」とは、人々の行動を方向づけ、利用者にも作り手にも簡単には変えられなくなった環境のことです。
今回は、デジタル社会の変遷を具体的にたどりながら、アプリケーションがどのように私たちの行動や選択を左右する「地形」になっていったのか、考えていきたいと思います。
アメリカの法学者、ローレンス・レッシグは、1999年に書いた著書『CODE』で、「Code is Law」、つまり、デジタル社会で人間の行動を促し規制しているのは、実はコードそのものであると提唱しました（ここでいうコードとはプログラムのことです）。
レッシグがそう言い切った理由は、従来の法律とコードの決定的な違いにあると考えます。 従来の法律や規範というものは、人間の意思で破ることが可能です。例えば「時速50kmを超えてはいけない」と法律で定められていても、アクセルを踏み込めば加速でき、時速50kmを超えたスピードで走ることができます。
一方、コードは、「してはいけない」と命じるのではなく、そもそも「できない」状態をつくることができます。例えば、あるSNSに書き込める文字数が140文字とプログラムされていたら、それ以上書きたいと思っても、その仕様の中では書くことはできない。違反した後に罰するのではなく、違反に当たる行動を、あらかじめできなくしてしまうのです。
また、コードは、ある行動をしやすくすることもできます。引用機能があれば、他人の発言を自分の仲間に見せ、批判することが容易になります。そうした行動が繰り返されるうちに、その場所の習慣にもなっていきます。つまり、現代のデジタル社会では、法律だけでなく、コード（プログラム）がどのように設計されているかということによって、私たちの行動や選択肢が規定されているというわけです。
レッシグが警鐘を鳴らしたのは、コードを通じて人々の行動を規制する、新しい権力のあり方でした。企業は、国家のような立法権を持たなくても、自らが設計するコードによって人々の行動を縛ることができます。さらに国家も、企業と結ぶことで、人々の行動を直接禁じる法律を新たにつくらなくても、企業のコードを通じて人々を縛れるようになります。コードを書く者こそが、その世界の立法者であり、世界を支配する王にもなりうる。レッシグが警告したのは、そういう新しい権力のあり方でした。
コードが人々の行動を規定するというレッシグの洞察は、今も色あせません。その上で、私が注目したいのは、そのコードを変更する権限を持つ側も、そこで営まれる社会を思いどおりには動かせないということです。
イーロン・マスクは、世界有数のSNSであるTwitter（現X）を買収しました。彼にはコードを書き換える権力も、実行する財力もありました。その時点で彼は、レッシグの言う「立法者」に近い力を手にしたとも言えます。コードが人々の行動を規定するなら、それを書き換える者は、その世界のあり方も自在に変えられるように思えます。しかし、コードを書き換えることと、その上に築かれた社会を思いどおりに変えることは、同じではありません。Xでは相変わらず罵声が飛び交い、炎上の焔（ほのお）は燃えさかり、人々は傷付け合っています。機能やルールを変えることはできても、そこに根づいた人々の習慣や関係まで、同じように書き換えられるわけではありません。
自分たちでつくり出し、書き換える権限も持っている世界なのに、なぜ思いどおりには動かせないのか。それは、コードによって生み出された世界に人々の営みが堆積し、作り手自身にも簡単には変えられない「地形」が生まれているからではないか。私は、コードがLaw（法）を超えて、Geography（地形）として機能していると考えました。
コードでつくられた場所に人間が住み着くと、その世界には固着性が生まれます。何百万という人の習慣や、積み上げてきた人間関係、そこで交わされた言葉や獲得した評価。そういったものが幾重にも堆積し、簡単には動かせない地層となっていく。運営者が仕様を変えようとしても、その地層をなかったことにはできません。自分たちでつくった世界を変えるにも、そこに暮らす人々の営みが重くのしかかるからです。変更によって、そこに集まった人々や彼らの活動が失われかねない以上、運営者も、技術的には可能な変更を自由に選べるわけではありません。
利用者にとっても、気に入らなければ別の場所へ移ればよい、と簡単には言えません。そこで築いた人間関係や評価まで、そっくり持ち出せるわけではないからです。私たちは、その場所で何がしやすく、何が難しいかを覚え、その形に行動を引きずられながら暮らしています。誰かが逐一命令しなくても、地形そのものが人の営みを方向づけています。「Law（法）」として書かれたコードが、人間の営みを取り込み、作り手にも利用者にも簡単には変えられない「Geography（地形）」に変質していくのです。
この連載では、「Code is Geography」という視座を導入して、私たちが暮らすデジタル空間を捉え直していきます。その地形は、私たちの行動や選択をどう方向づけているのか。そして、その影響から逃れられない私たちは、そこでどう生きていけばよいのかを考えていきたいと思います。