「AIに任せておけばいい」「AIを信じている」――本当にそれでいいのでしょうか?ChatGPTの登場によって生成AIブームが起こり、PCやスマホなどの端末を通してAIに触れることがあたりまえになっています。本連載では、AIと人間との新しい関係の中で「では、我々はどう生きたらいいのか」を考察していきます。第2回は「AIに正義を外注すること」がテーマです。

写真:VK Studio/stock.adobe.com
写真:VK Studio/stock.adobe.com

コンテンツの「検閲」は法からAIへ

 「検閲」。嫌な響きです。私は幼稚園時代から50の坂を越え今に至るまで、堂々と生きてきた時期はないので、不可避的に身構えてしまいます。伏せ字、発禁処分、密告制度……学校で習った「検閲」も、いつも権力が上から押しつけてくるものでした。表現の自由の敵で、抵抗すべき対象だと体が覚えてしまっています。

 でも、今進行しているAIによる検閲に対して、私たちはほとんど抵抗していません。むしろ、もろ手を挙げて歓迎している感さえあります。なお、「検閲」はこの回のキーワードになるので、意味の輪郭をしっかりさせておきたいと思います。ここでは、法律上の用法ではなく、投稿の削除や表示制限を含む広い意味で「検閲」を使っています。

 SNSに投稿した文章がAIの判定で削除されても、多くの人は「引っかかっちゃったかー」で受け流します。自動車を運転していてスピード違反をやらかした、そのとき自動取締装置に撮られた感覚に似ています。腹は立つけれども、制度そのものに異議を唱えることはありません。「自分にとって不快な投稿をもっと消してくれ」「誹謗中傷を野放しにするな」と、検閲の強化を求める声のほうが大きく聞こえてくることすらあります。

 これまで検閲は供給側、すなわち「検閲する側」の都合で行われるのが常でした。例えば権力者が自分に都合の悪い情報の流通を止める、といったことです。これがある意味で検閲の基本形でしょう。

 ただし、「検閲する側」の顔ぶれは少しずつ入れ替わってきています。20世紀までの検閲官が国家だったとすれば、インターネット以降の検閲官はプラットフォーム企業になりました。

 誹謗中傷を苦にした痛ましい事件が起こるにつれて侮辱罪が厳罰化され、コメントや動画を扱う大規模プラットフォームに削除申出への対応の迅速化と運用状況の透明化を義務づける「情報流通プラットフォーム対処法」(情プラ法)も作られました。世論はこれを規制の行き過ぎとは受け取らなかった、と読み取れます。実際、情プラ法の省令は、大規模事業者が公表すべき項目としてAI等の自動化手段を用いた削除件数・アカウント停止件数を挙げています。国はすでに、削除の一部をAIが担うことを前提にした制度設計を進めているわけです。

 私たちの発言が許されるかどうかを実際に決めてきたのは、憲法でも法律でもなく、利用規約という私企業の内規です。権力は法から企業へ移り、そして今、企業からAIへ移ろうとしています。

「反論」より「通報」を選ぶ人々

 今起きている検閲と、過去のそれとの間には決定的な違いがあります。
 今起きているのは需要側、つまり「検閲される側」から立ち上がってきた検閲です。私たちが求めたのです。
 「消してくれ」という要求を受けつける窓口をつくれば、それは削除を執行する機構になります。動機がどれだけ善良でも、出来上がるのは検閲装置です。「誰かを、できれば自分以外の何かに、裁いてほしい」が根っこにあります。
 もちろん、被害者を救うことと、権力者に都合の悪い言葉を封じることは、目的がまったく異なります。ただし、実際に動くしくみだけを見れば、どちらも「投稿を審査して、必要だと判断すれば削除する」機構に行き着きます。何を削除すべきか、その基準を誰が決めるのかが重要になるわけです。

 AIによる検閲の話に戻りましょう。奇妙な点は、「なぜAIはよくて、人間ではだめだったのか」に集約できます。実のところ掲示板やSNSの検閲は長らく人間の仕事でした。コンテンツモデレーターと呼ばれる人々が(あの仕事を「検閲」と表現したら怒られるでしょうが、チェックして介入する行為=モデレーションです)、通報された投稿を確認して、削除するかどうかを判断してきました。

 この仕事の過酷さは、いくつもの事例で明らかになっています。動画を取り扱うサイトでは、1日に数千件といった規模で、暴力や虐待や自傷の映像を見続けねばなりません。掲載諾否の基準はマニュアルとして与えられても、現実の投稿へ対応するには、担当者は常に自分自身でマニュアルの行間を読む必要があります。この条件で判断の質を保ち続けるのは困難です。

 また、人間の判断にはムラがあります。同じ投稿でも、担当者やチェックの時間帯によって判定が変わるかもしれません。しかも裁かれる側は、判定の向こうに人間の好き嫌いや政治的な思惑を疑います。それなら、機械に一律の基準で裁いてもらうほうが公平ではないか。そう考える人が出てくるのも自然です。

 一方で私たちは、判断を他人に委ねること自体にはとっくに慣れています。アパートやマンションで、隣人の騒音に自分で苦情を言いに行く人は減りました(トラブルになるのは怖いですし)。そんなことはせず、多くの人は警察や管理会社に通報するでしょう。学校でいじめが起これば、これまでは担任の先生に相談してきたと思いますが、今ではしばしば教育委員会への通報に置き換えられます。SNSでも不快や不正な相手に反論する代わりに、運営会社へ通報します。

 相手と直接向き合って交渉するのは、「自分が判断するということ」と、「その判断への責任を引き受けるということ」と同義です。それはあらゆる面で高くつきます。自分の時間と体力、ときにはお金すら使い、主張が退けられれば、自分の価値が下がったように感じます。

 第三者に裁いてもらえば判断の責任を引き受けずに済みますし、プライドも傷つきません。その第三者が公平であるならば、自分に不利な裁定も「単にこのルール、この状況においてそう判断された」ということに過ぎず、自分の人生観や世界観を書き換えるような重たいイベントは発生しません。

 ネット上にある通報ボタンは、この「第三者への委任手続き」を限界まで簡略化したギミックだと思います。ワンタップで、面倒な裁定を誰かに外部化できます。

「透明の地獄」を生きる

 私は思考の中で、「判断」がもっとも高価な行為だと考えています。

 知識は検索エンジンとデータベースに外注できるようになりました。何を観るか、何を買うか、誰と付き合うかの選好も、レコメンドアルゴリズムに外注するようになりました。

 それでも残っていた人間の最後の砦——これは正しい、これは違う、という表明——は、人間の手元にありました。判断には責任が伴いますから、外注しにくかったことも原因として挙げられるでしょう。

 トイレットペーパーを何個買うかを高頻度取引実行可能なAIに任せ、万一、100万個でも発注された日には、恥ずかしい上に莫大な金銭的損失も伴います。価値判断ですらないこの程度の発注ですら、機械に丸投げするのは怖い。まして善悪の表明ともなれば、外注のハードルは跳ね上がります。

 ところが社会が複雑化し、可視化されると、「判断」のコストは天井知らずになりました。うかつに善悪でも口にしようものなら、世界中から注視されてしまいます。運が悪ければ次の瞬間には見知らぬ人々に囲まれて批判を浴びてしまいます。

 多様性を尊重し、誰も傷つけないためのポリティカルコレクトネスやコンプライアンスの徹底は、本来、社会を良くするための理念です。しかし、それがデジタル空間の持つ可視化のアーキテクチャと結びついた結果、人々は互いの言動を24時間体制で監視し合い、わずかな綻びを見つけては正義の名のもとに断罪するようになりました。

 ネットリテラシーを身につけても、どれだけ相手の立場に立って考えてみようとしても、極めて重層、難解になった社会では、発言すれば必ず誰かを傷つけるでしょうし、しかもそのさまは金魚鉢の中の金魚のように世界から丸見えです。透明の地獄です。

もう判断もしたくない

 本来、民主主義社会において何が正しいか、どこまでが許容されるかといった倫理的・道徳的な境界線は、異なる意見を持つ他者との泥臭い対話と、終わりのない議論を通じて合意されるべきものです。

 でも、現代社会において人間同士で正義をすり合わせるプロセスは、あまりにも高コストです。価値観が細分化し、共通の前提を持たない見知らぬ他者とある日突然接続するデジタル空間では、文脈の共有は容易ではありません。

 言葉を尽くして説明しても曲解され、対話はすぐに相手を言い負かす論破のゲームにすり替わります。他者と向き合い、自らの内面を削りながら合意点を探ることは精神的な摩擦で、苦痛の塊です。

 そうであるならば、これからの社会では「判断をしないこと」が最適解になるでしょう。この「判断をしないこと」は、そもそも処世術として昔からありました。「先生が正解を口にするまで、一貫して態度を決めない。発言しない」とか。なつかしいです。小学生のころの私そのものです。これがちょっと拡張されて、学校のクラスの中ではなく世界規模で実行されるようになっただけです。

 「判断」なんて重たくて割に合わない仕事は、やりたい人がやればいい。今やそんな奇特な人がいないのであれば、疲れを知らず嫌がりもしない何かのしくみに引き受けてほしい。それがいちばんいい。そんな空気が広がりました。

 AIは、近年急速に増大したこの需要に対して、完璧に近い形でフィットするサービスだったと思います。AIは疲れません。深夜3時の通報も、昼下がりの通報と同じ基準で処理する——ように見えます。AIには思想がない——ようにも見えます。

 AIはユーザー側から買収できないし、忖度もしないし、判定の対象になる人や事物を執念深く恨んだりもしません。AIは、誰に対しても平等に冷たく振る舞えます。この「平等な冷たさ」こそ、人間の裁定に疲れた人々が求めていたものでしょう。
 もっとも、AIが誰に対しても公平だとは限りません。AI自身に好き嫌いがなくても、判断の基準は人間が設定していますし、学習に使ったデータにも偏りはあります。ただ、それでも人間の裁定より公平に見える。ここがAIの魅力であり、怖さでもあるのでしょう。

正義もアウトソーシングしたい

 私たちはとうの昔から、お互いを見張り合う相互監視の網を、誰に命じられるでもなく全力で編み上げてきました。誰かに得をさせないためなら、自分が損をしてもかまわない。この心の動きは極めて強力です。

 この監視ネットワークはある意味で非常に平等です。例えばSNSでは政治家もアイドルも中学生も等しく誹謗中傷にさらされます。AI検閲は、このボトムアップの(市民自作の)監視網に疲れを知らない機械の目を接ぎ木する、仕上げの工程だと言えるでしょう。正義のアウトソーシングです。

 ジョージ・オーウェルの『1984年』で、監視社会の象徴であるビッグ・ブラザーは、テレスクリーンの向こう側から人々を見張っていました。今やその目は、通報ボタンの上に置かれた、私たちの指先に宿っています。

 正義の外注を、社会の効率化と評価することもできるでしょう。疲弊するモデレーターを救い、判定のムラをなくし、報復の連鎖を断つ。良いことずくめに見えます。しかしこれは「思考からの逃走」の、おそらくは最終局面です。

 AIによる検閲を通った模範解答の言葉だけが社会に流通するようになれば、炎上や摩擦は減るでしょう。誰も傷つかない、無菌室のようなコミュニケーション空間も実現できるでしょう。でも、それは私たちが「自ら考えること」を放棄した結果の楽園です。

 私たちは知識を外部化し、選好を外部化し、最後に残った「判断」まで手放そうとしています。判断とは、自分の価値観を世界に向けて表明し、その帰結を引き受ける行為です。それを外注すれば、帰結を引き受けなくて済みます。他者と価値観をすり合わせなくても、さらに突き詰めれば価値観そのものを持たなくても、生きていけることにつながります。

 この生き方は一見楽に見えますが、価値観を持たず、責任もなく、判断もしないとなれば、なんのために生きているのかを問い直す必要が出てくるかもしれません。