その本の「はじめに」には、著者の「伝えたいこと」がギュッと詰め込まれています。この連載では毎日、おすすめ本の「はじめに」と「目次」をご紹介します。今日は山本龍彦さんの『 AIと憲法 』です。
【はじめに】
『AIと憲法』。
「憲法論とは9条論だ」と考えている方、憲法にいかめしい「改憲・護憲論」をイメージしている方にとっては何とも意外な組み合わせに聞こえるかもしれない。
しかし、SF（サイエンスフィクション）映画によく出てくる主題、つまり、全く善良な市民がAI（Artificial Intelligence）に「あなたは潜在的犯罪者だ」などと予測・分類され、社会的に排除されるような世界は、今やフィクションからノンフィクションへと変わりつつある。実際、米国の警察や裁判所では、犯罪者予測にAIプロファイリングが使われ、それによる排除や差別が問題になっている。中国では、信用情報機関のAIが算出した個人の信用スコアが社会の至る所で利用され、スコアの低い人が差別を受ける事例が増えてきている。日本でも、企業の採用活動や金融機関の与信の場面でAIのスコアリングが多く使われ始めているが、そのような人生の重要局面で、もしAIに「あなたはダメなやつだ」とレッテルを貼られたら、あなたの人生はいったいどうなっていくのだろうか。
こうしたAIの事前予測に基づく個人の効率的な「分類」（仕分け）と、それによる差別や社会的排除は、「個人の尊重」（日本国憲法13条）や「平等原則」（14条）を規定する憲法上の論点そのものと言える。
また、近年、フェイスブックのユーザー情報が選挙コンサルタント会社（ケンブリッジ・アナリティカ）に流れ、それが米国の大統領選挙における政治的プロパガンダに使われたという報道が世間を騒がせた。日本では、フェイスブック上の個人情報が不正に横流しされた「不正流出」事件として報道されたが、問題のポイントはそこにはない。
この事件で問題にすべきだったのは、あるユーザーが何に「いいね」を押したかといった大量のフェイスブック情報から、AIが各ユーザーの政治的信条や知性、心理状態―いわば個人の内面―までを予測し、この予測結果が各ユーザーの投票行動の操作に使われた可能性である。この事件から浮かび上がってきたのは、要するに、権力者がデータやAIを用いて有権者の心理状態をつぶさに把握し、有権者一人ひとりの行動を秘密裡に支配できる可能性、それによって民主主義が危険にさらされる可能性だったのである。
このような選挙におけるAIの利用の是非も、民主主義や国民主権（憲法前文、15条1項、43条1項、44条）を規定する憲法上の論点そのものと言うことができよう。
さらに我々は、AI分野における中国の動きにも注意を払わなければならない。周知の通り、AIはより多くのデータを「食べた」ほうが「賢く」なる。データの量とAIの予測精度は基本的に比例関係にあるわけである。データが多く集まるほど、AIの予測精度は向上していく。財産の社会的な「共有」を建前とする共産主義的な憲法体制の下では、官・民あるいは民・民における（財産としての）情報の「共有」が比較的スムーズに行われる。それによって、巨大なデータのプールが完成することになるため、「プライバシー」によってデータが分断される社会よりもAIは早く成長することができる。
仮に共産主義的な憲法体制が、AIネットワーク社会に最も適した憲法体制であるとすれば、我々日本人は現日本国憲法体制―プライバシー（憲法13条）や経済活動の自由（憲法22条1項）によって情報の共有・統合に限界が設定された憲法体制―の下で果たして何ができるのか、あるいは、現憲法体制の限界から憲法そのものを変える必要があるのかを根本から議論していく必要があるだろう。欧州連合（EU）の人権基底的な情報保護政策も、その憲法体制や憲法文化に深く根差したものであるとすれば、AIネットワーク化を巡る世界的な対抗関係（EU／米国／中国）は、憲法の「型」を巡る対抗関係でもある。となれば、国家としての情報政策をどう設定するかも、やはり―「この国のかたち」を巡る―憲法上の論点そのものということになろう。
こうして見ると、『AIと憲法』が「意外」な組み合わせではないことがわかる。むしろ凡庸な組み合わせとさえ言えるだろう。
考えてみれば、産業革命と憲法は常に手を携えてきた。18世紀後半にイギリスで始まった産業革命は、一般に、機械制工業を急速に発達させ、資本主義社会を導いたと説明されるが、決してそれだけではなかった。社会科の教科書に書かれていたように、この産業革命が経済的格差を含む多くの社会問題を生み、憲法の中に社会権規定や労働権規定が書き込まれたのである。憲法原理が、産業の行き過ぎをいわば「立憲」的に統御し、産業の発展と人間性（個人の主体性）とのバランスをもたらしたというわけである。
このように、産業革命と憲法との不可避的関係を踏まえれば、AIがもたらすこの度の「第4次産業革命」もまた、憲法の観点から詳細に分析されなければならない。
本書は、その手引きとなることを目的に編まれた。
本書が編まれた背景の一つに、このような「憲法論」の必要性を、日本人の多くが気づいていないのではないか、というおそれがある。EUや米国では、AIの発展がプライバシーに与える影響にとどまらず、それが少マイノリティ数派に差別的な影響を与えないか、民主主義に否定的な影響を与えないか、などが憲法レベルで真剣に議論されている。EUは、AIの発展によって個人の自律的で主体的な生き方が妨げられることがないよう、「一般データ保護規則（General Data Protection Regulation, GDPR）」（2018年5月25日施行）の中で、AIなどを含む自動処理のみによって重要な決定を下されない権利（22条）などを保障した。また、機械学習のトップカンファレンスであるICML（International Conference on Machine Learning）が2018年度に表彰した最優秀論文2本のうち1本、優秀論文3本のうち1本が、機械学習における「公正さ（fairness）」を追究し（Lydia Liu et al., Delayed Impact of Fair Machine Learninɡ）、少数派を包摂するような機械学習のあり方を模索するものであったことも（Tatsunori Hashimoto et al., Fairness Without Demographics in Repeated Loss Minimization）、AI開発において「憲法論」を重視しようとする国際的なトレンドを示している（これは、裏を返せば、AIによる差別等の問題が国際的に深く認識されていることを示している）。
こうした国際的な動きに対して、日本では、AIの予測精度（正確性）や、それがもたらす効率性、経済成長ばかりが強調され、いざ「憲法論」を語ろうものなら「何を青臭いことを言っているのだ」、「そんなことをぐだぐだ言っていると競争に負ける」、「そもそもAIを技術的に理解しているのか」（規制反対論者の常套手段は、「定義」問題を持ち出して議論を麻痺させることである）、「AIを擬人化するな」などと猛攻撃を受けたり、白い目で見られたりするのがお決まりとなっている。AIによる差別―厳密には、AIが差別的な「意図」を持つことはないだろうから、AIの利用によってもたされる差別的な「効果」と言うべきだろう―の問題などは、「これまでも世の中には差別があったのだから、AIが実装されたからといって現実は何も変わらない」という理解不能な議論がまかり通り、「とにかく推進を」、というポジティブ・キャンペーンが強力に展開されている。
しかし、日本人がある一方向にぐんぐん進んでいって良い結果が得られた試しはない（先の戦争や原発問題を想起していただければそれで十分だろう）。そうであるなら、今まさに、「個人の尊重」や「民主主義」といった「青臭い」憲法原理に思いを巡らせ、AIが本当に我々一人ひとりを幸せにするのかをじっくり考えてみる必要があるのではないのか。それは、近年、米国で沸き起こっているような「反AI」運動を開始せよ、というのではない（序章第4節参照）。AIは、うまく実装すれば憲法原理のより良い実現に資する。これはおそらく疑いのないことである。したがってポイントは、経済合理性や効率性の論理だけにとらわれない、憲法と調和的なAI社会の実現にある。
本書は、こうした「両眼主義」（福澤諭吉）を日本においても浸透させるべく編まれたのである。
「AI、AIって言うけど、それって本当に大丈夫なの？」と漠然とした不安をお持ちの方は、ぜひ本書を手に取っていただきたい。その「不安」の根源がおわかりいただけると思う。
＊＊＊＊＊＊＊＊＊＊
「はじめに」の場ではあるが、一つのあり得る「誤解」に対し、少々学問的なツッコミを入れておきたい。
それは、「憲法とは国家権力を縛る法規範である。だから、国家によるAIの利用については憲法を持ち出す意味があるが、民間企業など私人によるAIの利用には憲法を持ち出す意味がないのではないか」というものである。
確かに、憲法が国家権力を縛る法規範であるということは論を俟（ま）たない。「立憲主義」という言葉も、国家権力に対する制限規範という意味で使われることが少なくない。しかし、憲法は他の顔も持っている。
憲法学の世界では一般に、法律の制定や解釈を通じて、憲法原理は間接的に民間企業（私人）の行為にも適用されると考えられている（間接適用説）。例えば、民法という法律は、90条で、「公の秩序又は善良の風俗に反する事項を目的とする法律行為は、無効とする」と規定している。今述べた考えは、この民法条文に言う「公の秩序」に憲法原理（憲法秩序）が読み込まれると解するので、その結果として、憲法原理に反する事項を目的とする私人の法律行為は―「公の秩序」に反するものとして―無効になる可能性が出てくることになる。ここでは、私人に直接適用されているのはあくまで民法という「法律」であるが、この民法の一条項の解釈を通じて「憲法」の原理が私人に間接的に適用されているということになるのである（最大判昭和48年12月12日民集27巻11号1536頁）。
また、「憲法実現法律」とか「憲法具体化法律」と呼ばれる「法律」が数多く存在していることにも注意が必要である。例えば、企業に適用される男女雇用機会均等法は、1条で、「この法律は、法の下の平等を保障する日本国憲法の理念にのっとり雇用の分野における男女の均等な機会及び待遇の確保を図る……」と規定している。企業等の経済活動は、このような憲法（を）実現（するための）法律を通じて、日常的に憲法の制約を受けているわけである。
『六法全書』を紐解くと、個人情報保護法も男女雇用機会均等法などと同様、「憲法編」の中に収められている。このことは、個人情報保護法という法律もまた、プライバシーという憲法の規範的理念を経済市場において実現する「憲法実現法律」の一つであることを示している。このように、憲法はいろいろな法律にいわば「化身」して、企業等の活動に間接的に影響を与えているのである。
こう見れば、「憲法とは国家権力を縛る法規範である」という見方が一面的であることが理解できるだろう。憲法は、法律の解釈や憲法実現法律を通じて私人の経済活動に影響を与えている。「立憲主義」は、国家権力が憲法に服することだけを意味する言葉ではないのである。憲法は、国家権力を縛るだけでなく、国家権力に対して、憲法原理が経済市場においても守られるよう積極的に「動く」ことを義務付けてもいる。現に、憲法が「国家」の暴走だけでなく、「産業」の暴走に対するブレーキになってきたことは、先述した通りである。
もちろん、企業にも、憲法上、営業の自由ないし経済活動の自由が保障されているのであり（憲法22条1項）、国家による統制が行き過ぎたものになってはならない。月並みな言い方になるが、産業の発展と、個人の尊重といった憲法の基本原理とのバランスこそが重要なのである。
しかし、先述のように、日本では、いわゆる9条問題を巡って憲法が過度に政治化され、運動論化されてきたために、憲法の重要な機能―産業の効率性や経済合理性をほどほどに統御する機能―が軽視され、効率性や経済合理性がことさらに強調される傾向が強い。AIによって効率性や経済合理性が最大化された後に訪れる社会が、社会的排除や民主主義の破壊を許すようなディストピアであるとすれば、我々は今、AIの「憲法論」を活発化させ、憲法原理と調和したAIの利活用の方向性を真剣に模索するべきであろう。
2018年7月 山本龍彦
【目次】
