未来の軍事ロボットは鳥やハチのような大きさにまで小型化され、ミニサイズの火器や炭疽（たんそ）菌のカプセルを装備するだろう。自律型致死兵器は、開戦や攻撃に伴う人的・物的なダメージを減らし、誰が攻撃したのかすらも曖昧になる。もはやこれまでの抑止論は通用しなくなる。『THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告』（ムスタファ・スレイマン、マイケル・バスカー著／上杉隼人訳）から抜粋・再構成してお届けする。
イランの最重要人物を暗殺したAI狙撃手
イランの核兵器開発を長年指揮していた核科学者モフセン・ファクリザデ。愛国的で、献身的で、経験豊富なファクリザデは、イランの敵対勢力が暗殺の主要標的としていた。
彼は暗殺のリスクを認識しており、居場所や行動は極秘にして、イランのイスラム革命防衛隊の警護も受けていた。
2020年11月、厳重警護されたファクリザデの車列が、カスピ海近くの自宅に向けて埃（ほこり）の立つ田舎道を走行していた。突然、急ブレーキの音を立てて車列が停止した。
何かに衝突したと思い、車外に出たファクリザデは、機関銃で撃ち殺された。警護にあたっていたイスラム革命防衛隊は、事態が飲み込めず混乱した。狙撃手はどこだ？ その直後、爆発が起き、近くに止まっていたピックアップトラックが炎上した。
だが、炎上したトラックには機関銃しかなかった。狙撃手は現場にいなかったのだ。
ニューヨーク・タイムズ紙は「AI（人工知能）と複数のカメラを備えコンピュータ化されたハイテク狙撃手のデビュー戦。衛星通信を介して遠隔操作されたこの狙撃手は、1分間に600発銃撃できる」と報じた。
カメラと機関銃が据え付けられ、計算された場所に止められたトラック。普通のトラックに擬装されていたが、これこそがイスラエルの情報機関が組み立てた一種のロボット兵器だった。
もちろん暗殺指令は人間が下したが、標的に自動で照準を定めたのはAIだ。1分以内に発射されたわずか15発の弾丸で、厳重警護されていたイランの最重要人物を暗殺したのだ。
ハマスを攻撃する自律型AIドローン
ファクリザデの暗殺はこれから起きることの予兆だ。さらに高性能化された武装ロボットは暴力を振るいやすくする。
最新ロボットの動画はネット検索ですぐに見つけられる。ずんぐりした奇妙な姿のヒューマノイド「Atlas（アトラス）」や、四足歩行する犬のようなロボット「BigDog（ビッグドッグ）」が、いくつもの障害物を越えて駆けていく。
ひどくバランスが悪そうだが、決して倒れない。不思議な動きで複雑な地形をしっかり進む。重そうだが転倒しない。後方宙返り、ジャンプ、高速回転、アクロバティックな動きができる。何度押し倒しても、冷静に、何度でも立ち上がる。不気味なほどだ。
顔認識、DNAの組み換え、自動火器を装備したロボットを想像してほしい。未来のロボットは犬のような形状にはならないだろう。鳥やハチのような大きさにまで小型化され、ミニサイズの火器や炭疽菌のカプセルを装備するようになる。
それが近い将来、望めば誰でも手に入るようになるかもしれない。悪意ある者にも力が与えられると、こういう世界になる。
軍用ドローンの製造コストは過去10年間で3桁減った。2028年までに世界で軍用ドローンに年間260億ドルが支出されると見込まれており、その時点で多くは完全自律型ドローンになっているだろう。
自律型ドローンの実戦配備は日ごとに現実味を帯びている。例えば2021年5月には、イスラエルがガザ地区にAIドローンの一群を投入し、ハマスの戦闘員を発見・識別・攻撃した。
Anduril（アンドゥリル）、Shield AI（シールドAI）、Rebellion Defense（レベリオン・ディフェンス）などのスタートアップ企業は、自律型ドローンネットワークやAIの軍事応用のために、数億ドルを調達した。
3Dプリンターや次世代モバイル通信などの軍用ドローンの周辺技術によって1機当たり数千ドル程度にまで安くなれば、アマチュア愛好家や民兵組織、一匹狼（おおかみ）の攻撃者など、誰もが手を出せるようになる。
入手しやすくなるだけでなく、AIを搭載した兵器はリアルタイムで自己改善するようになる。WannaCry（ワナクライ。2017年に流行したランサムウエア［身代金要求型ウイルス］）の影響は、攻撃者の想定よりもはるかに限定的だった。修正パッチで当面の問題は解決できた。
だが、AIはこの種の攻撃を変える。AIサイバー兵器はネットワークを常時探索し、自己改善しながら自律的に脆弱性を発見し、悪用するだろう。
現在のワーム（コンピュータに被害を及ぼす悪意のあるプログラム、マルウエアの一種）はプログラムされた行動パターンで自己増殖を試みるが、強化学習を利用して自己改善するワームがあったらどうなるだろうか。ネットワークを攻撃するたびにアップデートされたプログラムを試し、サイバー空間の脆弱性を悪用する効果的な方法を次々と見つけたらどうなるだろうか。
AlphaGo（アルファ碁）が膨大な自己対局から予想外の戦略を学ぶように、AIサイバー兵器は予想外の攻撃ができるようになるだろう。人間があらゆる想定で作戦演習を繰り返したとしても、不眠不休のAIはわずかな脆弱性を必ず見つけ出す。
人間を心理的に操るAIが生まれている
自動車、飛行機、冷蔵庫、データセンターまで、すべては大量の法規制の上に成り立っている。今後のAIはこれまで以上に容易に脆弱性を特定して悪用する。
例えば銀行規制や技術的な安全規定の穴を特定し、企業や機関を法的あるいは財務的に攻撃するかもしれない。情報セキュリティ専門家のブルース・シュナイアーが指摘するように、AIは世界中の法規制を理解し、各国の法的義務の差を利用した裁定取引ができるようになるかもしれない。
ある企業から大量の機密文書が漏洩したとしよう。法律を学習したAIは各国の法規制と照らし合わせて法律違反を探し、企業に大打撃を与えるような訴訟をいくつも同時に世界中で起こすかもしれない。AIはライバル企業に壊滅的なダメージを与えるような自動取引戦略を立てることができるし、偽情報を流してある銀行に取り付け騒ぎを起こしたり、ある商品に対して不買運動を起こしたりして、ライバル企業の業績を急激に悪化させることもできる。そこでライバルを買収したり、ただ単に倒産まで追い込んだりしてもいい。
AIは金融システムや司法制度、通信システムだけでなく、人間の心理や弱点、偏見も巧みに利用する。
メタの研究者は戦略ボードゲーム「ディプロマシー」で上級者レベルの人間のプレーヤーに勝てるAI、CICERO（キケロ）を作り出した。「ディプロマシー」はプレーヤー同士の交渉が重要なゲームで、勝つには策略と裏切りを含んだ複雑な長期的戦略を立てる必要がある。
CICEROが明らかにしたのは、AIが人間の計画を助けて協力するだけでなく、人間の感情や行動を恐ろしいまでに深く読み取って操り、信頼と影響力を獲得するために心理的トリックまで編み出せることだ。これは「ディプロマシー」に勝つためだけに役立つスキルではない。選挙活動や政治運動にも役立つ。
AIをこれほど強力かつ魅力的なものにしている要素――学習能力と適応力――は、悪意ある者を強化すると同時に、国家の主要機能を攻撃する可能性が高まっている。
国家は国民の安全を守れるのか
何百年もの間、最先端の攻撃力（集中砲火、舷側砲、戦車、空母、ICBM［大陸間弾道ミサイル］など）は非常にコストが高かったため、国民国家の管轄下に置かれていた。だが、最先端の攻撃力が今や大変なペースで進化しており、研究所やスタートアップ企業、機械いじりが得意な個人にまで急速に広がっている。
ソーシャルメディアの「1対多」のコミュニケーションによって個人が全世界に情報発信できるのと同じく、「結果的に広範囲に影響を及ぼす力」があらゆる者たちの手に渡りつつある。
この新しいダイナミズムは悪意ある者の攻勢を煽（あお）り、現代のシステムの相互接続性と脆弱性につけ込んだ、新たなベクトルの攻撃を可能にする。つまり、ひとつの病院だけではなく医療システム全体を、ひとつの倉庫だけではなくサプライチェーン全体を攻撃できるのだ。
自律型致死兵器を使えば、開戦や攻撃に伴う物的損耗を削減でき、何より人的損耗を局限できる。かつ、攻撃者は犯行を否認しやすくなり、攻撃自体の曖昧さも増すので、これまでの抑止論が通じなくなる。攻撃者も事象も不詳になるなら、誰もが戦端を開く。
非国家主体や悪意ある者にこんな力を与えてしまうと、「国民の安全を守る」という国家の主要な使命のひとつが損なわれる。国民の安全安心を守ることは国民国家体制の重要な基盤で、あってもなくてもいいというものでは決してない。国家は国内の治安問題や敵対国からの直接攻撃には、ほぼ対処できる。だが、この攻撃者は曖昧で、無定形で、非対称で、管轄や責任の帰属も不鮮明だ。
「国民の安全を守る」という基本的な約束を国家が果たせないのであれば、どうやって国民の信頼を維持し、国民との「大いなる取引」を守れるのか。どうやって病院や学校を運営し続け、停電を防ぐことができるのか。国家が自分や家族を守らないなら、国家に属し、従う意味はあるのだろうか。家で電気が使えない、交通網が破壊されてどこにも行けない、エネルギー網がダウンして暖を取れないといったように、1人ひとりの日々の安全が脅かされれば、一体どうなるか。
そういった基本的なものが瓦解し、私たちも政府も何もできなくなると、国家体制の基盤が崩れ落ちる。現代の国家というものが新しい形式の戦争の中から生まれたのだとすれば、おそらく同じように終わりを迎える。
歴史を通じて、攻撃に使える技術は防衛にも使えた。両者の間で優位性が振り子のように揺れながらも、おおむね均衡が保たれてきた。新しいミサイルやサイバー兵器が出現すれば、ただちに強力な対抗策が講じられた。大砲は攻撃に使えば城壁を崩せるが、防御に使えば侵略者の部隊を吹き飛ばせる。
だが今は国家の壊滅をたくらむ者が、強力で、非対称で、オムニユースな技術を入手できてしまう。防御策は時間とともに強化されていくが、来たるべき波の4つの特徴（非対称、超進化、オムニユース、自律性）は攻撃側に有利だ。新しいテクノロジーの力はあまりにも広範に、すばやく、誰もが使えるように拡散するからだ。
世界を変える重要なアルゴリズムがノートパソコンに保存できてしまうから、巨大なインフラや規制可能なインフラは必要ない。弓矢や超音速ミサイルとは異なり、AIや病原体の進化は過去のどんなテクノロジーとも比べものにならないほど安価で急速で自律的になる。今の流れを変えられる劇的な対策が講じられなければ、ほんの数年後には無数の人々が新しいテクノロジーがもたらす力を利用できるようになる。
ムスタファ・スレイマン、マイケル・バスカー著／上杉隼人訳／日本経済新聞出版／2420円（税込み）