物理的な「身体」を持つ人工知能（AI）があなたの隣で働く時代がやってきます。そんなフィジカルAIについて、今押さえておきたいことを未来予測の専門家集団が分かりやすくまとめました。日経文庫『フィジカルAI』（野村総合研究所、NRIセキュアテクノロジーズ編）から内容を抜粋・再構成してお届けします。第3回は、フィジカルAIのリスクに迫ります。AIが現実世界で機械を動かすことには、どんな困難と危険があるのでしょうか。
画面の外へ出る被害
AIによる誤りがもたらす影響は、これまでサイバー空間の中にとどまっていました。文章の生成や画像の分類、需要の予測といった処理はサイバー空間で完結し、誤りがあっても影響は誤った情報や不適切な出力にとどまります。セキュリティ上の論点も、情報漏洩や不正アクセスといった「情報の保護」が中心でした。
ところがフィジカルAIは、この前提を変えます。フィジカルAIはカメラや各種センサーで周囲の状況を認識し、その判断結果をモーターやアームといったアクチュエータによって物理的な動作として実行します。
AIの判断が現実世界の動きに直結する以上、誤りや乗っ取りの影響はサイバー空間にとどまりません。設備の損傷、あるいは人身事故という形で、被害が物理空間にまで及ぶのです。
守るべき対象が「情報」から「人やモノの安全そのもの」へと広がります。さらに、AIが組み込まれることで機器の行動範囲が拡張し、侵害がどこまで及ぶか見通しにくくなります。
サイバー空間にはない難しさ
では、フィジカルAIのセキュリティは、従来のサイバーセキュリティの延長線上で考えれば対処できるのでしょうか。
従来の対処の積み重ねが土台として重要なことは変わりません。しかしフィジカルAI、すなわちAIが物理空間に出て行動を生成することで初めて生じる固有の難しさがあります。
サイバー空間における問題は、ソフトウェアの修正や設定変更によって対処でき、検証環境を再現して何度でも試すことができます。脆弱性が見つかればパッチを当てて再検証できますし、ある条件で安全が確認できれば、同じ条件ではその安全が保たれるという前提のもとで対策を積み上げることができます。
ところがフィジカルAIが動く実世界では、この前提が成り立ちにくくなります。ハードウェアは産業用ロボットからヒューマノイドまで多様で、同じ製品であっても個体ごとにわずかな差があります。床面の状態や照明、周囲の人の位置といった環境条件も毎回異なります。同じ指示を与えても動作がそのつどわずかにばらつくため、「規格に適合したから安全」と一律に言い切ることが難しくなるのです。
加えて、学習に基づいて判断するAIは、同じ状況でも異なる動作を選ぶことがあり、あらかじめすべての動作を定義できません。ハードウェアの個体差に、この「動作を事前に書き切れない」というAI固有の性質が重なることで、安全の確認はいっそう難しくなります。
安全の検証にも同様の課題があります。ロボットの実機は高価で、試験場所の設置や安全管理にも費用がかかるため、あらゆる状況を実機で試し尽くすことは現実的ではありません。
シミュレーションで補おうとしても、シミュレーションと現実世界の間には一定のずれが生じます。とりわけ、学習していない状況にどう反応するかを事前に読みにくいAIでは、このずれが安全の確認をいっそう難しくします。
屋内で問題なく動作した配送ロボットが、雨で濡れた屋外の路面では想定外の挙動を示すといったケースは、この難しさを端的に表しています。
何をもって安全とみなせるか。この問いに対する答えがまだ確立されていないことが、フィジカルAIの安全を考えるうえで繰り返し浮かび上がる課題です。
セーフティとセキュリティ、2つのリスク
フィジカルAIのリスクは、大きく2つの観点から整理できます。一つは「意図しない誤動作」によるリスク、すなわちセーフティの問題です。センサーの読み違いや判断のミスで危険な動きをしてしまうケースがこれにあたります。
もう一つは「意図的な攻撃・悪用」によるリスク、すなわちセキュリティの問題です。悪意ある第三者が意図的に誤作動させたり乗っ取ったりするケースです。
この2つは対立するものではなく、両面を同時に見る必要があります。セーフティ上の弱点が攻撃に利用されることもあり、両者は連続しています。いずれの問題も、フィジカルAIにおいては最終的に「人やモノに物理的な被害が及ぶ」という結果につながるのです。
両者が連動するケースは具体的にどういうものか。ロボットの視覚系に特定のパターンの画像を見せると、センサーの認識から動作の選択までの判断処理が止まってしまう攻撃手法が研究で示されています。
これはAIが特定のパターンを誤認識するというセーフティ上の弱点を、攻撃者が意図的に突いてセキュリティ侵害に転化させた例です。「止まる」という動作が、攻撃によって意図的に引き起こされれば、それはもはやセキュリティの問題です。
例えば、製造ラインで搬送作業中のロボットが突然停止すれば、後続の設備や作業員との衝突が起きかねません。高所での組み立て作業中に停止すれば、ロボットアームが制御されない状態で落下する危険もあります。セキュリティ侵害によって安全機能そのものが無効化されれば、セーフティの問題に発展します。
2つの問題を別々に管理するだけでなく、どちらかが崩れた場合にもう一方が連鎖しないように設計することが、フィジカルAIの統治の根本的な課題になります。
物理的な「身体」を持つ人工知能（AI）があなたの隣で働く時代がやってきます。本書は、技術の仕組みから産業や社会への影響まで、豊富な事例とともに解説。米国や中国など「フィジカルAI先進国」の動向も網羅しました。この1冊で概要がつかめる入門書です。
野村総合研究所、NRIセキュアテクノロジーズ編／日本経済新聞出版／1100円（税込み）