生成AIは強力な技術であり、本来は単なる業務の効率化にとどまらず、業務そのものを変える手段とすべきものです。導入によって作業を速めるだけでなく、生成AIを前提とした業務の進め方へと再設計しなければ、AIの力と既存の業務との間に不整合が生まれ、逆に生産性の低下を招くことがあります。生成AIの活用とは、単に使うことではなく、業務のあり方そのものを見直すことにほかなりません。本連載では、書籍『2030 次世代AI 日本の勝ち筋』（日経BP）から抜粋し、生成AIの利用事例と課題、生成AIを前提とした将来の業務のあり方について考えていきます。第3回は「生成AIの副作用」をテーマに。
生成AIによるコンテンツに関わる限界費用削減は、必ずしも良い面ばかりではありません。そのひとつは企業内文書の洪水ですが、深刻な社会的な問題を引き起こすこともあります。
その代表例がディープフェイクです。近年では、精巧なフェイク画像や動画、音声などを専門的な知識がなくても容易に生成できるようになりました。その結果、真偽の区別がつかないフェイク情報が大量に出回り、個人の人権侵害や投資詐欺への悪用といった深刻な問題を生んでいます1。生成AIの発展により、精巧なフェイク情報の作成は容易になりましたが、人間による監修や再作成指示などの工程は依然として必要です。限界費用は下がったものの、ゼロにはなっていないといえます。
一方で、高度な精巧さが求められないフェイク情報、例えば口コミやSNS投稿などのテキストの場合、人間が関与しなくても一定品質の内容を自動生成できます。この領域では完全な自動化が可能であり、限界費用はほぼゼロに近づいています。
フェイク情報の作成に一定の費用がかかる場合、その数は限られることから、その目的も対象も限定的です。投資詐欺の勧誘動画のように自社を有利に見せるポジティブなものが主体となり、ネガティブなフェイクの場合、政治家・著名人など、特定の組織や個人といった少数を標的とするものが主となります。これに対して、口コミやSNS投稿などのテキストのように、作成に関わる限界費用が極めて小さいフェイク情報の場合、簡単に多様なものを作れます。そうなると同業他社のように多数の標的に対しても、それぞれについて悪意ある情報を作成・拡散することが現実的に可能になります。
他社を不利にするためのネガティブなフェイク情報の具体例を示すため、筆者は有名な言語生成AIのひとつを使って、架空のラーメン店に対するネガティブな口コミを作成してみました2（図表）。筆者は再生成も修正も行っていませんが、自然な表現であり、人間が書いたといわれれば信じてしまう品質といえそうです。今回は架空の店の事例ですが、今後は実在企業に対して同様の攻撃的投稿が大量に行われる可能性を否定できません。
今後、こうした多数の他者を対象にしたネガティブなフェイク情報は増加し、その被害は拡大すると予想されます。しかし、政府やメディアの関心は依然として、投資詐欺など一部の特定個人や組織を狙ったディープフェイクに偏っており、広範な対策は遅れています。
なお、実在する個人に対する精巧なディープフェイクは名誉毀損などにより刑事事件の対象となりえますが、上記のような口コミにおけるネガティブな書き込みについては法的な規制ができるとは限りません。例えば景品表示法は広告主を規制する法律なので、自社を有利にするポジティブなフェイク情報を投稿・配信した場合は同法の違反となりえますが、広告主を規制する法律なので、自社以外、つまり他社に対するネガティブなフェイク情報は同法の対象外です。
情報流通プラットフォーム対処法（旧プロバイダ責任制限法）を使えば、誹謗（ひぼう）中傷などの書き込みに対して、権利侵害を受けた側が発信者を特定するために、プロバイダーやサービス事業者に対して発信者の情報開示請求ができます。ただし、前述のラーメン店に対する口コミ情報の場合、主観の範囲といえ、誹謗中傷とはなりにくく、開示請求ができるとは限りません。
こうした状況に対して早急な対策が求められますが、フェイクへの規制は表現の自由とも関わるため、政府の直接介入は慎重であるべきです。まずは民間による自主的な対策を促す制度設計を進めるべきでしょう。
政府はディープフェイク情報の問題を受け、有識者による検討会などを開きましたが、その議論の多くは「ファクトチェックを行い、フェイク情報を見分ける」ことを前提としていました。ただし、ファクトチェックは「ファクトか否か」を調査できる範囲が限られており、かつコストがかかるため、ボランティアベースでは持続できないという問題があります。それ以前に、フェイクとわかっていても閲覧・配布される情報があり、そうした情報にはファクトチェックは無力です。フェイクとわかっていても閲覧される情報の代表例が性的ディープフェイクです。被害者の名誉回復と加害者の処罰が求められます。
なお、性的ディープフェイクに関わる問題では、誰でも簡単にフェイク画像を作れるようになったため、被害者はタレントだけでなく一般人にも広がっています。一般人が被害者となる場合、加害者は顔見知りであることが多いです。また、韓国では容疑者の8割が10代だったとされており3、性的フェイク情報に対する犯罪意識が薄い可能性があります。
日本でも同様の問題が起きる可能性がありますが、文部科学省の指導要領では、ネット上では未成年者は被害者になりうるという前提から、被害者にならないことを主眼においた教育となっており、加害者になる問題についてはSNSへの書き込みへの注意喚起にとどまっています。今後は、何をすると加害者、そして犯罪者になるのかも教育していく必要があるでしょう。
2025年9月30日、オープンAIは動画生成サービスSora 2を発表しました。Sora 2の登場以前から、自然言語の入力から映像（動画および静止画）を容易に生成するサービスは多数ありましたが、それらの生成物には不自然さが残っていました。Sora 2は、動画生成AIの出力品質が、実際に撮影した動画と区別できない領域に入りつつあることを示してくれました。
実はSora 2が発表された直後、テレビ局の取材を受けました。その取材の意図は著作権への影響でしたが、筆者は「著作権への影響も大きいが、テレビ局としては映像そのものの価値が下がることを心配した方がよいのではないか」と話しました。
執筆時点ではSora 2は招待制ですが、それでもSora 2発表直後から、SNSにはSora 2で生成された動画が数多く投稿されました。今後はSora 2に限らず、SNSには撮影映像と区別がつかない生成映像があふれることが想定されます。そうなると、多くの人はSNSで映像を目にしても、最初に思い浮かぶのは「その映像はAIが生成したものではないか」という疑念であり、現実を撮影した映像と容易には信じなくなるでしょう。
やがてはSNS以外に配信される映像も、AIによる生成映像として扱われるようになることが想定されます。その場合、仮にテレビの報道番組やドキュメンタリー番組が現実を撮影した映像を放映しても、視聴者が現実を撮影した映像だと信じてくれるとは限らなくなります4。
その先がどうなるかは筆者にも想像がつきませんが、ひとつ言えるのは、映像が信じられなくなれば、その反動で「自分で見て、体験したこと」の価値が相対的に高くなるということです。
ところで、Sora 2で生成された映像にはマークとともに「Sora」という文字の「透かし」が入っており、その透かしによって生成映像とわかるため、撮影映像と混同することはないと考える方もいるでしょう。しかし、その「透かし」を消すことは難しくありません。また、そうした「透かし」を入れない動画生成AIが登場することもありえます。「透かし」を逆の方向に悪用するケースもあるでしょう。例えば、個人や組織にとって都合の悪いことが撮影され、それが公表された際に、その映像にAI生成であることを示す「透かし」を付けて流布させ、その映像の内容があたかも虚偽であるかのような印象を作る事態もありえます。
もうひとつ、筆者がSNSにSora 2の映像があふれる状況を見て思ったのは、ディープフェイク映像の判別技術はその方向性を誤ったのではないか、という疑問です。現在の判別技術は、映像が加工・生成されていることを見つける方向を重視しています。しかし、生成映像があふれる状況では、むしろ「実際に撮影された映像を見つける」方向性の方が確実かつ効率的になるかもしれません。
将来、撮影映像と見分けがつかないディープフェイク映像が世にあふれるようになれば、それが逆説的にディープフェイク対策になりうるのかもしれません。というのは、人々が「映像はすべて生成映像だ」と思うようになれば、ディープフェイク映像に欺かれる人も減るからです。もちろん、それが望ましい解決策とは言い難いですが。
［書籍『2030 次世代AI 日本の勝ち筋』を基に再構成 日経クロステック 2025年12月11日付の記事を転載］
佐藤一郎著／日経BP／2200円（税込み）