AI偽画像を「見抜ける人」に任せない――選挙を守る新ルールの実力と弱点
生成AIそのものが民主主義を壊すわけではありません。危険なのは、投票判断を左右する偽画像や偽動画が短時間で拡散し、訂正が届かないまま投票日を迎えることです。
日本では2026年、第221回国会で公職選挙法と情報流通プラットフォーム対処法の改正法が成立しました。AIで作成・改変した選挙関連の画像や映像に表示を求め、大規模プラットフォームにも対策を義務づける内容です。原則として2027年3月1日に施行されます。
ただし、表示義務だけで偽情報は止まりません。音声だけの偽造、投票直前の拡散、海外アカウント、表示を無視する発信者など、制度の外側に残る問題があるからです。
この記事で分かること
- 成立した改正法で、発信者と大規模プラットフォームに何が求められるのか
- なぜ「AI生成」と表示するだけでは有権者を守り切れないのか
- 表現の自由を守りながら、選挙の公正を確保するには何が必要か
- 有権者が投票直前の偽画像・偽動画にどう対処すべきか
何が変わるのか――発信者の表示とプラットフォーム対策
新制度の中心は、発信者に出所を示させ、拡散経路を握る事業者にも対応を求める二段構えです。
第221回国会で成立した改正法は、インターネット選挙運動のルールと、大規模プラットフォームの責任を同時に見直しました。施行日は原則2027年3月1日で、それ以後に公示・告示される選挙から新しい公職選挙法の規定が適用されます。
AIで作った画像・映像には表示が必要になる
対象となるのは、AI技術を利用して作成または改変された画像・映像を掲載したオンライン上の文書図画です。実写と誤認されるおそれがないものや、社会通念上、軽微な改変は除かれます。
表示義務がかかるのは、主に次の発信です。
- 選挙運動のために使う投稿やコンテンツ
- 特定候補を当選させないための活動に使い、公示・告示日から投票日までに頒布する投稿やコンテンツ
発信者は、スマートフォンなどの画面に「AIを利用して作成・改変した」ことが正しく表示されるようにしなければなりません。
この表示は、有権者に「内容を疑う入口」を与えます。候補者が本当に発言した映像なのか、支援者が作ったイメージ映像なのかを区別しやすくする点には意味があります。
大規模プラットフォームにも措置義務
改正された情報流通プラットフォーム対処法は、大規模なSNSなどに対し、次の情報による選挙への悪影響を軽減するため、サービスの特性に応じた措置を講じるよう求めます。
- 法令に違反する情報
- 虚偽の情報
- 事実をゆがめた情報
- その他、選挙の公正を害するおそれがある情報
総務大臣は措置の指針を策定・公表します。対象事業者は、対策の実施状況を毎年1回公表しなければなりません。
ここで重要なのは、投稿者だけに責任を押しつけなかったことです。偽動画が数時間で数百万回表示されるか、ほとんど広がらないかは、推薦機能、広告、再投稿の仕組み、収益化制度などにも左右されます。
ここがポイント: AI選挙対策の成否は、偽物を作った人を後から処罰できるかだけでは決まりません。投票前に表示回数を抑え、訂正情報を同じ利用者へ届けられるかが決定的です。
なぜ偽画像・偽音声は有権者判断をゆがめるのか
最大の脅威は、精巧な偽物そのものより、確認に時間がかかる情報を投票直前に大量投入できることです。
候補者が存在しない政策を口にしたように見せる動画、犯罪や不祥事を認めたように聞こえる音声、災害や外交危機への対応を捏造した画像。こうした素材は、政策論争を別の争いへ変えてしまいます。
有権者は「税制をどうするか」「安全保障政策は実行可能か」を比較する代わりに、「この映像は本物か」という確認作業を強いられます。地方選挙では報道や検証に携わる人員が限られ、訂正が間に合わない可能性も高まります。
「嘘を信じる」以外にも被害がある
偽情報の害は、だまされた人が誤った候補に投票することだけではありません。
- 本物の映像まで「AIで作ったのでは」と疑われる
- 候補者や選挙管理側が、政策説明より真偽確認に時間を取られる
- 支持者同士が偽物を前提に対立し、訂正後も不信が残る
- 外国勢力や匿名集団が、低コストで社会の分断を深められる
- 「何も信用できない」と感じた有権者が、政治情報から離れる
内閣官房は、生成AIによる画像やディープフェイクを含む外国発の偽情報が、社会の分断や政府への不信を助長し得ると説明しています。これは安全保障上の問題でもあります。選挙結果を直接操作しなくても、政治制度への信頼を下げれば影響工作の目的を達成できるからです。
地方選挙ほど初動の差が大きい
国政選挙では全国メディアや複数の検証機関が動きやすい一方、市区町村長選挙や地方議会選挙では事情が異なります。
候補者本人の公式発信、地元紙、選挙管理委員会、警察、プラットフォームの窓口が連携できなければ、偽動画の確認中に投票日を迎えかねません。少ない票差で決まる選挙ほど、狭い地域だけに配信される偽情報の影響を無視できません。
新制度の強み――全面禁止より現実的な理由
AI利用を一律に禁じず、誤認を防ぐ表示と流通対策を組み合わせた点は現実的です。
生成AIは、偽情報だけに使われる技術ではありません。字幕の作成、動画編集、外国語への翻訳、視覚・聴覚に障害のある人への情報提供など、政治参加を助ける用途もあります。
全面禁止には、次の副作用があります。
- 小規模な候補者ほど、低コストの制作・翻訳手段を失う
- 風刺、批評、パロディーまで規制対象になり得る
- 通常の画像補正と、有権者を欺く改変との境界が曖昧になる
- 国内の候補者だけが従い、国外や匿名の発信者が優位になる
そのため、AIを使ったかどうかだけで善悪を決めるべきではありません。見るべきなのは、実在する人物の言動だと誤認させるか、投票判断を欺く目的や効果があるかです。
既存の公職選挙法にも、候補者について虚偽の事実を公表する行為や、氏名などを偽って通信する行為に対応する罰則があります。新制度は、その土台にAI利用の表示とプラットフォーム対策を加えるものです。
弱点はどこにあるか――表示義務だけでは埋まらない穴
制度の弱点は、違反者が表示に従うことを前提にできず、偽物が広がる速度に法執行が追いつきにくいことです。
音声だけの偽造をどう扱うか
改正法のAI表示義務は、条文上「画像又は映像」を対象にしています。映像に含まれる合成音声は対象になり得ますが、電話、音声配信、録音ファイルなどの音声単体については、表示義務の射程が明確とはいえません。
声の複製は、候補者本人が電話をかけたように装う用途にも使えます。画面を見ない音声メディアでは、電子透かしや画面上のラベルとは別の仕組みが必要です。
「選挙運動」と周辺言論の境界
候補者や政党の公式投稿なら対象を判断しやすいものの、匿名アカウントが「ニュース」「政治評論」「冗談」と称して発信した場合、選挙運動や落選運動に該当するかの判断は簡単ではありません。
表示義務を狭く解釈すれば、悪意ある発信者が制度を迂回します。広く解釈しすぎれば、一般市民の批評や風刺を萎縮させます。総務省の指針と実際の運用では、次の区別を具体化する必要があります。
- 実在人物の言動と誤認させるコンテンツ
- 誰が見ても創作だと分かる風刺やパロディー
- 報道・検証のために偽素材を引用する場合
- AIによる軽微な補正、字幕、翻訳
- 選挙期間前に投稿され、期間中に再拡散した落選運動向けコンテンツ
ラベルが「免罪符」になる危険
「AI生成」と表示されていても、内容が虚偽なら問題は消えません。小さな表示を付けた上で、本物らしい候補者映像を大量配信する手法も考えられます。
さらに、正当なAI活用と悪質な成り済ましが同じラベルで示されれば、有権者は危険度を判断しにくくなります。「AIを使用」だけでなく、「実在人物の顔・声を合成」「演出映像」「翻訳音声」といった用途別表示を業界標準として整える余地があります。
削除だけでは遅い
投票日前日の夜に偽動画が拡散した場合、裁判や通常の照会手続では間に合いません。一方、行政や事業者が十分な確認なしに削除すれば、正当な政治的言論を封じる危険があります。
必要なのは、削除か放置かの二択ではありません。
- 拡散・推薦を一時的に抑える
- 未確認情報であることを目立つ形で表示する
- 候補者本人や選挙管理側の訂正情報を併記する
- 広告配信と収益化を停止する
- 証拠保全を行い、検証後に措置理由を公開する
- 異議申立てを短時間で処理する
こうした段階的な対応なら、被害を抑えながら誤削除の影響も限定できます。
誰が費用と責任を負うのか
国が法律を作るだけでは足りず、候補者、自治体、報道機関、プラットフォームが選挙前から役割を決めておく必要があります。
AI偽情報対策には、監視システム、通報窓口、真偽確認、法務審査、多言語対応などの費用が発生します。大手政党や巨大プラットフォームには対応余力がありますが、無所属候補や小規模自治体、地域メディアには重い負担です。
主体別に必要となる備え
- 候補者・政党：公式サイトと公式SNSを明示し、偽情報への訂正手順と連絡窓口を用意する
- 選挙管理委員会：個々の政策内容の真偽判定ではなく、公式な選挙情報、投票方法、日程に関する訂正を迅速に出す
- 警察・行政：違法性の判断と証拠保全を行い、政治的内容そのものへの介入を避ける
- プラットフォーム：通報の優先処理、推薦抑制、広告主確認、措置理由の記録を行う
- 報道・検証機関：元映像、発言記録、投稿履歴を確認し、訂正を分かりやすく届ける
- 生成AI事業者：なりすまし抑制、来歴情報、電子透かしなどを改善する
地方自治体に新たな監視責任を広く負わせるのは慎重であるべきです。選挙管理委員会が候補者の発言内容を日常的に審査すれば、中立性への疑念を招きます。行政は公式情報の提示と関係機関への接続に徹し、政治的主張の検証は独立した報道・ファクトチェック機関が担うのが基本です。
表現の自由との両立――規制すべきは「不快な意見」ではない
守るべき線は、政府に不都合な情報の排除ではなく、有権者を欺く成り済ましと操作的な拡散への対処です。
政治的表現には、誇張、批判、価値判断が含まれます。「この政策では地域が衰退する」という主張は、反対側が不正確だと考えても、直ちに削除すべき虚偽情報とは限りません。
一方、「候補者本人が実際には言っていない発言をしたように合成する」「架空の事件を実写映像のように示す」といった行為は、有権者が前提とする事実を偽装します。政策への評価と、事実の捏造は分けなければなりません。
制度運用では、少なくとも次の原則が必要です。
- 措置基準を選挙前に公開する
- 政党や主張の内容ではなく、偽装方法と具体的な害を基準にする
- 削除・表示・推薦抑制など、措置の種類と理由を記録する
- 政治的立場にかかわらず同じ基準を適用する
- 発信者が迅速に異議を申し立てられるようにする
- 選挙後、件数、対応時間、誤判定を検証可能な形で公表する
年1回の実施状況公表だけでは、選挙ごとの対応を比較しにくい可能性があります。国政選挙や統一地方選挙の後には、措置件数、平均対応時間、異議申立ての結果をまとめた検証報告を求めるべきです。
有権者が投票前にできる確認
個人にすべての責任を負わせるべきではありませんが、拡散前の数分で被害を減らせます。
内閣官房は、情報源、他の報道、画像の使い回し、発信の意図、ファクトチェック結果を確認するよう呼びかけています。選挙情報では、次の順番が実用的です。
- 投稿を保存しても、すぐには再投稿しない
- 候補者・政党の公式サイトや認証済み公式アカウントを確認する
- 発言の全編、会見記録、街頭演説の元動画を探す
- 複数の報道機関やファクトチェックを確認する
- 画像検索を使い、古い写真や無関係な映像の転用でないか調べる
- 確認できなければ「未確認」として扱い、投票判断の決め手にしない
AI生成物には不自然な指や口の動きが現れることがあります。しかし、見た目だけで判定する方法は長続きしません。生成技術が改善すれば手掛かりは消えます。「映像の違和感」より「発信元と元記録」を確認する方が確実です。
また、「AIを使った」という理由だけで偽物と決めつけてはいけません。字幕生成や音声補正にAIが使われていても、発言内容そのものが真正である場合があります。
今後の注目点――施行までに詰めるべき四つの課題
2027年3月の施行までに、法律の文言を実際の選挙で動く手順へ変えられるかが問われます。
1. 総務省指針の具体性
大規模プラットフォームに求める「必要な措置」が抽象的なままでは、事業者ごとの対応差が広がります。緊急通報の受付時間、本人確認、推薦抑制、異議申立て、透明性報告の最低基準が焦点です。
2. 音声・海外発信・選挙前投稿への対応
音声単体、国外からの投稿、公示・告示前に仕込まれたコンテンツをどう扱うのか。現行の表示義務で届かない領域を、既存法、事業者の利用規約、国際協力でどう補うかを整理する必要があります。
3. 地方選挙の緊急連絡網
候補者が偽動画を発見してから、プラットフォーム、警察、選挙管理委員会、報道機関へ連絡するまでの経路を一本化できるかが重要です。制度があっても、休日や夜間に窓口が動かなければ投票直前の攻撃には対応できません。
4. 効果を測る指標
削除件数が多ければ成功とは限りません。見るべきなのは、通報から措置までの時間、訂正が元投稿の閲覧者へ届いた割合、誤削除の件数、広告や推薦による増幅を止められたかです。
まとめ――民主主義を守る鍵は「真偽判定の速さ」と「検証可能性」
事実として、AIを用いた選挙関連の画像・映像への表示義務と、大規模プラットフォームの対策義務を盛り込んだ改正法は成立しました。日本の制度は、発信者だけでなく拡散経路にも責任を求める段階へ進みます。
一方、表示は万能ではありません。音声単体、匿名・海外発信、投票直前の大量拡散、正当な政治表現の誤削除といった課題は残ります。
次に見るべきなのは、規制の厳しさを競う議論ではありません。
- 偽情報への初動は何時間で行われるのか
- 訂正は元の閲覧者へ届くのか
- 政治的立場に左右されない基準になっているか
- 地方選挙でも同じ水準の対応が可能か
- 誤判定を検証し、修正できる仕組みがあるか
生成AI時代の選挙で必要なのは、「有権者が偽物を見抜けるはずだ」という期待ではありません。本物の出所を確認でき、偽物が広がったときは投票前に訂正が届く制度です。2027年3月までに問われるのは、その実務をどこまで具体化できるかです。