バークレー、ハーバード、オックスフォード、ケンブリッジ、イェール大学などの主要AI研究者とノーベル平和賞受賞者Maria Ressaらが、協調的に動作する悪意のあるAIエージェント群「AIスウォーム」が民主主義に深刻な脅威をもたらすと警告した。
この警告は2026年1月22日にScienceに掲載された。専門家らは、政治指導者が人間を模倣するAIの群れを使って世論を操作し、選挙を妨害する可能性があり、2028年の米国大統領選挙までに大規模展開される恐れがあると指摘した。
台湾初のデジタル大臣Audrey Tangやニューヨーク大学のGary Marcusらが参加するこの国際コンソーシアムは、AIが自律的に調整してコミュニティに侵入し、スラングを使ったり不規則に投稿したりして人間の行動を模倣しながら、虚偽情報を広める能力を持つと説明している。
AI駆動の影響力工作の初期バージョンは2024年の台湾、インド、インドネシアの選挙で既に使用された。
台湾ではThreadsとFacebookでAIボットが過去2〜3か月間に活動を増やしており、中立を装いながら若者に政治的無関心を促していると報告されている。
From: 
Experts warn of threat to democracy from ‘AI bot swarms’ infesting social media
【編集部解説】
2026年1月22日、学術誌Scienceに掲載された論文が、民主主義の未来に対する新たな脅威を警告しています。バークレー、ハーバード、オックスフォード、ケンブリッジ、イェール大学などの世界トップクラスの研究機関から集まった専門家たちが、LLM(大規模言語モデル)とエージェント型AIを組み合わせた「AIスウォーム」が、2028年の米国大統領選挙を含む世界中の選挙を混乱させる可能性があると指摘しました。
このAIスウォームとは、人間の振る舞いを巧妙に模倣する自律的なAIエージェントの群れです。従来のボットとは異なり、適切なスラングを使ったり、投稿タイミングを不規則にしたりすることで検出を回避し、時間をかけてコミュニティに溶け込んで弱点を学習します。さらに重要なのは、これらのAIが集団として協調動作し、情報を交換しながら目標を達成する能力を持つという点です。
台湾の事例は、この脅威が既に現実化していることを示しています。台湾民主進歩党の国会議員Puma Shenの証言によれば、過去2〜3か月間でThreadsとFacebookでのAIボット活動が急増しており、特に若年層に対して「中台問題は複雑だから中立でいるべき」というメッセージを浸透させようとしています。これは直接的に中国を称賛するのではなく、政治的無関心を促すという巧妙な戦術です。
台湾では深刻な状況が続いています。台湾の国家安全局による最近の報告では、2025年に45,000以上の偽アカウントと230万件以上の偽情報が検出されました。中国のIT企業が開発した自動化システムが大量のボットアカウントを管理し、AI生成コンテンツを拡散しています。また、2024年の台湾総統選挙では、候補者の映像を加工したディープフェイク動画が選挙直前に大規模拡散され、世論に影響を与えた事例も報告されています。
技術的な観点から見ると、この脅威は「エージェント型AI」の急速な発展によって加速されています。エージェント型AIとは、目標を与えられると自律的に計画を立て、複数のステップを経て目標を達成するシステムです。現在、複数のAIエージェントが協調して動作するマルチエージェントシステムの研究開発が急速に進んでおり、2024年から2025年にかけて企業からの問い合わせが1,445%急増したという報告もあります。
論文の著者の一人であるオスロのSintef研究所のDaniel Thilo Schroederは、実験室環境でAIスウォームをシミュレートしており、「ソーシャルメディアプラットフォームやメールを操作できる小規模なボット軍を簡単に作成できることは恐ろしい」と述べています。
この脅威がもたらす5つの段階的な被害が論文で指摘されています。まず、AIが協調してコンセンサスを捏造し、多数派の意見であるかのような錯覚を作り出します。次に、集団的知性の独立性を損ない、市民が証拠ではなく認識された規範に基づいて意見を形成するようになります。第三に、情報空間が断片化され、共有された現実が失われます。第四に、AIが生成した偽情報がLLMの訓練データに混入し、将来のAIモデル自体が汚染されます。最後に、標的となった個人への組織的なハラスメントが可能になります。
一方で、懐疑的な見方も存在します。国際情報環境パネルのアドバイザーであるInga Trauthigは、2024年の選挙でAI駆動のマイクロターゲティング能力は存在したものの、学者が予測したほどには使用されなかったと指摘しています。多くの政治プロパガンディストは依然として古い技術を使用しており、最先端のAI技術の採用は遅れています。
対策として、論文は「スウォームスキャナー」や透かし入りコンテンツ、分散型の「AI影響力監視機構」の設立を提案しています。この機構は学術グループ、NGO、市民社会機関のネットワークで構成され、企業や政府の利益から独立した監視を行うことを目指しています。
重要なのは、この問題が技術的な課題だけでなく、政治的なジレンマでもあるという点です。政治エリート自身が誤情報の主要な発信源であることが多く、自らのキャンペーンに有益と考える技術を制限することに消極的である可能性があります。また、テクノロジー企業は拡大を優先し、主要政党からの反発を恐れて有意義な変更の実施を拒否する可能性があります。
この論文が2028年の米国大統領選挙を特に懸念しているのは、技術の成熟度とタイミングが一致するためです。現在の技術トレンドから判断すると、2028年までにはAIスウォームの展開コストがさらに低下し、検出がより困難になると予測されています。
【用語解説】
AIスウォーム
協調的に動作する悪意のあるAIエージェントの群れ。LLM(大規模言語モデル)とマルチエージェント技術を組み合わせ、人間の社会的行動を模倣しながら自律的にコミュニティに侵入し、偽のコンセンサスを作り出す能力を持つ。
エージェント型AI(Agentic AI)
目標を与えられると自律的に計画を立て、複数のステップを経て目標を達成するAIシステム。従来のチャットボットとは異なり、状態を維持し、複雑なタスクを段階的に分解し、ツールを使用して情報を収集したり行動を起こしたりする。
LLM(大規模言語モデル)
膨大なテキストデータで訓練された人工知能モデルで、人間のような文章を生成できる。ChatGPTやClaudeなどがこれに該当する。
マイクロターゲティング
個人の属性、行動、興味に基づいて、特定の個人やグループに対してカスタマイズされたメッセージを配信する手法。政治キャンペーンやマーケティングで使用される。
ディープフェイク
AIを使用して作成された、実在の人物の偽の音声や映像。本物と見分けがつかないほど精巧に作られることがある。
認知戦(Cognitive Warfare)
情報操作を通じて標的集団の認知、判断、意思決定プロセスに影響を与えることを目的とした戦略。物理的な攻撃ではなく、心理的・情報的手段を用いる。
【参考リンク】
Science(外部)
米国科学振興協会(AAAS)が発行する世界最高峰の学術誌。今回のAIスウォーム論文を掲載した。
How malicious AI swarms can threaten democracy – arXiv(外部)
Science誌掲載論文のプレプリント版。Daniel Thilo Schroederら22名著者の詳細分析。
SINTEF(外部)
ノルウェー最大の独立研究機関。論文主著者Daniel Thilo Schroederの所属機関。
BI Norwegian Business School(外部)
ノルウェーの名門ビジネススクール。論文著者Jonas Kunst教授が所属している。
台湾情報環境研究センター(IORG)(外部)
台湾の情報環境改善に取り組む研究機関。中国からの偽情報キャンペーン分析を実施。
Cofacts(外部)
台湾の市民ファクトチェックプラットフォーム。LINEなどで拡散される偽情報を検証。
【参考記事】
Malicious AI swarms pose emergent threats to democracy(外部)
EurekAlert!によるScience論文の公式プレスリリース。論文主要ポイントと著者コメント掲載。
Taiwan warns China is launching AI and deepfakes campaigns(外部)
台湾国家安全局が2025年に45,000偽アカウントと230万件偽情報検出と報告。中国IT企業の自動化システム詳細。
AI-Generated Disinformation 2024 Taiwan Presidential(外部)
2024年台湾総統選挙でのAI生成ディープフェイク動画影響分析。候補者映像加工と選挙直前大規模拡散事例を詳述。
AI Chatbots Shown to Sway Voters(外部)
AIチャットボットが有権者意見を数パーセントポイント変化させる研究結果。コーネル大学David Rand教授ら最新研究紹介。
AI Bot Swarms Spread Adaptive Disinformation(外部)
AIボットスウォームが適応的偽情報拡散し選挙と民主主義を脅かす現状分析。2024年選挙が試験場となった指摘。
7 Agentic AI Trends to Watch in 2026(外部)
2026年エージェント型AIトレンド解説。マルチエージェントシステム問合せ2024年Q1から2025年Q2で1,445%急増のGartnerデータ紹介。
How AI Threatens Democracy(外部)
生成AIが民主主義に与える脅威を包括的に分析。有権者と政府関係者両方への影響論じ対抗策提案。
【編集部後記】
私たちが日々接するSNSのタイムライン上で、どれが本物の人間で、どれがAIなのか、もはや区別することは困難になりつつあります。この記事で紹介したAIスウォームの脅威は、遠い未来の話ではなく、台湾で既に起きている現実です。2028年の米国大統領選挙まで、あと2年余り。この問題について、皆さんはどのように考えますか。個人として、また社会として、どのような備えが必要でしょうか。ぜひご意見をお聞かせください。
