2025年7月1日、イーロン・マスクが率いるX（旧Twitter）は、AIチャットボットがファクトチェック用の「コミュニティノート」を作成できる新機能の試験運用を発表した。
コミュニティノートは投稿の文脈や誤情報を補足する機能で、従来は人間が執筆していた。
AIが生成したノートも人間と同様に他のユーザーによる審査を経て公開される。
Xのプロダクト担当副社長キース・コールマンは、AIが人間を支援し最終判断は人間が行う設計であることを強調し、MIT、ワシントン大学、ハーバード大学、スタンフォード大学の研究者との共著論文も発表した。
一方、元英国テクノロジー・デジタル経済担当大臣ダミアン・コリンズは、AI導入が虚偽や陰謀論の拡散リスクを高めると警告した。
昨年の米大統領選前の誤解を招く投稿数百件を分析した結果、4分の3で正確なコミュニティノートが表示されず、これらの投稿は20億回以上閲覧された。
Xのユーザー数は約6億人。MetaやGoogleも同様の方針転換を進めている。
From:
Fears AI factcheckers on X could increase promotion of conspiracy theories
【編集部解説】
今回のXによるAI活用は、単なる効率化以上の意味を持ちます。従来のファクトチェックは専門知識を持つ人間が時間をかけて行うため、SNS上で拡散される膨大な情報量に対応しきれないという課題がありました。
AIの導入により、24時間体制で迅速な対応が可能になり、多言語対応や大規模処理も実現できます。特に緊急時や選挙期間中など、情報の真偽が重要な局面での対応力向上が期待されています。
しかし、AIには「ハルシネーション」と呼ばれる誤情報生成の問題があります。AIは文脈やニュアンスの理解が苦手で、確信を持って間違った情報を提供することがあるのです。これがファクトチェックという信頼性が最重要の分野で起きれば、逆に誤情報を拡散してしまう危険性があります。
さらに注目すべきは、この動きが業界全体の潮流となっていることです。MetaやGoogleも人間のファクトチェッカーを削減し、コミュニティベースやAI活用にシフトしています。これは情報の信頼性確保における責任の所在を、プラットフォーム企業からユーザーコミュニティへと移行させる重要な変化といえるでしょう。
長期的には、この変化が民主主義や社会の意思決定プロセスにも影響を与える可能性があります。正確な情報に基づく議論ができるかどうかは、社会の健全性に直結する問題だからです。
【用語解説】
ファクトチェッカー
情報の正確性や事実関係を検証する人や仕組み。AIや人間が担う場合がある。
コミュニティノート
X（旧Twitter）でユーザーが投稿に補足情報や事実確認の文脈を追加できる機能。複数のユーザーによる評価を経て公開される。
AIチャットボット
人工知能によって自動で会話や文章生成を行うプログラム。大規模言語モデル（LLM）を利用することが多い。
ハルシネーション
AIが事実に基づかない情報を生成してしまう現象。確信を持って間違った回答をする特徴がある。
ダミアン・コリンズ
元英国デジタル・文化・メディア・スポーツ委員会（DCMS）委員長、元英国テクノロジー・デジタル経済担当大臣。AI規制やオンライン安全法の策定にも関与。
【参考リンク】
X（旧Twitter）（外部）
世界中のニュース、エンタメ、スポーツ、政治など幅広い話題がリアルタイムで流れるSNS。コミュニティノート機能を提供している。
Full Fact（外部）
イギリスのファクトチェック団体。ニュースやSNSの誤情報を検証し、正確な情報提供を目指している。
Alan Turing Institute（外部）
英国の国立AI・データサイエンス研究所。AI倫理やセキュリティ分野の研究も行う。
X is letting AI bots write fact-checks — here’s why it could backfire（外部）
XがAI生成のコミュニティノートをテスト中であり、その仕組みやリスク、今後の展望を解説している。
X is turning to AI for fact-checking（外部）
XがAIによるファクトチェックを進める背景や、AIと人間の役割分担、潜在的な問題点を分析している。
What Are X / Twitter Community Notes And How Do They Fight Disinformation?（外部）
コミュニティノートの仕組みや運用方法、誤情報対策への効果について詳しく解説している。
【編集部後記】
AIによるファクトチェックは効率性と拡張性を約束する一方で、新たな課題も浮き彫りにしています。
皆さんは普段SNSの情報をどの程度信頼していますか？
人間が書いたファクトチェックとAIが生成したものを見分けることはできるでしょうか？
この変化は私たちの情報との向き合い方を根本から変える可能性があります。
情報リテラシーの重要性がますます高まる中、テクノロジーの進歩と情報の信頼性のバランスについて一緒に考えてみませんか。
サイバーセキュリティニュースをinnovaTopiaでもっと読む
