センシティブな話題について、回答途中で突如として文章を消去し、別の話題に誘導する独特の検閲システムを実装。天安門事件、台湾問題、習近平国家主席関連の質問で顕著な検閲が確認されている。
中国のAIスタートアップ企業DeepSeekが開発したAIチャットボット「DeepSeek-R1」に関する主要な事実を以下にまとめる。
主要な事実
- DeepSeekのチャットボットアプリがApple App Storeで最もダウンロードされている無料アプリとなった
- このアプリの登場により、米国のテクノロジー株が急落した
- DeepSeek-R1は、一部のタスクではOpenAIのGPT-4と同等の性能を発揮すると主張されている
検閲に関する具体的な事例
- 天安門事件に関する質問への回答を途中で消去し、「数学やコーディングについて話しましょう」という文言に置き換えた
- 習近平国家主席と「くまのプーさん」の比較に関する質問を回避
- ウイグル族問題に関する質問への回答を制限
- 台湾については「中国の不可分の領土」という立場を表明
技術的特徴
- オープンソースモデルとして公開されている
- 複数のバージョンが存在し、中国本土でホストされているバージョンで検閲が最も顕著
- 個人のコンピュータで動作する小規模版では検閲の一貫性が低い
検閲回避の手法
- 英文字を数字に置き換える方法(例:「Tank Man」を「T4Nk M4N」と表記)で一部の制限を回避できることが判明
from:Chinese AI chatbot DeepSeek censors itself in realtime, users report
【編集部解説】
DeepSeekの事例から見える、AIの発展と情報統制の最前線について解説させていただきます。
まず注目すべきは、DeepSeekが技術的な面で示した驚異的な成果です。OpenAIやGoogleなどの巨大テック企業と比較して、はるかに少ないリソースで同等以上の性能を実現したとされています。特に数学、物理学、プログラミングの分野では、ChatGPTの2倍の速度で処理できることが報告されています。
このような技術的進歩は、AIの民主化という観点から重要な意味を持ちます。高性能なAIの開発には莫大な計算資源が必要とされてきましたが、DeepSeekの成功は、より少ない投資でも競争力のあるAIが開発可能であることを示しています。
一方で、DeepSeekの事例は、AIの発展における新たな課題も浮き彫りにしています。特に注目すべきは、リアルタイムでの自己検閲機能です。これは単なる事前の制限ではなく、回答の途中で内容を書き換えるという、より洗練された制御メカニズムを実装しています。
このような検閲システムは、中国国内向けのインターネットサービスでは一般的ですが、グローバルに展開されるAIサービスでこれほど明確な形で実装されたのは初めてのケースと言えます。
さらに興味深いのは、DeepSeekがオープンソースモデルとして公開されている点です。これにより、異なるバージョンが存在し、検閲の度合いも異なっています。特に個人のコンピュータで動作する小規模版では、検閲の一貫性が低いことが確認されています。
このような状況は、AIの開発と展開における重要な岐路を示しています。技術の進歩と情報の自由な流通のバランスをどのように取るべきか、グローバルなAIサービスにおける各国の規制をどのように調整していくべきかという課題に、私たちは直面することになるでしょう。
今後、同様のAIサービスが増加することが予想される中、DeepSeekの事例は、技術革新とガバナンスの両立という課題に対する重要な示唆を提供しています。
【参考用語】
- 自己検閲:組織や個人が外部からの圧力や規制を受けずに、自主的に情報の公開や表現を制限する行為。
- オープンソースモデル:ソフトウェアやAIモデルのソースコードを公開し、誰でも利用・改良・再配布できる形態。