Google Messagesが「Sensitive Content Warnings」正式導入 – AIがヌード画像を自動検出・ぼかし表示、未成年保護を強化

2025年4月23日13:23

AI（人工知能）ニュース

Last Updated on 2025-04-23 13:23 by admin

Googleは2025年4月21日、Android向けメッセージアプリ「Google Messages」において、AIによる画像解析を活用した新機能「Sensitive Content Warnings（センシティブコンテンツ警告）」の提供を開始した。

この機能は、ヌード画像などセンシティブな内容を含む画像を自動で検出し、受信時に画像をぼかして警告を表示するものである。ユーザーは警告画面から画像を表示するかどうかを選択でき、送信時にも同様の警告と確認プロセスが表示される。

未成年ユーザー
- この機能を自分でオフにすることはできず、保護者が「Google Family Link」から設定を変更することができる。
未成年であっても保護者管理下にない13～17歳のユーザー
- 自分で機能をオフにできる。
成人ユーザー
- デフォルトではオフのままである。

画像の解析や警告表示はAndroidの「SafetyCore」システム上で端末内完結で行われ、画像データや判定結果がGoogleのサーバーに送信されることはない。現時点ではこの機能は一部のベータ版ユーザーを対象に段階的に展開されており、動画には対応していない。今回の機能追加は、デジタルコミュニケーションの安全性とプライバシー保護を両立させるGoogleの最新の取り組みである

from Google Messages Sensitive Content Warnings for nudity rolling out

【編集部解説】

Googleが導入した「Sensitive Content Warnings」機能は、AIによる画像解析を活用し、ユーザーが意図せずセンシティブな画像を受信・送信してしまうリスクを低減するものです。

特に注目すべきは、画像解析と警告処理がすべてユーザーの端末内で完結するオンデバイス処理で実現されている点です。これにより、画像データや判定結果がGoogleのサーバーに送信されることがなく、プライバシー保護と安全性の両立が図られています。

今回のアップデートは、未成年ユーザーの保護を強く意識した設計となっています。未成年ユーザーにはデフォルトでこの機能が有効化されており、保護者はGoogle Family Linkアプリを通じて設定を管理できます。

これにより、特に低年齢層の子どもが不用意にセンシティブな画像に触れるリスクが最小限に抑えられます。一方で、保護者管理下にない13歳から17歳の未成年や成人ユーザーについては、自己判断で機能のオン・オフを切り替えることができ、ユーザーの自律性も尊重されています。

このようなAIによるセンシティブコンテンツ検出技術は、今後さらに進化していくと考えられます。現時点では動画には対応していませんが、将来的に対応範囲が拡大する可能性もあります。また、誤検知や文化的な差異による判定の難しさといった課題も残っていますが、オンデバイスAIの進化やユーザーからのフィードバックを通じて、精度や使い勝手の向上が期待されます。

今回のGoogleの取り組みは、デジタル社会における安全性とプライバシー保護の両立という現代のテクノロジーが直面する大きな課題に対する一つの答えです。今後、他のメッセージングサービスやSNSにも同様の機能が広がることで、より安心してデジタルコミュニケーションを楽しめる環境が整っていくでしょう。