HMD（Human Mobile Devices）社が、AIを活用してヌード画像をブロックする子供向けスマートフォン「HMD Fuse」を発売した。同機種に搭載された「HarmBlock+」機能は、オンライン安全企業SafeToNet社が開発したAIモデルを使用し、子供がヌードコンテンツの撮影・送信・閲覧・保存を防ぐ。このAIは2,200万件の有害なヌード画像で事前トレーニングされ、カメラやすべてのアプリ、ライブストリームでも動作する。
Vodafoneの調査によると、高校生年代の子供の5人に1人が自分の露骨な画像を共有するよう圧力を感じており、保護者の46%が子供の露骨な画像受信に懸念を抱いている。HMD Fuseには位置追跡やアプリ制限などの安全機能も搭載され、子供の成長に応じて機能をアンロックできる。現在は英国のVodafoneで月額33ポンド（初期費用30ポンド）で販売されており、今後オーストラリアを皮切りに他国展開を予定している。
From: 
HMD’s new phone uses AI to say no to nudes
【編集部解説】
HMD Fuseは、SafeToNet社が開発したHarmBlock AIを採用していますが、この技術は単なるフィルタリングソフトウェアとは根本的に異なります。従来のペアレンタルコントロールアプリは後付けでインストールされるため、技術的知識のある子供によって迂回される可能性がありましたが、HarmBlock+はオペレーティングシステムレベルに深く統合されています。これにより、VPNやプライベートブラウジングモードでも機能し、アプリの削除や設定変更では無効化できない構造となっています。
AIモデルの訓練において注目すべきは、「倫理的な事前訓練」という表現です。これは、有害コンテンツの検出精度向上のために必要なデータセットを、子供の安全を目的として合法的に収集・活用したことを意味しています。2,200万件という規模は、一般的な画像分類AIと比較しても大規模であり、高い検出精度を実現するための基盤となっています。
この製品が登場する背景には、既存の大手テック企業による類似機能の限界があります。Appleは2021年からCommunication Safety機能を提供していますが、これは警告表示に留まり、完全なブロックは行いません。一方、HMD Fuseは物理的にコンテンツの撮影・送信を阻止するため、より積極的な保護アプローチを採用しています。
技術的な観点では、オンデバイス処理によりプライバシーが保護される一方で、AIの誤検知リスクも存在します。医学的な画像や芸術作品、水着姿の家族写真などが過度にブロックされる可能性があり、子供の正常な学習や表現活動に影響を与える懸念があります。また、AIの判断基準が文化的・社会的背景に依存するため、グローバル展開時の調整が課題となるでしょう。
規制面では、欧州のDSA（デジタルサービス法）やオーストラリアのeSafety Commissionerが推進する子供保護規制との適合性が重要です。各国の規制当局は、プラットフォーム事業者に対してより積極的な子供保護機能を求めており、HMD Fuseのようなハードウェアレベルの対策が業界標準となる可能性があります。
長期的には、この技術がスマートフォン業界全体に与える影響が注目されます。現在は英国のVodafoneとThreeを通じて利用可能で、月額33ポンド（初期費用30ポンドが別途必要）である。将来的にはAndroidやiOSの標準機能として統合される可能性もあります。
【用語解説】
HMD（Human Mobile Devices）：フィンランドのスマートフォンメーカー。2016年にNokiaの元役員らが設立し、Nokia brandのライセンス契約を持つ。
HMD Fuse：HMD社が開発した子供向けスマートフォン。AI技術「HarmBlock+」を搭載し、ヌードコンテンツを自動ブロックする機能を持つ。
HarmBlock+：SafeToNet社が開発したAI技術。スマートフォンのオペレーティングシステムに深く統合され、ヌード画像の撮影・送信・閲覧を防ぐ。
SafeToNet：ロンドンに本社を置く英国のサイバーセキュリティ企業。2013年設立で、AI技術を活用した子供の安全保護ソリューションを提供する。
ペアレンタルコントロール：保護者が子供のデバイス使用を管理・制限する機能の総称。アプリアクセスやスクリーンタイム、位置情報追跡などを制御できる。
事前トレーニング（pre-training）：機械学習モデルが実用化される前に大量のデータで学習を行うプロセス。HarmBlock AIは2,200万件の有害画像で訓練された。
オンデバイス処理：データをクラウドに送信せず、端末内部で処理を完結させる技術。プライバシー保護とリアルタイム応答が可能になる。
Vodafone UK：英国の主要移動通信事業者。HMD Fuseの独占販売パートナーとして月額33ポンドで提供している。
【参考リンク】
HMD Global公式サイト（外部）
フィンランドのスマートフォンメーカーHMDの公式サイト。Nokia brandとHMD brandの両方の製品ラインナップと企業情報を提供している。
SafeToNet公式サイト（外部）
HarmBlock AI技術を開発した英国のサイバーセキュリティ企業の公式サイト。子供の安全保護技術に関する詳細情報とソリューション概要を掲載。
Vodafone UK HMD Fuseページ（外部）
Vodafone UKによる調査結果とHMD Fuse発売に関するプレスリリース。英国の子供が直面するオンライン安全問題の統計データを含む。
【参考記事】
This Phone for Kids Will Block the Capture of Nude Content From Within the Camera（外部）
CNETによる詳細技術解説記事。HMD Family副社長James Robinsonのコメントを含む製品発表の包括的レポート。
New HMD Fuse smartphone for children uses built-in AI to block nude content（外部）
Tech Digestによる製品発表記事。HMD FuseとHarmBlock+技術の主要機能6項目の詳細解説と価格情報を掲載。
Apple Expands Its On-Device Nudity Detection to Combat CSAM（外部）
WiredによるApple Communication Safety機能の分析記事。HMD Fuseとの比較対象として、既存の類似技術の限界を理解するのに有用。
20% of 11–17-year olds pressured into sharing explicit images（外部）
Vodafone UKの調査報告書。英国の子供における性的画像共有の実態とプレッシャーに関する統計データを詳細に記載。
【編集部後記】
子供の安全を技術で守るHMD Fuseの登場は、デジタルネイティブ世代の保護者にとって画期的な選択肢となりそうです。しかし、AIによる完全なコンテンツブロックが、子供のデジタルリテラシー向上の機会を奪う可能性はないでしょうか。また、文化的背景の異なる日本市場では、どのような調整が必要になるのでしょう。月額33ポンドという価格設定も気になるところです。技術的な保護と教育的なアプローチのバランスを、各家庭はどう見極めるべきなのでしょうか。
