ChatGPTが登場して数年、AIはあっという間に私たちの生活に溶け込みました。けれど、その進化の速さに「安全のルールづくり」は追いついているでしょうか。NEDOを中心とする5つの組織が公開したのは、派手な新技術ではなく、AIを安心して使うための共通の決まりごとです。画像と文章を同時に扱うAIの品質をどう保証するか、医療現場でAIと医師の意見が分かれたらどうするか、お年寄りを見守るAIの安全性をどう確かめるか——。これまでバラバラに語られてきたこれらの課題に、設計から運用までを貫く一本の「ものさし」で答えようとする試みです。AIの主役が「すごい新モデル」から「暮らしを支える基盤」へと移りつつある今、その足元を固める動きが本格的に始まりました。
NEDOが推進した「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」において、NEDO、産業技術総合研究所（産総研）、株式会社Citadel AI、株式会社コーピー、琉球大学の5者は、AIシステムの安全性確保のための共通基盤となるガイドラインや評価プロトコルを開発・策定し、2026年5月28日に公開した。
産総研はマルチモーダルAI品質マネジメントガイドラインを策定し、クロスモーダル照応能力を4段階に分類した。Citadel AIは「生成AI実践ガイドと企業事例集」を体系化した。コーピーはISO/IEC 42001に整合した生成AI安全性評価プロトコルと実装ガイドを整備した。産総研と琉球大学はHuman-AI Teamingにおける安全性確保手法を提示し、2026年6月の人工知能学会全国大会で公表予定である。産総研は日常生活領域の評価・検証基盤を構築し、2026年4月に人間中心AIライフテックコンソーシアム（HAIL）を発足させ、6月から活動を開始する。
From: 
人とAIの安全な協調を支えるAIセーフティ基盤を構築しました | ニュース | NEDO
【編集部解説】
まず押さえておきたいのは、今回の発表が「新しいAIモデルが完成した」という類のニュースではない、という点です。NEDOらが公開したのは、AIを安全に使うための「共通の物差し」と「手順書」です。地味に映るかもしれませんが、AIが実社会に溶け込む段階にある今、こうした足場の整備こそが普及の速度を左右します。
背景にあるのは国際的な潮流です。2023年のG7広島サミットで立ち上がった広島AIプロセスを起点に、各国がAIの安全性ルールづくりを競っています。英国と米国は2023年末にAIセーフティ・インスティテュート（AISI）を設立し、日本も2024年2月にAISIを発足させました。その後、英国は「AI Security Institute」へ、米国は「Center for AI Standards and Innovation（CAISI）」へと改称しており、両国とも国家安全保障やセキュリティ面でのAIリスクへの関心を強めている点も見逃せません。今回の事業は、その国際的な枠組みづくりを、研究開発の側から下支えするものと位置づけられます。
技術的に最も核となるのが、産総研による「マルチモーダルAI品質マネジメントガイドライン」です。聞き慣れない「クロスモーダル照応能力」という言葉がカギになります。これは、画像とテキストという異なる形式の情報を、AIが正しく結びつけられるかという能力のこと。たとえば写真に写った人物と説明文の人物が同一だと認識できるか、といった話です。本ガイドラインはこの能力を4段階に分類し、用途ごとに「どこまでの精度が必要か」を見極める発想を導入しました。求められる水準が違えば、対策のかけ方も変わる——この当たり前のようで体系化されてこなかった考え方を整理した点に意義があります。
実装寄りの成果も充実しています。Citadel AIは企業へのヒアリングをもとに「生成AI実践ガイドと企業事例集」をまとめ、行政手続きに不慣れな外国人住民を想定したチャットボットをGitHubで公開しました。コーピーは、AIマネジメントの国際規格であるISO/IEC 42001に沿った安全性評価プロトコルを整備しています。規格と現場をつなぐこうした作業は、企業がAI導入時に直面する「何をどう確認すればいいのか分からない」という壁を取り払うものです。
とりわけ示唆に富むのが、産総研と琉球大学による医療現場でのHuman-AI Teaming研究です。AIと医師の判断が食い違ったとき、どう最終決定を下すか——という極めて実践的な問いに踏み込んでいます。注目すべきは、人間がAIの精度を正しく認識できない場合があり、その誤認がAIの使い方に影響しうると確認した点です。AIを過信することも、逆に軽視しすぎることも危うい。協働の難しさを率直に示した知見と言えます。
日常生活領域では、見守りAIの安全性を検証するため、現実の「フィジカルリビングラボ」と仮想空間の「サイバーリビングラボ」を融合させた環境を構築しました。転倒やふらつきといった、頻繁には起きないが見逃せない事象を仮想的に作り出し、評価データに使う発想です。これにより、家庭や介護施設という、これまでデータ取得が難しかった領域でも安全性を測れるようになります。
ポジティブな側面は明快です。共通の評価軸が整えば、AI導入をためらっていた中小企業や医療・介護の現場が、リスクを見える化しながら導入を判断しやすくなる可能性があります。「安全だから使える」への転換を後押しする基盤となりそうです。
一方で、留意すべき点もあります。今回はあくまでガイドラインや評価手法という「枠組み」であり、強制力を持つ規制ではありません。普及するかどうかは、企業がこれを採用するかという自主性に委ねられています。本事業の期間が2025年度の単年度であったことも踏まえると、成果をいかに継続的に育て、標準化や制度設計へつなげていけるかが今後の焦点になります。
長期的に見れば、この取り組みは日本がAIガバナンスの国際標準づくりで存在感を示せるかという問いに直結します。罰則を伴う規制で律するEUのAI規制法とは対照的に、日本はガイドラインを中心としたソフトローや、現場での実装知見の蓄積を重視してきました。6月に活動を始める「人間中心AIライフテックコンソーシアム（HAIL）」や、同じく6月の人工知能学会全国大会での発表が、その成果を社会に広げる最初の試金石となるでしょう。
私たちが「なぜ今これを報じるのか」。それは、AIの主役が華やかな新モデルから、それを安心して暮らしに組み込む段階へと移りつつあるからです。未来を「触りたい・関わりたい」と願う読者にとって、安全という土台の整備は、その未来を現実にするための欠かせない一歩なのです。
【用語解説】
AIセーフティ
AIを安全・安心に使えるようにするための考え方や技術の総称。性能の高さとは別に、誤作動・偏り・悪用などのリスクをどう抑えるかに焦点を当てる。
広島AIプロセス
2023年のG7広島サミットで立ち上がった、生成AIの国際ルールづくりの枠組み。日本が主導し、開発者向けの国際指針や行動規範の策定につながった。
マルチモーダルAI
テキスト、画像、音声、動画など複数の形式のデータを同時に扱えるAI。画像を見て文章で説明する、といった処理が可能になる。
クロスモーダル照応能力
画像とテキストなど、異なる形式の情報の間で、同じ対象や出来事を正しく対応づける能力。今回のガイドラインでは、この能力を4段階に分類している。
Human-AI Teaming（人とAIの協働）
人とAIが役割を分担し、協力して判断や行動を行う関係性。最終決定権を人が持つ場合に、両者の判断が食い違ったときの扱いが課題となる。
ISO/IEC 42001
AIを開発・提供・利用する組織が、AIに関するリスクを体系的に管理するための国際規格。AIマネジメントシステムの世界初の規格として知られる。
フィジカルリビングラボ／サイバーリビングラボ
前者は現実空間に構築した生活実験環境、後者は仮想空間上の模擬環境。両者を組み合わせ、転倒など実測が難しい行動のデータも作り出す。
見守りAI
高齢者や家庭などで、人の様子をカメラやセンサーで把握し、異常を検知するAIシステム。プライバシー保護とデータ取得の難しさが課題とされる。
CAISI（Center for AI Standards and Innovation）
米国のAIセーフティ・インスティテュート（AISI）が改称した機関名。「Safety」から「Standards and Innovation」へと名称が変わった。
EU AI規制法（EU AI Act）
EUが定めたAIの包括的規制。リスクの高さに応じて義務や罰則を課す、世界初の本格的なAI規制法として位置づけられる。
【参考リンク】
NEDO（新エネルギー・産業技術総合開発機構）（外部）
本事業を推進した国立研究開発法人。日本の代表的な公的研究開発マネジメント機関である。
産業技術総合研究所（産総研／AIST）（外部）
本事業の中核を担う公的研究機関。マルチモーダルAIガイドラインなど複数の成果を主導した。
Citadel AI（外部）
AIの品質・安全性評価ツールを開発する東京のスタートアップ。生成AIの実践ガイドを体系化した。
コーピー（Corpy&Co.）（外部）
高信頼AIの開発に取り組む企業。ISO/IEC 42001に整合した安全性評価プロトコルを整備した。
琉球大学（外部）
沖縄県の国立大学。産総研と共同で医療現場を想定したHuman-AI Teaming研究を実施した。
AIセーフティ・インスティテュート（AISI）（外部）
AIの安全性評価手法や基準を検討する日本の政府系機関。2024年2月にIPA内に設置された。
生成AI実践ガイドと企業事例集（Citadel AI）（外部）
企業が生成AIを安全に運用するための実践的ノウハウをまとめた成果物の紹介ページ。
2026年度 人工知能学会全国大会（第40回）（外部）
Human-AI Teaming研究の成果が2026年6月に公表される予定の国内最大級の年次大会。
人間中心AIライフテックコンソーシアム（HAIL）（外部）
見守りAIの安全性評価などを議論する場として産総研が2026年4月に発足させた組織。
【参考動画】
【参考記事】
Japan Releases Comprehensive AI Safety Framework Spanning Medical, Home and Generative AI（IBTimes JP）（外部）
本ニュースの英語報道。クロスモーダル照応能力の4段階分類やHAILの発足時期など、数値と日付を整理して伝えている。
AISI、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定（IPA）（外部）
医療分野に特化した評価ガイドの発表。具体的に10項目の評価観点を掲載し、医療特有のリスクを示している。
Launch of AI Safety Institute（経済産業省）（外部）
日本がAISIを2024年2月14日にIPA内へ設置・発足したことを伝える経産省の公式英語発表。
Center for AI Standards and Innovation (CAISI)（NIST）（外部）
米国の旧AISIが改称した組織の公式ページ。標準・イノベーションと国家安全保障上のAIリスク評価を重点に掲げる。
Tackling AI security risks to unleash growth and deliver Plan for Change（GOV.UK）（外部）
英国がAI Safety InstituteをAI Security Instituteへ改称した政府発表。安全保障リスクへの重点移行を説明。
【関連記事】
日立「AIデブリーフィング技術」発表 Naivyと統合し作業者・AI・ロボットの共進化を加速
「人とAIの共進化」を掲げる日立の新技術。今回のHuman-AI Teaming(人とAIの協調)と問題意識が重なる一本。
金融庁×Anthropic・OpenAI・Google、AI脅威に挑む官民作業部会発足
日本AISIや英国AI Security Instituteなど各国の体制に触れた記事。本件の国際的背景パートと接続できる。
AI無法地帯の終焉：欧州新標準『ETSI EN 304 223』が日本企業に迫る「2026年の決断」
AIの安全性に関する標準整備を扱った記事。レッドチーミングや評価など、今回の評価プロトコルと共通の論点を含む。
【編集部後記】
AIの安全性というテーマは、つい「専門家が考えるもの」と感じてしまいがちです。けれど今回の成果を読み解くと、医療の現場でも、家庭の見守りでも、結局はそれを使う人の納得や安心が問われていることに気づかされます。
技術が先に進むほど、私たち自身が「どう関わるか」を考える余白も広がっていく。そんな時代の入り口に立っている感覚を、読者のみなさんと共有できればと思います。
