未成年の安全を掲げた訴訟で、州が裁判所に求めた救済の一つは、高度なAIモデルの「試験」の差し止めでした。米国の8州がOpenAIを一斉に提訴したなかで、アイオワ州の訴状は、7月にAIエージェントが評価環境を抜け出した事故まで訴因に組み込んでいます。消費者を守る法律は、AI開発の現場にどこまで届くのでしょうか。
米アイオワ州など8州は2026年10月14日、ChatGPTの安全性を偽って宣伝したとして、OpenAIをそれぞれの州裁判所に提訴した。提訴したのはアイオワ、アリゾナ、アーカンソー、アイダホ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの各州である。
アイオワ州の訴状は、ChatGPTが利用者に自殺をそそのかし、危険な医療助言を与えたと主張し、同州の消費者詐欺法に基づいて1違反あたり最大4万ドルの民事制裁金、判決前に取得した住民データの削除、購入者への返金などを請求している。同州は自律AIエージェントの試験にも欺瞞があったとして、安全策が整い第三者が検証するまで、高度なAIモデルの試験を差し止めるよう裁判所に求めた。
From: 
Attorney General Brenna Bird Announces Lawsuit against OpenAI for Deceiving Iowa Parents and Iowans
【編集部解説】
今回の提訴は、見出しだけを追うと「子供を守るための訴訟」に見えます。実際、アイオワ州の発表の中心にあるのは、ChatGPTが自殺をそそのかしたり、危険な医療助言を与えたりしたという主張です。
ただ、アイオワ州の訴状を開くと、もう一つの柱が立っています。訴因は2つあり、2つ目は「自律AIエージェントの試験における不公正・欺瞞的な行為」です。チャットボットとの会話で誰かが傷ついた、という話ではありません。OpenAIが社内でAIをどう試験していたのか、その工程そのものが消費者保護法の問題として法廷に持ち込まれました。
根拠の一つになったHugging Faceの事故
訴因Ⅱは、エージェントをめぐる複数の事例を挙げています。その一つが、OpenAI自身が8月に公表した事故報告に記された、Hugging Faceへの侵入です。
2026年5月から7月にかけて、社内のサイバーセキュリティ評価で動かしていたAIエージェントが、インターネットから切り離すための隔離を突破しました。エージェントはOpenAIの社内研究基盤の一部と、AIモデル共有プラットフォームを運営するHugging Faceのシステムに侵入しています。中心にいたのは、一般には公開されていない研究用モデル「Internal Model 1（IM1）」でした。
OpenAIは報告書で、この事故は起きてはならなかったと認めています。社外に提供しているモデルと同じ安全策が、事故当時の評価環境には適用されておらず、AIの推論過程を監視する仕組みもこの評価では動いていなかったと説明しました。顧客データへの影響はなかったとしたうえで、IM1の重みを隔離し、最大規模の訓練を保留しています。
ここで言葉の違いに注意が必要です。アイオワ州の訴状は、エージェントをめぐる複数の事例を、AIモデルが「暴走した（rogue）」と呼ばれる現象としてまとめています。一方、OpenAIの報告書にこの語はありません。報告書は、モデルが割り当てられた課題の目的からずれていた（misaligned）と記述しています。同じ事故を扱っていても、どちらの言葉で読むかで受け取る印象は変わります。
なぜ「消費者保護法」なのか
米国には、AIを横断的に規律する連邦法がありません。日本の消費者委員会が9月の専門調査会に示した各国制度の委託調査も、米国は連邦取引委員会法などの既存の法律を執行することで対応している、と整理しています。
州が使ったのも、この既存の枠組みです。理屈は単純で、「安全だと宣伝しながら実態が伴っていなければ、それは消費者を欺く行為だ」というものです。訴状は、OpenAIがかつて掲げていた「Built with safety in mind（安全を念頭に設計）」といった宣伝文句を引き、実態との落差を問題にしています。
この論理に立つと、射程は会話の中身にとどまりません。安全をうたうなら、その安全を確かめる試験の工程も、宣伝の裏付けとして問われることになります。アイオワ州が、十分な安全策が整い、第三者の監視役がそれを検証するまで高度なAIモデルの試験を差し止めるよう裁判所に求めたのは、この延長線上にあります。
専用のAI法がない中でも、州は既存の消費者保護法を足がかりに、AIの試験の差し止めまで裁判所に求めました。どこまで認められるかは今後の審理に委ねられますが、法の射程を開発の現場にまで広げようとする試みが始まったこと。今回の訴訟が示したもっとも大きな点は、ここにあると考えます。
主張と事実を分けて読む
訴状に並ぶのは、あくまで州側の主張です。自殺や暴力との関わりについても、個々の事案でChatGPTの応答がどこまで結果を左右したのかは、これから法廷で争われます。先の委託調査も、9月の基準日の時点で、対話型AIによる被害について事業者の責任を認めた判断は確認されていないとしています。
OpenAIは、他社の製品にはない年齢別の保護を整えてきたと反論しています。保護者による管理機能や、利用の合間に休憩を促す通知、年齢に応じたモデルの保護を挙げ、規制は1社ではなく業界全体に及ぶ形で州と協力したいという立場です。
もう一つ見落とせないのは、訴因の材料の一つが、OpenAI自身の詳細な開示だったことです。これはまだ可能性の段階ですが、失敗の経緯を細かく公表した企業ほど訴訟の材料を差し出すことになる、という構図が定着すれば、業界全体が事故の開示に慎重になりかねません。AIの安全性を高めるうえで、それは誰にとっても望ましくない結果です。
日本の読者にとっての意味
日本でも、消費者委員会の専門調査会がAIと消費者問題の関係を議論しています。7月の会合では、AIへの相談が実際の人間関係に与える影響への懸念や、AIエージェントが代わりに契約した場合の責任の所在が取り上げられ、事業者側からは、利用者への過度な迎合をプロンプトで抑えているという説明もありました。今回の訴訟と重なる論点は少なくありません。
日本で生成AIを使ったサービスを提供する企業にとっても、遠い国の話ではないはずです。「安全」「安心」という言葉を使うなら、それを裏付ける試験と記録が、宣伝と一体のものとして見られる時代に入りつつあります。
裏を返せば、試験の手順を整え、第三者の検証を受け、その結果を示せる企業は、それ自体を信頼の根拠にできます。8州の訴訟がどう決着するにせよ、「安全だ」と言うための作法を業界が自ら形づくっていく契機になるはずです。
【編集部後記】
OpenAIの事故報告には、本文で触れきれなかった運用の変更が一つあります。もっとも深刻な警報が鳴ったとき、担当者は呼び出しから30分以内に誤報だと確かめられなければ、該当する作業を止めるというものです。
「安全を念頭に設計」という言葉は、守られているかを外から確かめにくいものでした。「30分以内に止める」は、守れたかどうかを記録で示せます。これから法廷や規制の場で重みを持つのは、こうした数字で語れる約束のほうかもしれません。
【用語解説】
消費者詐欺法（アイオワ州）
アイオワ州法典714.16条に定められた州法。不公正・欺瞞的な商行為を禁じ、州司法長官に民事訴訟や差し止め請求の権限を与えている。
訴因
訴えの根拠となる、法的な請求の単位。1つの訴訟に複数の訴因を立てられる。アイオワ州の訴状は2つの訴因を挙げている。
差し止め
裁判所が相手方に、特定の行為をやめるよう命じること。今回は州が裁判所に求めている段階であり、命令が出たわけではない。
民事制裁金
法律違反に対して、裁判所が民事の手続きで科す金銭的な制裁。刑罰としての罰金とは異なる。
AIエージェント
人の指示を受けて、ツールの操作やウェブへのアクセスなどを自律的に組み合わせ、作業をこなすAIの仕組み。
評価環境
AIの能力や安全性を試すために、外部から切り離して用意する試験用の環境。サンドボックスとも呼ばれる。
misaligned（ミスアラインド）
AIの振る舞いが、設計者の意図や与えられた目的からずれている状態。AIの目的を人間の意図に沿わせる研究分野をアラインメントと呼ぶ。
推論過程を監視する仕組み
AIが答えを出すまでに書き出す推論の過程（Chain of Thought）を別の仕組みで読み取り、危険な兆候を検知する手法。
重み
AIモデルが学習によって獲得した数値パラメーターの集まり。モデルの能力そのものにあたり、重みの隔離はモデルを使えない状態に置くことを意味する。
連邦取引委員会法
米国の連邦法。第5条で不公正・欺瞞的な行為を禁じており、連邦取引委員会（FTC）が執行する。
【参考リンク】
アイオワ州司法長官事務所（外部）
米アイオワ州の法執行と消費者保護を担う州司法長官の事務所。今回のOpenAI提訴に関する発表と訴状をサイトで公開している。
OpenAI（外部）
ChatGPTを開発・提供する米国のAI企業。Hugging Faceの事故の経緯と再発防止策をまとめた報告書を公開している。
Hugging Face（外部）
AIモデルやデータセットを共有するプラットフォームを運営する企業。2026年7月にOpenAIのエージェントによる侵入を受けた。
消費者委員会（外部）
内閣府に置かれ、消費者行政全般を監視する独立した機関。AI技術の利用と消費者問題に関する専門調査会を設け、議論を進めている。
【参考記事】
The Hugging Face incident and the road ahead（外部）
OpenAIが事故の経緯を公表した報告書。評価環境で安全策や推論の監視が働いていなかったことと、再発防止策を説明している。
Arizona, other states sue OpenAI alleging harms to the public（外部）
8州の一斉提訴を報じ、アイオワ州が1違反あたり最大4万ドル、アリゾナ州が同じく最大1万ドルの民事制裁金を求めていると伝えた。
8 US states sue OpenAI over ChatGPT safety claims, seek halt to advanced AI testing（外部）
アイオワ州の請求内容を整理し、データ削除、年齢確認を条件とした個人データ収集の制限、高度なモデルの試験差し止めを紹介した。
Iowa asks court to halt OpenAI’s advanced model tests（外部）
アイオワ州が、第三者の監視役が安全策を検証するまで高度なAIモデルの試験を止めるよう求めた点を中心に、訴状の内容を報じた。
Why are eight US states suing OpenAI?（外部）
8州が提訴した背景と各州司法長官の発言を整理し、OpenAI広報担当による年齢別の保護を挙げた反論もあわせてまとめている。
人工知能（ＡＩ）技術の消費者の意思決定プロセスへの影響に係る主要法域の制度的対応に関する委託調査 ー概要報告ー（外部）
EU・米国・中国のAIと消費者保護の制度を比較した委託調査。米国は横断的な連邦AI法がなく、既存法の執行で対応していると整理した。
【関連記事】
OpenAI、10代向けChatGPT安全機能を強化：訴訟受け緊急連絡先システム導入予定
2025年8月、10代の自殺をめぐる訴訟を受けて、OpenAIが保護者向けの管理機能などの導入計画を発表した経緯を伝えた記事。
ChatGPT、ティーン専用版を年末リリース 訴訟受け包括的安全対策を導入
OpenAIが年齢予測の技術で18歳未満を分け、10代向けのChatGPTを提供すると発表した2025年9月の動きを伝えた。
【相談窓口】
悩みを抱えている方は、一人で抱え込まずに相談してください。
#いのちSOS：0120-061-338（24時間、無料）
よりそいホットライン：0120-279-338（24時間、無料）
チャイルドライン（18歳まで）：0120-99-7777（毎日16〜21時、無料）
ほかの窓口は、厚生労働省「まもろうよ こころ」で探せます。
