Last Updated on 2025-06-01 14:46 by admin

ユタ州控訴裁判所は2025年5月22日、ChatGPTで作成された虚偽の判例引用を含む法廷書面を提出した弁護士リチャード・ベドナー氏に制裁処分を科した。

事件名は「Matthew Garner v. Kadince, Inc.; Jared Hales; and Aaron Venezia」で、ベドナー氏とダグラス・ダーバノ氏が中間控訴申立書を提出したが、相手方代理人が「Royer v Nelson」という存在しない判例を発見した。

この判例はいかなる法的データベースにも存在せず、ChatGPTでのみ確認できた。書面は無資格の法務事務員が作成し、ベドナー氏は提出前に正確性を確認しなかった。

4月22日の審理でベドナー氏は責任を認め謝罪した。制裁として、ベドナー氏は相手方弁護士費用の支払い、依頼人への費用返還、法的非営利団体「and Justice for All」への1000ドル寄付を命じられた。

これはユタ州でAI生成コンテンツによる初の弁護士制裁事例となった。

From: US lawyer sanctioned after caught using ChatGPT for court brief

【編集部解説】

この事件は、単なる個別の弁護士の失態を超えて、法曹界全体が直面する構造的な課題を浮き彫りにしています。ChatGPTが生成した「Royer v Nelson」という架空の判例は、法的データベースには一切存在せず、AI特有の「ハルシネーション（幻覚）」現象の典型例となりました。

技術的背景の理解

生成AIの「ハルシネーション」とは、AIが実在しない情報を事実であるかのように自信を持って提示する現象です。ChatGPTのような大規模言語モデルは、膨大なテキストデータから統計的パターンを学習しているため、実際の事実確認機能は持っていません。法的文書の形式や引用スタイルは学習できても、その内容の真偽は判断できないのが現状です。

法的根拠と規則違反

ユタ州控訴裁判所規則第40条は、連邦民事訴訟規則第11条に対応する規則で、弁護士の署名により「合理的な調査に基づき法的主張が既存の法律に根拠を持つ」ことを証明する義務があります。今回の事件では、架空の判例は「既存の法律」ではないため、この規則に明確に違反しました。

他の類似事例との比較

裁判所は制裁を検討する際、他の管轄区域でのAI幻覚による制裁事例を参考にしたと明記しています。特に2023年の「Mata v. Avianca」事件（連邦地裁で5000ドルの制裁金）との比較で、今回の制裁内容が決定されました。

法曹界への波及効果

この事件以降、全米の法律事務所でAI利用ガイドラインの策定が急速に進んでいます。特に重要なのは、AI生成コンテンツの独立検証プロセスの確立です。

ポジティブな側面と課題

裁判所は「AI使用は技術の進歩とともに進化し続ける法的調査ツール」と認めつつも、「すべての弁護士が法廷提出書類の正確性を検証し確保する継続的な義務」を強調しました。適切に使用されたAIは法務効率を劇的に向上させる可能性がありますが、検証責任は人間の弁護士にあることが明確になりました。

長期的展望

この事件は「AI時代の法曹倫理」という新たな議論領域を開拓しました。技術の進歩に伴い、弁護士の職業的責任の定義も進化する必要があります。将来的には、AI利用に関する専門的な継続教育や、AI生成コンテンツの検証技術の発展が期待されます。

【用語解説】

ハルシネーション（幻覚）
生成AIが実際には存在しない情報を、もっともらしく事実であるかのように提示する現象。AIが統計的パターンから文章を生成するため、内容の真偽は判断できず、自然な文章の中に虚偽情報が混入する。

ユタ州控訴裁判所規則第40条
弁護士の署名により「合理的な調査に基づき法的主張が既存の法律に根拠を持つ」ことを証明する義務を定めた規則。連邦民事訴訟規則第11条に対応する州レベルの規則である。

中間控訴
本案判決前に、特定の争点について上級裁判所に判断を求める手続き。通常は最終判決後に控訴するが、重要な法的問題については例外的に認められる。

Per Curiam Opinion
裁判所全体の意見として発表される判決で、特定の裁判官の名前を冠しない形式。今回の事件でも Per Curiam Opinion として発表された。

【参考リンク】

OpenAI公式サイト（外部）
ChatGPTを開発・提供するAI企業OpenAIの公式サイト。最新情報、利用規約、AI安全性に関する取り組みなどを掲載

ChatGPT公式サイト（外部）
OpenAIが提供する対話型AI「ChatGPT」の公式利用サイト。無料版と有料版があり、アカウント登録後すぐに利用開始可能

ユタ州控訴裁判所公式サイト（外部）
ユタ州控訴裁判所の公式サイト。判例検索、裁判所規則、手続きガイドなどを提供している

FindLaw判例データベース（外部）
米国の判例を検索できる法的データベース。今回の「Matthew Garner v. Kadince, Inc.」事件の正式な判決文も掲載

【参考動画】

【編集部後記】

この事件は、私たちが日常的に使っているChatGPTの「もっともらしい嘘」について考えさせられる出来事ですね。法廷という厳格な場でも起こったこの問題は、私たちの仕事や学習でも十分起こり得ることではないでしょうか。皆さんは普段、AIが提供する情報をどこまで信頼していますか？また、AIを使う際にどのような確認作業を行っていますか？この機会に、ご自身のAI活用方法を見直してみませんか。

【参考記事】

Matthew Garner v. Kadince, Inc. 正式判決文（外部）
ユタ州控訴裁判所が2025年5月22日に発表した正式な判決文。事件の詳細な経緯、法的根拠、制裁内容について包括的に記載

Bednar COA Sanctions 裁判所文書（外部）
今回の制裁処分に関する裁判所の正式文書。制裁の具体的内容と法的根拠について詳細に記載されている

Utah attorneys face scrutiny for AI-assisted filing errors（外部）
事件の背景と法曹界への影響について分析した記事。AI利用における弁護士の責任について詳しく解説している

【関連記事】

テクノロジーと社会ニュースをinnovaTopiaでもっと読む