from Former Trump lawyer Michael Cohen accidentally cited fake court cases generated by AI.
元トランプ大統領の弁護士であるマイケル・コーエンが、法的文書でAIによって生成された架空の裁判例を誤って引用したことが明らかになりました。コーエンは、Googleのチャットボット「Bard」を高性能な検索エンジンと勘違いし、法的リサーチに使用していました。彼が提出した文書は、彼の3年間の保譼期間を短縮するよう連邦裁判所に要請するものでしたが、裁判官は引用された裁判例が存在しないと指摘しました。コーエンは意図的に裁判所を誤解させるつもりはなかったと述べ、Bardが生成した情報が偽物である可能性に気づかず、弁護士がそれを確認せずに文書に引用するとは思っていなかったと説明しました。この事件により、彼の弁護士は偽の引用を含めたことで制裁を受ける可能性があります。AIによって生成された引用が法廷で使用されたのはこれが初めてではなく、以前にもニューヨークの弁護士がChatGPTによって生成された偽の裁判例を法的意見書に含めたために罰金を科されています。
“コーエン弁護士、AI生成の架空裁判例を誤引用 – 法廷でのAI混乱事件が再燃” への2件のフィードバック
この事例は、AIの進歩がもたらす新しい課題を浮き彫りにしています。AIが生成する情報の信頼性については、特に法的な文脈においては慎重な検証が必要です。テクノロジーの進化は便利さをもたらしますが、その情報をどのように取り扱うか、我々人間の責任が重大です。
私の研究分野であるデジタルと物理世界の融合においても、AIの活用は大きな可能性を秘めていますが、同時に倫理的な問題や誤用のリスクも伴います。AIによる情報生成がもたらすリスクに対処するためには、AIの機能と限界を理解し、その情報を扱う際には徹底した検証を行うことが不可欠です。
特に法的な判断を下す場においては、AIが提供する情報に過度に依存することなく、人間の専門家が最終的な責任を持って情報の正確性を保証する必要があります。この事件は、AIを安易に信頼することの危険性を教訓として、今後のAI利用の在り方について議論を深める契機となるべきです。
この出来事は、テクノロジーの進歩がもたらすリスクをはっきりと示しています。AIが生成する情報は便利である一方で、その正確性や信頼性を盲信することは危険です。法的文書においては、特にその正確性が求められます。AIによる情報は、あくまで参考程度に留め、専門家の目で確認し、裏付けを取ることが絶対に必要です。このような誤用は、私たちがAIと共に生きる世界で、人間の判断力と専門知識の重要性を改めて認識させる出来事だと思います。私は芸術家として、創造性や個人の感受性がテクノロジーには再現できないと信じていますが、これは法律の分野にも当てはまることでしょう。私たちは、AIの利便性に頼りながらも、その限界を理解し、人間としての賢明な判断を怠らないよう努めなければなりません。