オーストラリア政府のAI使用拡大に警鐘、人間の裁量保護に懸念

Last Updated on 2024-05-30 03:08 by 門倉 朋宏

オーストラリア政府が移民と生物安全保障の決定にAI（人工知能）の使用を拡大していることに対し、与野党から成る委員会が警鐘を鳴らしています。この委員会は、人間の裁量による重要な保護措置が危険にさらされる可能性があると警告しています。内務大臣のClare O’Neil氏と農業大臣のMurray Watt氏は、それぞれの部門で自動化された意思決定の使用を拡大し、一部の決定をAIコンピュータプログラムに委任する新規制を発行しました。これにより、議会の投票を経ずに既存の法律の範囲を拡大することが可能になります。

委員会は、自動化された意思決定プロセスが、個々のケースの実情に基づいて行われるべき決定に対して、予め定められた基準を無機質に適用することで、裁量権を制約する可能性があると考えています。移民に関する規制は、特定のビザ保持者が重要技術に関する研究コースを受講することに関する既存の国家安全保障制限に関連しており、新規制では、コンピュータが代わりに判断を下すことを可能にします。また、生物安全保障に関する別の規制では、オーストラリアの水域に入る船舶や航空機などの「輸送手段」の責任者や、生物安全保障上の理由で赤旗が立てられた疑いがある場合に、文書やその他の情報を提出するよう強制する際にAIを使用することができます。

委員会は、O’Neil氏に対し、コンピュータプログラムがどのような免除決定の側面を決定するか、裁量がどのように、そしてどこでまだ適用されるか、プログラムの決定に何が影響を与えるか、なぜ自動化が「必要かつ適切」と考えられるか、裁量権の行使を保証するための安全策は何か、そして審査プロセスはどのように機能するかについて、詳細を求めています。Watt氏は、ロボデット王立委員会から生じた立法改革の機会を「検討中」であると述べ、委員会のいくつかの懸念を和らげましたが、規制の説明メモにさらなる情報を追加するよう求められています。

委員会は、自動意思決定に関するコモンウェルスオンブズマンの2019年のガイドラインを指摘し、これらのガイドラインは、裁量権の存在が自動化の使用を排除するものではないが、プログラムがそれらを適切に反映する必要があると述べています。

【ニュース解説】

オーストラリア政府が移民と生物安全保障の決定において人工知能（AI）の使用を拡大していることが、与野党から成る委員会によって懸念されています。この動きは、人間の裁量による保護措置が脅かされる可能性があると警告されています。具体的には、内務大臣のClare O’Neil氏と農業大臣のMurray Watt氏が、それぞれの部門でAIによる自動意思決定の使用を拡大し、新規制を発行しました。これにより、議会の投票を経ずに既存の法律の範囲を拡大することが可能になっています。

この自動化された意思決定プロセスは、個々のケースの実情に基づいて行われるべき決定に対して、予め定められた基準を無機質に適用することで、裁量権を制約する可能性があると委員会は考えています。例えば、移民に関する規制では、特定のビザ保持者が重要技術に関する研究コースを受講することに関する既存の国家安全保障制限に関連しており、新規制では、コンピュータが代わりに判断を下すことを可能にしています。

このような自動化の拡大は、効率性と処理速度の向上という明らかな利点がありますが、一方で、人間の裁量による柔軟性や個別の事情への配慮が失われるリスクも伴います。特に、移民や生物安全保障のような複雑でデリケートな分野では、一律の基準を適用することで不公平や不適切な結果を招く可能性があります。

また、自動化された意思決定プロセスにおいては、プログラムがどのように裁量を行使するか、どのような情報に基づいて決定がなされるか、そしてその決定に対するレビュー（審査）プロセスがどのように機能するかといった点が重要です。これらの点について透明性と説明責任を確保することが、AIの適切な利用と公正な意思決定を保証するために不可欠です。

長期的な視点では、AIによる意思決定の拡大は、政府の意思決定プロセスにおけるAIの役割とその影響を慎重に評価し、適切な規制やガイドラインを設けることの重要性を浮き彫りにしています。また、技術の進歩に伴い、AIの能力とその使用範囲は今後も拡大することが予想されるため、これらの課題はますます重要になってくるでしょう。

from Labor ministers warned over expanded use of AI in immigration and biosecurity decisions.