採用AI監査、ニューヨーク市の企業は法律遵守に苦戦

Last Updated on 2024-01-25 08:56 by

【ダイジェスト】

ニューヨーク市では、企業が採用過程でAIアルゴリズムを使用している場合、その事実を公開し、年に一度ソフトウェアの監査を行い、人種や性別に対する偏見の可能性を特定することが義務付けられています。この監査結果は、企業のウェブサイトのキャリアセクションに掲載する必要があります。

しかし、コーネル大学の研究者たちがニューヨーク市に本社または大規模なオペレーションを持つ391の雇用主を分析したところ、必要な監査報告書をウェブサイトに掲載しているのはわずか18社に過ぎないことが明らかになりました。研究者たちは、監査結果の通知を見つけることが「困難で、時間がかかり、イライラする作業」であると述べています。

コーネル大学のジェイコブ・メトカーフ氏は、企業が法の適用範囲を判断する際に「ほぼ無制限の裁量」を与えられているため、遵守率が低いと指摘しています。この状況は、法律が求職者にとって限定的な価値しか持たないことを示していると研究者たちは言います。

この法律の遵守状況については、ウォールストリートジャーナルでも報じられており、記事全文を読むには有料サブスクリプションが必要かもしれません。このような法律の実効性に関する議論は、AIの透明性と公正性を確保するための取り組みが、実際にはどの程度の影響を持っているのかを考える上で重要な指標となります。

AI技術の進歩に伴い、採用プロセスにおけるAIの利用は増加していますが、その適用に際しては、偏見を生まないように注意が必要です。ニューヨーク市のような法律が制定されることで、企業はその責任をより意識することになるでしょう。しかし、法律が定められただけでは不十分であり、企業が法律を遵守し、その精神を実践するための具体的な行動が求められます。

【ニュース解説】

ニューヨーク市では、企業が採用過程で人工知能（AI）アルゴリズムを使用している場合、その使用事実を公開し、年に一度ソフトウェアの監査を行って人種や性別に対する偏見の可能性を調査し、その結果をウェブサイトのキャリアセクションに掲載することが義務付けられています。この法律は、AIによる採用が公正で透明であることを確保するために制定されました。

しかし、コーネル大学の研究者たちが行った分析によると、ニューヨーク市に本社または大規模なオペレーションを持つ391の企業のうち、この義務を果たしているのはわずか18社であることが判明しました。研究者たちは、監査結果を見つけることが非常に困難であると述べています。これは、法律が定められても、企業がそれを遵守していない、または遵守するためのガイドラインが不十分であることを示唆しています。

この法律の遵守率が低い理由として、企業が自身が法の適用範囲にあるかどうかを判断する際に、大きな裁量を持っていることが挙げられます。つまり、企業が自己判断で法律の適用を避けることができるため、法律の効果が限定的になってしまっているのです。

AIを採用プロセスに導入することは、効率化やより良い人材の発掘につながる可能性がありますが、同時に、アルゴリズムに内在する偏見によって不公平な採用結果を生むリスクもあります。このため、AIの使用を透明にし、定期的な監査を通じて偏見を検出し、是正することが重要です。

このニュースは、AIの公正性と透明性を確保するための法律が、実際にはどの程度効果を発揮しているかについての重要な指摘をしています。法律があるだけでは不十分であり、企業が積極的に法律を遵守し、その精神を実践することが求められます。また、法律の適用範囲や遵守のためのガイドラインを明確にすることも、効果的な運用には不可欠です。将来的には、このような法律の遵守を促進し、AIによる採用が公正であることを保証するための追加的な措置が必要になるかもしれません。

from Few Companies Follow New York City's AI Hiring Law.