大手企業が採用、AIによる従業員メッセージ分析の波紋

Last Updated on 2024-06-19 22:14 by 門倉 朋宏

AI企業のAwareが従業員メッセージの分析を行っており、Walmart、Delta、T-Mobile、Chevron、Starbucksなどの大手企業がこのサービスを利用していることが明らかになった。AwareのAIモデルは、テキストを読み取り、いじめ、ハラスメント、差別、不遵守、ポルノグラフィ、ヌードなどの行動を特定する能力を持つ。ただし、分析ツールは個々の従業員の名前を特定することはできないが、eDiscoveryツールを使用することで特定のリスク行動に関連する従業員名を特定することが可能である。

AIによる従業員監視には倫理的な懸念が存在する。AI accountability nonprofit Humane Intelligenceの共同創設者Jutta Williamsは、このような監視が「思考犯罪」になる可能性を指摘している。従業員のプライバシー侵害や労働者の権利問題、データの匿名化や集計化の問題、AIモデルの透明性や説明可能性の欠如が懸念されている。

AIによる従業員メッセージの分析は急速に拡大しており、さまざまな業界で使用されている。Awareの収益は過去5年間で年平均150%増加し、顧客は通常約3万人の従業員を抱えている。Awareの競合にはQualtrics、Relativity、Proofpoint、Smarsh、Netskopeなどがあり、この技術は企業の意思決定や政策の評価に役立つ情報を提供している。

【ニュース解説】

AwareというAI企業が、従業員のメッセージを分析する技術を提供しており、Walmart、Delta、T-Mobile、Chevron、Starbucksなどの大手企業がこのサービスを利用していることが明らかになりました。この技術は、テキストを読み取り、いじめ、ハラスメント、差別、不遵守、ポルノグラフィ、ヌードなどの行動を特定する能力を持っています。分析ツールは個々の従業員の名前を特定することはできませんが、eDiscoveryツールを使用することで、特定のリスク行動に関連する従業員名を特定することが可能です。

この技術の背景には、企業が従業員のコミュニケーションをリアルタイムで把握し、企業文化や従業員の満足度を向上させる目的があります。しかし、AIによる従業員監視は、プライバシー侵害や労働者の権利問題、データの匿名化や集計化の問題、AIモデルの透明性や説明可能性の欠如など、多くの倫理的な懸念を引き起こしています。

AIによる従業員メッセージの分析は、企業が従業員の意見や感情をより深く理解することを可能にします。これにより、企業は従業員の満足度を高め、生産性を向上させるための施策を講じることができます。また、いじめやハラスメントなどの問題を早期に発見し、対処することも可能になります。

しかし、この技術の使用は、従業員のプライバシーを侵害する可能性があり、従業員が監視されていると感じることで、信頼関係が損なわれるリスクもあります。また、AIモデルが誤った判断を下す可能性もあり、その場合、従業員が不当に処分される恐れもあります。

このような技術の導入にあたっては、従業員のプライバシーを尊重し、透明性を確保するためのガイドラインや規制が必要です。また、AIモデルの判断基準やプロセスを明確にし、従業員が納得できる説明責任を持つことが重要です。

将来的には、AIによる従業員監視技術がさらに発展し、より精度の高い分析が可能になると予想されます。しかし、その一方で、プライバシー保護や倫理的な問題に対する議論も深まることでしょう。企業は、技術の進歩と倫理的な責任のバランスを取りながら、従業員との信頼関係を築いていく必要があります。

from AI might be reading your Slack messages: 'A lot of this becomes thought crime'.