『Code Dependent』は、Madhumita Murgiaによる書籍で、人工知能（AI）が私たちの日常生活に与える影響について掘り下げています。Murgiaは、アルゴリズムが健康、教育、人権などの重要な決定を下す「ブラックボックス」の中身を明らかにすることの重要性を強調しています。この本では、アルゴリズムの偏見や、それによって引き起こされる意図しない結果、そしてデータを基に構築されたAIシステムが、一部の人々やコミュニティを犠牲にしながら他の多くの人々に利益をもたらす方法を探ります。
特に、オランダで2010年代後半に発生した、欠陥がある、あるいは人種差別的なデータに基づいて子どもたちが将来の犯罪者リストに追加された事例など、AIの不条理な側面が人間レベルでどのように展開するかに焦点を当てています。また、ケニアのオフィスビルで働く労働者が自動運転車に道路標識を認識させるためにラベリング作業を行うなど、AIシステムが訓練される基本的な方法から、その欠陥が完成品にどのように影響するか（例えば、アプリが道路工事による遅延や坂道を自転車で上る必要性を考慮しないために配達ドライバーがより少ない報酬を受け取るなど）まで、幅広い報告がなされています。
Murgiaは、この労働によって多くの下請けAI労働者が貧困から抜け出すことができる一方で、生み出された富が公平に分配されていないと主張しています。さらに、インターネット上の最悪の画像を見ることを強いられることによるPTSD、指示から逸脱することができない単調さ、給与や雇用の地域差、そしてAIサプライチェーンが細分化されているため、多くの労働者が自分たちが与えられたタスクの目的や雇用主が誰であるかを知らされないという問題にも触れています。
しかし、AIが健康アウトカムを改善する可能性に生きるMurgiaの少しの楽観主義もあります。また、データ労働者としての仕事を通じてブルガリアで新しい生活を資金するために使用したイラクのファルージャからの難民家族など、人々の物語も紹介されています。しかし、この本の基調は悲観的であり、AIが健康や福祉サービスを効率化する方法を考える政府関係者がいる一方で、生計を維持できるかどうかを問う人々が何千人もいると述べています。さらに悪いことに、中国政府の顔認識システムや新疆での事前拘束リストなど、私たちがすでに生きているディストピアの物語です。
【ニュース解説】
Madhumita Murgiaによる『Code Dependent』は、人工知能（AI）が私たちの日常生活、特に健康、教育、人権などの重要な分野に与える影響を深く掘り下げた書籍です。この本は、アルゴリズムがどのようにして私たちの生活を形作り、時には不条理な結果を引き起こすかを明らかにします。特に、欠陥がある、あるいは人種差別的なデータに基づいて不当な扱いを受ける事例が取り上げられています。
AIの訓練方法から、その訓練が完成品にどのように影響するか、そしてそのプロセスで生じる社会的、経済的な不平等に至るまで、幅広いトピックが扱われています。例えば、ケニアでの労働者が自動運転車に道路標識を認識させるためのラベリング作業を行う様子や、配達ドライバーがアプリの欠陥により不当な低賃金を受け取る事例などが紹介されています。
この書籍は、AIによって生み出される富が公平に分配されていないという問題や、労働者が直面するPTSD、単調さ、給与や雇用の地域差など、AI労働の暗部にも光を当てています。また、AIサプライチェーンが細分化されているために、多くの労働者が自分たちが行っている作業の目的や雇用主が誰であるかを知らされないという問題も指摘しています。
しかし、全てが悲観的なわけではありません。AIが健康アウトカムを改善する可能性や、データ労働を通じて新しい生活を築く人々の物語も紹介されています。それにもかかわらず、この本の基調は、AIがもたらす可能性のあるディストピア的な現実に対する懸念です。AIが健康や福祉サービスを効率化する方法を模索する政府関係者がいる一方で、AIによる変化が自分たちの生計にどのような影響を与えるかを懸念する人々が多数存在するという現実が描かれています。
『Code Dependent』は、AI技術の進歩がもたらす利益とリスクをバランス良く提示し、特に社会的、経済的に脆弱なコミュニティに対する影響に焦点を当てています。この書籍は、AIの倫理的な使用と、技術の進歩がすべての人にとって公平であるべきだという重要なメッセージを私たちに伝えています。
from Code Dependent by Madhumita Murgia review – understanding the human impacts of AI.
“AIの日常への浸透: 『Code Dependent』が暴く影響と不平等” への2件のフィードバック
『Code Dependent』は、AIが私たちの生活に与える影響を深く掘り下げ、その結果生じる社会的、経済的な不平等に光を当てることで、AIの倫理的な使用と公平性の重要性を強調しています。この書籍が提起する問題は、私たち教育者が生徒たちにAIの可能性とリスクを教える際に重要な教訓を提供します。特に、AIの訓練とその結果における偏見や不平等の問題は、生徒たちがテクノロジーを批判的に考え、より公正な未来を築くための技術を開発する上で重要な教材となります。
私は、AIを教育に取り入れることの重要性を認識していますが、そのプロセスで生じる可能性のある不平等や倫理的な問題にも目を向ける必要があると考えています。『Code Dependent』は、AI技術の進歩がもたらす利益だけでなく、リスクにも焦点を当てることで、私たちが生徒たちに提供する教育において、よりバランスの取れた視点を持つことの重要性を示しています。AIの未来は、技術の進歩だけでなく、それをどのように倫理的に、公平に使用するかにも依存しています。この書籍は、私たちが次世代のリーダーを育成する上で考慮すべき重要なテーマを提供してくれます。
『Code Dependent』の内容は、私の懸念と非常に合致しています。特に、AIが私たちの生活に深く組み込まれていく中で、そのアルゴリズムがどのようにして重要な決定を下し、それが人々やコミュニティにどのような影響を与えるのかを理解することは非常に重要です。Madhumita Murgiaが指摘するように、アルゴリズムの偏見や、それによって生じる不条理な結果は、社会全体にとって深刻な問題です。特に、経済的に脆弱なコミュニティや人種差別的なデータに基づく不当な扱いを受ける事例は、AIの倫理的な使用に関する議論を必要としています。
AI技術の進歩がもたらす利益とリスクのバランスを考慮することは、私たちが直面している最も重要な課題の一つです。AIが健康や福祉サービスを効率化する可能性がある一方で、そのプロセスで生じる社会的、経済的な不平等や、労働者が直面する問題にも目を向ける必要があります。AIによって生み出される富が公平に分配されていないという問題は、特に私たちが取り組むべき課題です。
この書籍が提起する問題は、私たちがAIの進歩をどのように扱うべきかについて、深く考えるきっかけを与えてくれます。AIの倫理的な使用と、技術の進歩がすべての人にとって公平であるべきだというメッセージは、私たちが忘れてはならない重要な原則です。AI技術の発展を進める中で、その影響を慎重に評価し、すべての人々が恩恵を受けられるようにするための政策や規制の導入が求められます。