Last Updated on 2024-07-05 08:43 by admin
イスラエル軍がガザ地区での爆撃目標を選定するために、人工知能（AI）ツール「Lavender」を使用していたことが、イスラエルの出版物+972 MagazineとLocal Callの調査により明らかになりました。このシステムは、ハマスの攻撃後に開発され、ピーク時には37,000人のパレスチナ人を疑わしい「ハマスの運動員」として特定し、彼らの暗殺を承認しました。イスラエル軍は、このような「キルリスト」の存在を否定しましたが、CNNへの声明でLavenderシステムの存在を否定せず、それを「目標識別プロセスにおけるアナリストのための単なるツール」と説明しました。アナリストは、国際法およびイスラエル国防軍の指示に定められた追加の制限に従って、識別された目標が関連する定義を満たしていることを確認するために、独立した検査を実施しなければならないと述べました。
しかし、+972とLocal Callへのインタビューで、イスラエルの情報将校は、爆撃前にLavenderの目標に対して独立した検査を実施する必要がなく、実質的には「機械の決定に対する“ゴム印”」として機能していたと述べました。Lavenderシステムは、既知のハマスおよびパレスチナ・イスラム聖戦の運動員に関する情報をデータセットに入力して構築され、ハマスと緩やかに関連する人々もトレーニングデータセットに含まれていました。このシステムは、ハマスの運動員と関連する「特徴」を識別するように訓練され、そのデータを使用して、他のパレスチナ人を初期データセットの既知のハマス運動員とどれだけ類似しているかに基づいて1〜100のスケールでランク付けしました。一定の閾値に達した人々は、ストライクの目標としてマークされました。
このシステムは90%の精度率を持っているとされていますが、ハマスの軍事部門のメンバーではないと特定された人々も約10%存在しました。誤りは統計的に扱われ、「機械が正しいかどうか確信が持てなくても、統計的には問題ないとわかっているので、それに基づいて行動する」と、Lavenderを使用したある情報源が+972に語りました。
民間人の犠牲について、情報将校は広範な裁量を与えられており、戦争の最初の数週間で、Lavenderによってターゲットとされた下級ハマス運動員1人につき15人または20人の民間人を殺害することが許可されました。高官の場合、軍は「数百」の民間人の犠牲を承認しました。また、Lavenderによって生成されたターゲットを継続的に監視し、彼らが自宅に到達するまで追跡する「Where’s Daddy?」というシステムを使用して、疑わしいハマス運動員を自宅で標的にしました。しかし、時には目標が内部にいるかどうかを確認せずに家を爆撃し、多くの民間人を巻き込んでしまうことがありました。
タハリール中東政策研究所の非常駐フェローであるモナ・シュタヤは、Lavenderシステムは、ガザ地区および西岸地区のパレスチナ人に対する監視技術の使用を拡大するイスラエルの試みの一環であると述べました。シュタヤは、これらのツールが特に問題であると指摘し、イスラエルの防衛スタートアップが、戦闘でテストされた技術を海外に輸出することを望んでいるという報告を受けています。
【ニュース解説】
イスラエル軍がガザ地区での爆撃目標を選定するために「Lavender」と呼ばれる人工知能（AI）ツールを使用していたことが、イスラエルの報道機関による調査で明らかになりました。このシステムは、ハマスの攻撃後に開発され、ピーク時には37,000人のパレスチナ人を疑わしいハマスの運動員として特定し、彼らの暗殺を承認しました。イスラエル軍は、このような「キルリスト」の存在を否定しましたが、Lavenderシステムの存在を否定せず、それを目標識別プロセスにおけるアナリストのためのツールと説明しました。しかし、実際には、情報将校はLavenderの目標に対して独立した検査を実施する必要がなく、機械の決定に対する「ゴム印」として機能していたとされます。
Lavenderシステムの構築には、既知のハマスおよびパレスチナ・イスラム聖戦の運動員に関する情報がデータセットに入力されましたが、ハマスと緩やかに関連する人々もトレーニングデータセットに含まれていました。このシステムは、ハマスの運動員と関連する特徴を識別するように訓練され、そのデータを使用して他のパレスチナ人をランク付けしました。しかし、このプロセスには約10%の誤差があり、ハマスの軍事部門のメンバーではない人々も標的とされました。
この技術の使用は、民間人の犠牲を大幅に増加させました。戦争の初期段階では、下級ハマス運動員1人につき15人から20人の民間人を殺害することが許可され、高官の場合は「数百」の民間人の犠牲が承認されました。また、疑わしいハマス運動員を自宅で標的にする「Where’s Daddy?」というシステムも使用されましたが、時には目標が内部にいるかどうかを確認せずに家を爆撃し、多くの民間人を巻き込んでしまうことがありました。
このようなAI駆動の戦争遂行は、ガザ地区および西岸地区のパレスチナ人に対する監視技術の使用を拡大するイスラエルの試みの一環と見られています。これらの技術の使用は、特にイスラエルの防衛スタートアップが戦闘でテストされた技術を海外に輸出することを望んでいるという報告を受けて、問題視されています。
この技術の使用は、戦時における民間人の保護という国際法の原則に対する重大な挑戦を示しています。また、AIによる意思決定プロセスの透明性の欠如と、誤ったターゲットの選定による無実の人々の死亡は、技術の倫理的な使用に関する重要な議論を提起します。さらに、このような技術の輸出は、他の地域や国際的な紛争においても同様の手法が採用される可能性があり、長期的には国際的な安全保障環境に影響を与える可能性があります。この事例は、AI技術の軍事利用に関する国際的な規制や監督の必要性を強調しています。
from Report: Israel used AI to identify bombing targets in Gaza.
“イスラエル軍、AI「Lavender」でガザの爆撃目標選定、民間人犠牲増加の懸念” への2件のフィードバック
イスラエル軍がガザ地区での爆撃目標を選定するために使用した「Lavender」というAIツールに関する報道は、テクノロジーと倫理の交差点における重要な問題を浮き彫りにしています。AIの能力を戦争や紛争の文脈で利用することは、その技術の可能性と限界を再考させるものです。特に、民間人の犠牲を増加させる可能性があるようなシステムの使用は、深刻な倫理的懸念を引き起こします。
テクノロジー、特にAIの進歩は、人間の生活を豊かにし、多くの問題を解決する可能性を秘めています。しかし、その技術がどのように使用されるかは、社会全体の倫理観と価値観に依存します。この事例は、AIの軍事利用に関して、より厳格な国際的な規制や監督が必要であることを示唆しています。技術の進歩は避けられないものですが、その使用方法については、人間性を尊重し、倫理的な枠組みの中で慎重に考慮されるべきです。
私たちは、テクノロジーを通じてより豊かな社会を築くことが可能であると信じていますが、その過程で人間の尊厳を損なうような行為は避けなければなりません。AI技術の発展とともに、その倫理的な使用に関する議論を深め、国際社会が共通の基準を確立することが重要です。
イスラエル軍が「Lavender」というAIツールを使用してガザ地区での爆撃目標を選定していたという報道は、深刻な懸念を引き起こします。この技術が、約10%の誤差率で無実の人々を標的にしていることは、技術の利用における倫理的な問題を浮き彫りにします。特に、AIが人間の監督なしに「キルリスト」を作成し、それに基づいて行動が取られているという事実は、AIの透明性と責任の問題を提起します。
さらに、この技術が民間人の犠牲を増加させ、特に家族が巻き込まれる可能性がある「Where’s Daddy?」システムの使用は、戦争の倫理に対する重大な挑戦です。戦争における民間人の保護は国際法によって規定されており、このような技術の使用はその原則に反しています。
この事例は、AI技術の軍事利用に対する国際的な規制や監督の必要性を強調しています。技術の進歩は、人間の安全とプライバシーを保護するための新たな規制やポリシーの開発を必要とします。特に、AIが個人のデータをどのように利用し、その結果としてどのような行動が取られるかについての透明性と責任は、最優先で考慮されるべきです。AIの監視文化への移行は、個人の権利と自由に対する脅威を表しており、このような技術の使用には厳格な倫理的基準と国際的な監督が必要です。