欧州連合（EU）加盟国は、人工知能（AI）を規制する世界初の主要な法律について最終合意に達した。このAI法は、人工知能に関する包括的なルールセットを導入することを目指す画期的な規制である。ベルギーのデジタル化担当国務長官であるMathieu Michelは、「AI法の採択は欧州連合にとって重要なマイルストーンである」と述べ、新技術を扱う際の信頼、透明性、説明責任の重要性を強調し、同時にこの急速に変化する技術が繁栄し、ヨーロッパのイノベーションを促進できるようにすると付け加えた。
AI法はリスクベースのアプローチを採用しており、技術の応用が社会に対してどのような脅威をもたらすかに応じて、異なる扱いをする。この法律は、リスクレベルが「受け入れがたい」と考えられるAIの応用を禁止している。受け入れがたいAI応用の形態には、市民をデータの集約と分析に基づいてランク付けするいわゆる「社会的スコアリング」システム、予測型警察、職場や学校での感情認識が含まれる。高リスクAIシステムには、市民の健康、安全、および基本的権利に対するリスクを評価される自動運転車や医療機器、AIアルゴリズムに組み込まれたバイアスのリスクがある金融サービスや教育でのAIの応用が含まれる。
【編集部追記】このＡＩ法は世界基準になる可能性があります（もちろん、日本も）
5/21に成立した法案の全文は今後、数週間以内に欧州議会の官報で掲載されると思います。
5/22 18:00時点で最も新しい情報は欧州議会のウェブサイトにある2024年4月19日の修正案となります。
欧州議会によるAI規制法修正案（Corrigendum）の全文
以下、このPDFから要点を抜き出したものです。
———————————————————————————————
＜リスクベースのアプローチ＞
許容できないリスク（禁止）：社会スコアリングシステム、人の行動を隠れて操作するAI、公共空間での遠隔生体認証など
高リスク（厳格な規制）：重要インフラ、教育、雇用、法執行など。適合性評価、人間の監視、サイバーセキュリティ対策などが義務付けられる。
限定的リスク（透明性義務のみ）：チャットボット、ディープフェイクなど。AIと対話していることをユーザーに開示する必要がある。
最小限のリスク（規制なし）：ビデオゲーム、スパムフィルターなど
高リスクAIシステムへの要求事項
高リスクAIには、データガバナンス、技術文書化、ログ記録、透明性、人間の監視、サイバーセキュリティ、正確性などに関する厳格な要求事項が課されます。適合性評価を受ける必要もあります。
汎用AI（GPAI）モデルへの規制
GPAIの提供者は、意図された用途の開示、技術文書の作成、著作権法の遵守、学習データの要約公開などが求められます。特にシステミックリスクのあるGPAIには、APIアクセス提供、追加の透明性義務などが課されます。
執行体制と罰則
各国の市場監視当局がAI法の執行を担当。AIオフィスが監督機関として設置される。違反には最大で全世界売上の6%の制裁金が科されます。
段階的な施行スケジュール
AI法は2024年に発効し、禁止事項は6ヶ月後、GPAIの義務は12ヶ月後、高リスクAIの義務は36ヶ月後に適用開始となります。
———————————————————————————————
この修正案と5/21に成立した法案は、ほぼ同じ内容になるはずです。
まだ最新の全文翻訳が提供されていませんが、下記サイトで全体が把握できると思います。
【弁護士解説】日本の企業も知っておきたい…！EUのAI規制法案の概要について
（GVA法律事務所：森川そのか先生 2023/6/9～6/14）
※とても丁寧に、順をおって説明してくださっています。
EUのAI規則案の概要（総務省ウェブサイト掲載）
（弁護士・ニューヨーク州弁護士：三部 裕幸先生 2022/10/26）
※図解と配色が工夫されていて、頭に入りやすいです。
【ニュース解説】
欧州連合（EU）が人工知能（AI）を規制する世界で初めての主要な法律、AI法に最終合意に達しました。この法律は、AIに関する包括的なルールセットを導入することを目的としており、新技術の取り扱いにおける信頼、透明性、説明責任の重要性を強調しています。同時に、この急速に進化する技術が欧州のイノベーションを促進することを目指しています。
AI法はリスクベースのアプローチを採用しており、AIの応用が社会に対してどのような脅威をもたらすかに応じて、異なる扱いをします。例えば、市民をデータの集約と分析に基づいてランク付けする「社会的スコアリング」システムや、予測型警察、職場や学校での感情認識など、リスクレベルが「受け入れがたい」と考えられるAIの応用は禁止されます。
また、自動運転車や医療機器など、市民の健康、安全、および基本的権利に対するリスクを評価される高リスクAIシステムや、AIアルゴリズムに組み込まれたバイアスのリスクがある金融サービスや教育でのAIの応用も、この法律の対象となります。
このAI法の導入により、AI技術の開発と利用がより透明で責任あるものになることが期待されます。AI技術が社会に与える影響は計り知れないものがあり、特にプライバシーの侵害やバイアスの問題は深刻な懸念事項です。この法律は、そうした問題に対処し、AI技術の健全な発展を促進するための重要な一歩となります。
しかし、このような規制がAI技術のイノベーションを阻害する可能性もあります。規制が厳しすぎると、新しいアイデアや技術の開発が遅れることが懸念されます。そのため、規制とイノベーションのバランスを取ることが、今後の大きな課題となるでしょう。
長期的には、このAI法が他の国や地域にも影響を与え、世界的なAI規制の枠組みの構築に寄与する可能性があります。AI技術は国境を越えて利用されるため、国際的な協力と調和が求められる分野です。EUがこの分野でリーダーシップを取ることで、グローバルな基準の設定に向けた動きが加速するかもしれません。
from World’s first major law for artificial intelligence gets final EU green light.