欧州議会は先週、人工知能に関する先駆的な法案の可決に近づき、急速に進化しているものの規制は最小限に抑えられているこの技術の基準を設定することを目指す法案を前進させた。
6月14日水曜日、欧州議会はAI法として知られる法案を承認しました。世界初の包括的なAI法とされるこの法案は、欧州連合（EU）加盟27カ国におけるAI技術の導入と利用に関するルールブックとなります。
AI法案は、公共の場でのリアルタイム顔認識技術の使用や、欧州議会が「侵入的かつ差別的」とみなすその他のAIシステム（ソーシャルスコアリングシステムや「潜在意識に働きかける、あるいは意図的に操作する技術」を用いるモデルなど）を含む、欧州における高リスクのAI慣行の禁止を提案している。
この法案草案には、ChatGPTのような生成AIモデルに対するより厳しい要件も含まれており、コンテンツが機械生成された場合にはその旨を開示し、違法コンテンツの生成を防ぐための対策を組み込んだモデルを設計することが義務付けられる。
ジャンプ先:
- AI法における先例
- AIルールに対するリスクベースのアプローチ
- テクノロジーコミュニティからのさまざまな反応
- 新しい法律はいつ可決されるのでしょうか？
AI法における先例
欧州の先駆的な立法は、AIや機械学習ツールの利用が爆発的に増加し、政策立案者が対応に追われている世界における人工知能規制の先例となることを目指している。
欧州議会議員のディアドラ・クルーネ氏は、AI法は「AIを規制する事実上の世界的なアプローチ」となる可能性を秘めた「画期的な法律」だと称賛した。
クルーン氏は6月13日に欧州議会議員らに対し、「これはAIを規制する世界初の試みの一つです。AIは気候変動や深刻な病気など、最も差し迫った問題を解決する力を持っており、私たちは欧州連合（EU）でこれを実行するための基盤を築きたいと考えています」と述べた。
クルーネ氏はさらに、「私たちだけでこれを完全に行うことはできませんが、この技術が責任ある倫理的な方法で開発され、使用されるようにするとともに、イノベーションと経済成長を支援するという点で、私たちは先駆者となるべきです」と述べた。
AIルールに対するリスクベースのアプローチ
EUの法案草案は、ユーザーに対する潜在的な脅威に基づいて人工知能システムを分類する、リスクベースのAI規制アプローチを提案しており、これは長らく激しい議論の的となっているテーマである。
「容認できない」リスクレベルを有すると判断されたAIシステムは、EU法に基づき、限定的な例外を除き、厳しく禁止されます。法案草案において容認できないと判断され、禁止されるAIシステムおよび機能には、以下のものが含まれます。
- 人々または特定の脆弱なグループに対する認知行動操作。たとえば、子供の危険な行動を促す音声起動玩具など。
- ソーシャルスコアリング: 行動、社会経済的地位、または個人的特徴に基づいて人々を分類します。
- リアルタイムおよびリモートの生体認証システム: 顔認識ツールがその一例です。
遠隔生体認証システムの場合、例外として、本人確認が「相当の遅延」の後で行われ、重大犯罪を起訴する場合が考えられるが、そのような場合には裁判所の承認が必要となる。
高リスクAIシステムには、玩具や自動車などのEU規制対象製品に使用されるものに加え、生体認証、重要インフラ管理、雇用、法執行といった特定の分野で使用されるものも含まれます。EUの新しい規則では、これらのシステムはEUデータベースに登録する必要があります。
参照: 人工知能倫理ポリシー (TechRepublic Premium)
政治キャンペーンで有権者に影響を与える可能性のある AI システムや、ソーシャル メディア プラットフォームで使用される推奨システムにある AI システムも、AI 法の高リスク リストに掲載されています。
一方、ChatGPTやGoogle Bardなどの生成AIツール、および限定的なリスクとみなされるその他のAIシステムは、新しいEU規則の下でより強力な安全対策を導入することが求められます。これらの安全対策には、より厳格な透明性要件の導入や、ユーザーがAIモデルとやり取りするかどうか、またどのようにやり取りするかについて、十分な情報に基づいた判断を下せるようにすることが含まれます。
ユーザーは、AI と対話しているときにその旨を通知される必要があり、また対話後は AI アプリケーションの使用を中止するか継続するかを選択できるオプションも提供される必要があります。
「ここで私たちが提供すべき最低限のことは透明性です」とクルーン氏は述べた。「このコンテンツが人間によって作成されたものではないことを明確にしなければなりません。さらに一歩進んで、これらの大規模モデルの開発者には、より透明性を高め、プロバイダーと情報を共有し、これらのシステムがどのように訓練され、どのように開発されたかを共有するよう求めます。これにより、これらのシステムの環境的持続可能性に対処し、変革をもたらすはずです。」
テクノロジーコミュニティからのさまざまな反応
欧州のAI法は、最終的には安全性と透明性と革新的可能性とのバランスを取った形で人工知能の使用を規制することを目指しているが、技術コミュニティのメンバーは、規則違反に対する監視の強化と潜在的な罰則によって革新が制限される可能性があると懸念を表明している。
サイバーセキュリティ企業ヴェナフィのエコシステム・コミュニティ担当副社長ケビン・ボセック氏は、欧州議会は「シリコンバレーのAIイノベーションを正面から狙っている」と主張し、「米国の企業とその投資家に甚大な影響を与える可能性がある」と警告した。
「EUは、毎週の製品リリースと毎日のモデルアップデートという現在のAIへのアプローチを大幅に制限するだろう」とボチェク氏はTechRepublicに語った。「EUが求める透明性、認証、安全性の要件は、現在のソフトウェアおよびクラウドプロバイダーのイノベーションのあり方とは一致していない。これにより、欧州のスタートアップ企業やオープンソースが、AIにおいて現在よりも大きな役割を果たす道が開かれることになるだろう。」
新たなEU規則は、欧州で事業を展開しているが本社は他国にある企業にとって事態を複雑にする可能性がある。
ソフトウェア開発会社インフォマティカのEMEAおよびラテンアメリカ地域プラットフォーム販売グループ副社長、グレッグ・ハンソン氏は、TechRepublicに対し、欧州のAI法により、米国およびEU域外の企業はコンプライアンス確保のため、AIモデルの構築元となるデータの出所について完全な可視性を確立する必要があると語った。
「国境を越えてデータを扱う組織（ほとんどがこれに該当します）は、異なる地域法に準拠するために、データがどのように、どこで処理されるかを完全に把握する必要があるでしょう」とハンソン氏はTechRepublicに語った。
「例えば、米国に本社を置きながら欧州で事業を展開する組織は、自社のデータの品質を完全に把握し、データサプライチェーンを通じて完全に追跡できる必要があります。…つまり、データの正確性、透明性、系統、ガバナンスの必要性が高まるということです。」
参照：専門家がGDPR5周年を称賛（TechRepublic）
AI法には、オープンソースライセンスに基づいて提供される研究活動およびAIコンポーネントに関する規則の免除が含まれています。
企業が国民の権利を守りながら AI を効果的に活用できるようにするため、新しい AI システムを導入前にテストするための規制サンドボックスが公的機関によって設立される予定です。
一方、国民はAIシステムについて苦情を申し立てたり、リスクの高いAIシステムに基づく決定について説明を受ける権利が強化され、改革されたEU AIオフィスがルールブックの実施状況を監視する責任を負うことになる。
それにもかかわらず、デジタル変革コンサルタントであり、「デジタルビジネス変革の人間的側面」の著者であるカマレス・ラルディ氏は、法案草案の制限事項にすぐに対処しない限り、規制当局は「追いつくゲームを続ける」だろうと警告した。
「この法律は、生成AIという動的かつ急速に変化する状況に対して、従来の規制およびコンプライアンスのアプローチを採用しています」とラーディ氏はTechRepublicに語った。
ラルディ氏はまた、AIベースのソリューションを現在使用している、あるいは近い将来に導入を計画している企業の数を考えると、AI法の施行は「悪夢」となるだろうと指摘した。「申請の審査と適合性評価は困難な作業となるでしょう。自己評価に頼るだけでは長期的には不十分でしょう」と彼女は付け加えた。
「企業は、法律で定められた新しいデータプライバシー基準を満たすために、データ収集および管理慣行に大幅な変更を加える必要があるかもしれません。」
新しい法律はいつ可決されるのでしょうか？
EUは2023年末までにAI法を最終決定したいと考えているが、たとえそれが成功したとしても、新しい法律が施行されるのは数年後、おそらく2026年頃になると予想されている。
その間解決しなければならない複雑な問題にもかかわらず、ハンソン氏は、欧州の画期的なAI関連法案の導入を歓迎すると述べた。
「AIシステムへのデータ供給を規制するというEUの決定は、賢明な立法措置です」とハンソン氏は述べた。「経済成長を促進する技術の可能性を守るだけでなく、ビジネスの本質そのものを守ることになるでしょう」
「特にAIは、データの精度を極めて危険な状態に置きます。不正確なデータは最終的にAIモデルの原動力となり、ブランドに悪影響を及ぼします。しかし、正確で信頼性が高く、タイムリーなデータは、組織に切実に求められている競争優位性をもたらし、組織の成長を促進します。」
