人工知能（AI）の専門家の中には、抑制されていない技術開発に関する警告書に署名した者もいる。この22語の声明では、AIを「社会規模のリスク」と表現している。一方、規制当局は生成型AIの利用に関して、それぞれの立場を最終決定しようとしている。提案されている規制やテクノロジー業界内部からの警告は、企業が利用できるAIツールにどのような影響を与えるだろうか？
ジャンプ先:
- 専門家がAIのリスクを警告
- 欧州連合の政策が世界のAIルールを形作る可能性がある
- 米国政府、AIの「リスクと機会」を調査
- AI規制は企業にとって何を意味するのでしょうか?
専門家がAIのリスクを警告
今週、AI安全センターが発表したAIリスクに関する声明は簡潔で、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争など他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」というものでした。
AI安全センターは、この短い声明は「議論を活発化」させ、幅広い導入を促すことを目的としていると述べた。ビル・ゲイツ氏、AIのパイオニアであるジェフリー・ヒントン氏、そしてGoogle DeepMindのCEOであるデミス・ハサビス氏らが署名している。
AI安全センターは、AIによる「社会規模のリスクを軽減する」ことを目的として設立された非営利団体です。センターは、AIが引き起こす可能性のある問題として、戦争への利用、誤情報、コンテンツ作成による人々の過激化、AI自身の内部構造に関する「欺瞞」、AIの開発者が予期していなかった「能力や目標の突然の出現」などを挙げています。
この声明は、2023年3月にFuture of Life InstituteがAIの使用に対して警告し、AI企業におそらく政府のモラトリアムの下で6か月間開発を一時停止するよう求める公開書簡を発表したことを受けてのものだ。
生成AIをめぐる懸念の一部は、仮説的であると批判されている。EU・米国貿易技術評議会を含む他の団体は、これらの考慮事項の一部を今後の政策に盛り込む予定だ。例えば、共同声明では、評議会は「AIが普遍的な人権と共有された民主主義的価値観に及ぼす脅威を制限する」ことに尽力していると述べられており、EU AI法は予測型警察活動や国境警備における感情認識へのAIの利用を制限している。
参照:あなたの会社には人工知能倫理ポリシーが必要ですか?
欧州連合の政策は世界的なAIリスク管理ルールを形成する可能性がある
警告声明の署名者の一人であるOpenAIのCEO、サム・アルトマン氏は、水曜日に開催されたEU・米国貿易技術理事会の会合に出席していた。ブルームバーグの報道によると、アルトマン氏はEUにおける過剰な規制を懸念しているものの、規制には従うつもりだと述べている。
欧州委員会のマルグレーテ・ベステアー副委員長は理事会会合後、理事会は今後数週間以内にAI行動規範の草案を作成する予定だと述べた。ベステアー副委員長は、AI生成コンテンツの悪用を防ぐための安全策として、外部監査と電子透かしの導入を提案した。
ベステアー氏は、提案されているAI法案が欧州連合の立法プロセスを通過するのに2〜3年かかる可能性があるが、その前に委員会が行動規範を起草することを望んでいる。AI法案は現在審議中で、次回は早ければ6月にも欧州議会で審議される必要がある。
欧州委員会のウルズラ・フォン・デア・ライエン委員長はロイター通信へのコメントで、主要7カ国（G7）もChatGPTのような生成AIが「正確で、信頼性が高く、安全で、差別がない」ことを保証するために規制を検討していると述べた。
米国政府、AIの「リスクと機会」を調査
米国政府は「AI関連のリスクと機会に対する統一的かつ包括的なアプローチを推進する」計画に取り組んでいると、国家安全保障会議報道官のアダム・ホッジ氏はブルームバーグが入手した声明で述べた。
米国では、評議会会議後のバイデン政権内で、競争力維持のためにAIを活用したい派と、EUのAI規制計画を支持する派に感情が分かれていると報じられている。
AI規制は企業にとって何を意味するのでしょうか?
AIを活用した製品やAIを動作させるためのハードウェアおよびソフトウェアを開発する組織は、EUが提案しているような規制の進展を注視する必要があります。カリフォルニア州が提案しているように、採用や生活の質に影響を与える可能性のあるその他の意思決定におけるAIの活用を制限する州レベルの規制も、最終的には施行される可能性があります。
組織は、人間が直接関わる意思決定タスクを AI にいつ、どこで割り当てるかに関して、自社の倫理ポリシーがどのように関係するかについても考慮する必要があります。
