トピック — 人工知能
出版
アフィリエイトリンクまたはスポンサーシップを通じて、ベンダーから収益を得る場合があります。これにより、サイト上の商品配置が影響を受ける可能性がありますが、レビューの内容には影響しません。詳細は利用規約をご覧ください。
OpenAIが営利モデルに再編される可能性は、元スタッフ、ノーベル賞受賞者、AIの先駆者たちから反発を受けている。
OpenAIの元従業員、一流の学者、ノーベル賞受賞者らで構成される連合は、ChatGPTの開発元であるOpenAIが営利事業に転換するのを阻止するよう州当局に要請している。彼らは、転換すれば危険なAIから人類を守るという同社の本来の使命が放棄される可能性があると警告している。
この反発は、今週カリフォルニア州とデラウェア州の司法長官に送付された公開書簡の形で表明された。同団体は、OpenAIが計画している再編により、営利企業に経営権が移譲されることになり、企業利益を優先して重要な安全対策が軽視される危険性があると主張している。
書簡の中で、署名者（OpenAIの元従業員10人、ノーベル賞受賞者3人、AIの先駆者数人）は、提案された再編を阻止するよう各州の最高法執行官に要請した。
AI が人間を凌駕するとき、誰が AI を制御するのでしょうか?
公共の利益のために汎用人工知能（AGI）を安全に開発するという使命を掲げて2015年に設立されたOpenAIは、現在、その原則から逸脱しているという非難に直面している。
「結局のところ、この技術が開発された後、誰がそれを所有し、管理するのかが心配です」と、OpenAIの元政策・倫理顧問であるペイジ・ヘドリー氏はAP通信のインタビューで述べた。書簡に署名した10人の元従業員の一人であるヘドリー氏は、AIが強力になるにつれて、利益追求の動機が安全策を無視するようになるのではないかと懸念している。
OpenAIは、この再編によって非営利部門が強化されると同時に、Anthropicやイーロン・マスクのxAIといったライバル企業との競争も可能になると主張している。「既存の組織構造へのいかなる変更も、より幅広い人々がAIの恩恵を受けられるようにするためのものです」と同社は声明で述べている。
しかし、批判者たちは納得していない。提案されたモデルでは、OpenAIの営利部門である公益法人（PBC）が運営の全面的な管理権を握り、非営利団体は慈善プロジェクトの運営を担うことになる。署名者たちは、これにより独立した取締役会や投資家のリターン上限といった重要な保護措置が崩壊すると警告している。
ダウンロード: TechRepublic Premium の「AI の信頼性を維持する方法」
人道的義務 vs. 投資家の要求
この書簡は、OpenAIが競合他社を出し抜くために製品を急いで開発し、安全性を軽視しているという懸念を浮き彫りにしている。「こうした決定に伴うコストは、技術が強力になるにつれて上昇し続けるだろう」とヘドリー氏はAP通信に語った。
元エンジニアのアニッシュ・トンドウォーカー氏は、OpenAIの「ストップ・アンド・アシスト条項」を指摘した。これは、競合他社がAGIのブレークスルーに近づいた場合、同社が支援することを義務付ける条項である。「OpenAIが営利企業になれば、これらの安全策は一夜にして消え去ってしまう可能性がある」と、AP通信が報じた声明の中で同氏は述べた。
元OpenAIエンジニアのニサン・スティエノン氏は、率直にこう述べた。「OpenAIはいつか、私たち全員を死に至らしめる可能性のある技術を開発するかもしれません。OpenAIが人道的義務を負う非営利団体によって管理されていることは、OpenAIの名誉なことです。この義務を果たすために、管理権を放棄することはできません。」
「計画通りの再編を許してはならない」と、カリフォルニア州司法長官ロブ・ボンタ氏とデラウェア州司法長官キャシー・ジェニングス氏に書簡で強く求めている。「OpenAIとアルトマン氏がその使命にとって重要だと繰り返し主張してきた中核的なガバナンスの安全策を維持し、OpenAIの慈善目的を守るよう強く求めます。」
圧力にさらされる規制当局
この控訴により、カリフォルニア州司法長官ロブ・ボンタ氏とデラウェア州司法長官キャシー・ジェニングス氏は窮地に立たされている。ジェニングス氏は以前、「公共の利益が確実に保護されるよう」OpenAIの計画を検討すると述べていたが、ボンタ氏の事務所は調査継続中を理由に沈黙を守っている。
こうした反発は今に始まったことではない。2018年にOpenAIを退社した共同創業者のイーロン・マスク氏は、OpenAIが同社の使命を裏切ったとして訴訟を起こしている。しかし、この訴訟は内部から起こっており、元スタッフや専門家たちは、利益追求型のAIは取り返しのつかない結果をもたらす可能性があると主張している。
OpenAIは2025年の再編期限に向けて邁進しているが、その期限には数十億ドル規模の資金調達が伴うと報じられている。しかし、依然として疑問が残る。AIの安全確保という誓約と競争を両立させることができるのか？今のところ、主導権は規制当局にある。
こちらもご覧ください
- OpenAIのo3: AIベンチマークの不一致がパフォーマンス主張のギャップを明らかに
- OpenAIとGoogle、英国政府のAI著作権提案を拒否
- プロンプトエンジニアになる方法
- 人工知能：さらに読むべき記事
アミヌ・アブドゥライ
Aminu Abdullahiは、経験豊富なB2Bテクノロジーおよび金融ライターです。TechRepublic、eWEEK、Enterprise Networking Planet、eSecurity Planet、CIO Insight、Enterprise Storage Forum、IT Business Edge、Webopedia、Software Pundit、Geekflareなど、様々な出版物に寄稿しています。
