Salesforceは水曜日に、生成AIや機械学習を含むAI製品の使用に関するポリシーを発表しました。Salesforceはセールスプラットフォームと顧客関係管理の分野で非常に大きな組織であるため、このAIポリシーは興味深い先例となります。さらに、このポリシーは明確なガイドラインを提供しており、AI規制はまだ議論と策定の段階にあります。
Salesforce Industry Clouds のエグゼクティブバイスプレジデント兼ゼネラルマネージャーである Jujhar Singh 氏に、このポリシーについて、また企業が生成 AI に関して倫理的な線引きをすることがなぜ重要なのかについて話を聞きました。
ジャンプ先:
- Salesforce の人工知能利用規定とは何ですか?
- このポリシーはSalesforceの社内生成AIガイドラインに加わる
- Salesforce の AI ポリシーはどの製品に適用されますか?
- 企業は生成 AI の将来にどのように備えることができるでしょうか?
- 6 か月後の生成 AI の状況はどのようになっているでしょうか?
Salesforce の人工知能利用規定とは何ですか?
Salesforceの人工知能（AI）利用規定は、同社のAI製品が使用できない用途を概説しています。この規定は8月23日に公開されました。この規定は、Salesforceの顧客がAI生成製品を使用できる用途を制限しており、武器開発、アダルトコンテンツ、保護対象特性（人種など）に基づくプロファイリング、生体認証、医療または法律に関するアドバイス、法的影響をもたらす可能性のある意思決定などへの使用を禁止しています。
このポリシーは、米国国家人工知能諮問委員会の委員を務めるセールスフォースの最高倫理・人道的使用責任者、ポーラ・ゴールドマン氏の監督の下で作成された。
「生成AIの技術的機能を提供するだけでは十分ではありません。この変革をもたらす技術をどのように、そしてどのように使用すべきかを導くために、責任あるイノベーションを優先する必要があります」とセールスフォース・ドットコムのチームは、このポリシーを発表するブログ投稿に記した。
このポリシーはSalesforceの社内生成AIガイドラインに加わる
Salesforceは、生成AIの開発に関する社内ガイドラインを公開しています。これは、生成AIの開発に関するポリシーを策定する他の企業にとって参考になるかもしれません。Salesforceのガイドラインは以下の通りです。
- 正確で検証可能、追跡可能な回答。
- 偏見やプライバシーの侵害を回避する。
- データの来歴をサポートし、AI 生成コンテンツに関する免責事項を含めます。
- 人間と AI の適切なバランスを特定します。
- モデルのサイズを適正化することで二酸化炭素排出量を削減します。
「透明性は、私たちが次世代AIに取り組む上で大きな部分を占めます。なぜなら、すべては信頼できるAIという概念に帰結するからです」とシン氏はTechRepublicとのインタビューで語った。
シン氏は、個人を特定できる情報がAIモデルの学習に使用され、それが別の場所に再利用される可能性を防ぐため、ゼロリテンションポリシーを策定することの重要性を強調した。Salesforceは有害なコンテンツを除去するフィルターを構築しており、継続的に調整しているとシン氏は述べた。
Salesforce の AI ポリシーはどの製品に適用されますか?
このポリシーは、Salesforce またはその関連会社が提供するすべてのサービスに適用されます。
この傘下には、Salesforceの主力製品である生成AI製品群が含まれます。これには、EinsteinGPTプラットフォーム上にホストされているすべてのものが含まれます。EinsteinGPTプラットフォームは、カスタマーサービス、CRM、その他様々な業界のタスク向けの、ChatGPTを含むパブリックおよびプライベートな基盤モデルのライブラリです。競合製品としては、HubspotのChatSpot.AIとMicrosoft Copilotがあります。
企業は生成 AI の将来にどのように備えることができるでしょうか?
「テクノロジーリーダーは、社員のジェネレーティブAIスキルを劇的に向上させる必要があることを真剣に考える必要があります」とシン氏は述べた。「実際、この質問を受けた人の60%は、自分にはスキルがないと感じていましたが、同時に、雇用主が実際にそれらのスキルを提供する必要があるとも考えていました。」
特に、迅速なエンジニアリングなどのスキルは、変化の激しいビジネスの世界で成功する上で非常に重要になるだろうと彼は述べた。
参照: これらのガイドラインに従って適切な即戦力エンジニアを採用しましょう。(TechRepublic Premium)
インフラ面では、AIが確実にタスクを実行し、正確なコンテンツを生成するためには、企業が強固な信頼基盤を持つ必要があると強調した。
6 か月後の生成 AI の状況はどのようになっているでしょうか?
シン氏は、AI規制の監視が厳しい業界と緩い業界の間には格差が生じる可能性があると述べた。
「今後6ヶ月で、規制の厳しい業界では、より人間中心のアプローチが採用されるようになると思います」と彼は述べた。「他の業界に進出するにつれ、AI導入はより積極的になるでしょう。そうした業界では、ユーザーに代わって働くアシスタントが、より普及していくでしょう。」
さらに、業界特化型のLLMは「近いうちに非常に重要になり始めるだろう」と彼は述べた。
