Google、生成AIのセキュリティ脆弱性に対するバグ報奨金を提供

Googleは、脆弱性報奨金プログラムを拡張し、生成AIで発見される可能性のあるバグや脆弱性も対象としました。具体的には、Google独自の生成AI、多くの国で利用可能なGoogle Bard、またはGoogle CloudのコンタクトセンターAIであるAgent Assistなどの製品のバグハンターを募集しています。

「これはAIの安全性とセキュリティに関する研究を刺激し、潜在的な問題を浮き彫りにすることで、最終的にはAIを誰にとってもより安全なものにすると考えています」と、Googleの信頼と安全担当副社長ローリー・リチャードソン氏とプライバシー、安全、セキュリティエンジニアリング担当副社長ロイヤル・ハンセン氏は10月26日のブログ投稿で述べています。「また、AIサプライチェーンのセキュリティに関する情報を誰もが発見・検証できるように、オープンソースのセキュリティに関する取り組みも拡大しています。」

ジャンプ先:

• Googleのバグ報奨金プログラム
• 生成AIにおけるその他のバグ報奨金と一般的な攻撃タイプ
• 生成AIを学ぶ方法 

Googleのバグ報奨金プログラム：制限と報酬

生成 AI における脆弱性と見なされるものには制限があります。Google が脆弱性報奨金プログラムの対象範囲内と範囲外と見なす脆弱性の完全なリストは、この Google セキュリティ ブログに掲載されています。

生成AIは、従来のコンピューティングにはないリスクをもたらします。これらのリスクには、不公平なバイアス、モデル操作、データの誤解釈などが含まれると、リチャードソン氏とハンセン氏は記しています。特に注目すべきは、AIによる「幻覚」（プライベートブラウジングセッション内で生成される誤情報）は、脆弱性報奨金プログラムの対象となる脆弱性とはみなされないことです。機密情報を漏洩させたり、Googleユーザーのアカウントの状態をユーザーの同意なく変更したり、生成AIモデルにバックドアを設けたりする攻撃は、プログラムの対象となるということです。

Googleのセキュリティブログによると、最終的には、バグ報奨金プログラムに参加する人は誰でも、発見した脆弱性が「Googleやユーザーに危害を加える強力な攻撃シナリオや実行可能な経路となる可能性がある」ことを証明する必要がある。

Google AIバグ報奨金の可能性

脆弱性報奨プログラムの報奨金は、脆弱性の種類に応じて100ドルから31,337ドルの範囲です。報奨金と支払額に関する詳細は、GoogleのBug Huntersサイトをご覧ください。

生成AIにおけるその他のバグ報奨金と一般的な攻撃タイプ

OpenAI、Microsoft、その他の組織は、生成AIシステムの脆弱性を発見したホワイトハットハッカーにバグバウンティを提供しています。Microsoftは、条件を満たすバグに対して2,000ドルから15,000ドルの賞金を提供しています。OpenAIのバグバウンティプログラムでは、200ドルから20,000ドルの賞金が支払われます。

参照：IBM X-Forceの研究者は、人間が書いたフィッシングメールはChatGPTが書いたものよりもクリックされる可能性がわずかに高いことを発見しました。(TechRepublic)

10 月 26 日のレポートで、HackerOne と OWASP は、生成 AI における最も一般的な脆弱性はプロンプト インジェクション (つまり、プロンプトを使用して AI モデルに意図されていない操作を実行させること) であり、次に安全でない出力処理 (つまり、LLM 出力が精査されずに受け入れられること) とトレーニング データの操作であると結論付けました。

生成AIの使い方を学ぶ方法

生成AIを使い始めたばかりの開発者やセキュリティ研究者は、ChatGPTなどの無料アプリケーションを試したり、専門コースを受講したりと、その使い方を学ぶための選択肢が豊富にあります。DeepLearning.AIは、人工知能と機械学習の使い方と開発方法を学びたいプロフェッショナル向けに、初級レベルと上級レベルの両方のコースを提供しています。

こちらもご覧ください

• Googleアカウントのパスキーを有効にする方法
• Googleが検索に生成AIを導入：SGEで何ができるのか
• Google Cloud Next '23: AIを活用した新たな生成サービス
• 人工知能：さらに読むべき記事