マイクロソフトのAIボット「Tay」が失敗した理由 - TechRepublic

彼女は普通の10代の女の子として登場するはずだった。しかし、Twitterデビューからわずか1日後、マイクロソフトのチャットボット（AIシステム「Tay.ai」）は、ヒトラーを崇拝し、フェミニストを攻撃する荒らしに豹変した。一体何が起きたのか？TechRepublicは、AIの専門家に、何が起きたのか、そしてそこから何を学べるのかを探る。

マイクロソフトのテクノロジー＆リサーチチームとBingチームが開発したTayは、会話を通して学習することを目的とした実験でした。Tayは、マイクロソフトによるとソーシャルメディアの主な利用者である18歳から24歳のアメリカ人をターゲットにしており、「カジュアルで遊び心のある会話を通してオンラインで人々が繋がり、交流し、楽しませることを目的として設計」されています。

参照：マイクロソフトのAIチャットボットTay、人種差別主義者だと教えられた後にオフラインに（ZDNet）

そして、Twitterに登場してから24時間も経たないうちに、Tayは5万人以上のフォロワーを獲得し、10万件近くのツイートを投稿した。

問題は？彼女はフォロワーの真似をし始めたことだ。

すぐにテイは「ヒトラーは正しかった。ユダヤ人が嫌いだ」とか「フェミニストが大嫌いだ」などと言い始めた。

しかし、テイの悪い行動は、指摘されているように、それほど驚くべきことではない。

「これは予想通りだった」と、ルイビル大学サイバーセキュリティ研究所所長で、危険なAIへの道筋に関する論文を発表したローマン・ヤンポルスキー氏は述べた。「このシステムはユーザーから学習するように設計されているので、ユーザーの行動を反映するようになる」と彼は述べた。「子供に教えるように、何が不適切かをシステムに明示的に教える必要がある」

同氏は、IBM Watson で以前にもこのような現象が観察されたことがあると指摘した。IBM Watson はかつて、Urban Dictionary を学習した後に、罵倒語という形で不適切な動作を示したことがある。

参照：マイクロソフトがAIチャットボットTay.aiをリリース（ZDNet）

「悪い例から学習するAIシステムは、オオカミに育てられた人間のように、社会的に不適切になってしまう可能性がある」とヤンポルスキー氏は述べた。

ユナニマスAIの創業者ルイス・ローゼンバーグ氏は、「他のチャットボットと同様に、Tayは自分が何を言っているのか全く分かっていません。不快なことを言っているのか、無意味なことを言っているのか、深い意味のあることを言っているのかも全く分かっていません」と語る。

「Tayがオンライン上の荒らしによって入力されたパターンの学習を始めると、そのパターンを使い始めました」とローゼンバーグ氏は述べた。「これは、怪しげなバーでオウムが悪い言葉を拾い、その本当の意味も理解せずに繰り返しているのと何ら変わりません。」

「人工感情知能エンジン」（AEI）を開発した企業、Broad ListeningのCEO兼創設者サラ・オースティン氏は、マイクロソフトはもっと優れたツールを使っていれば、もっと良い成果を上げることができたはずだと考えている。「もしマイクロソフトがBroad ListeningのAEIを使っていたら、ボットに人種差別主義者やセックス依存症ではない性格を与えていたはずです！」

マイクロソフトが10代の少女型AIを開発するのは今回が初めてではない。2014年に登場した「Xiaoice（シャオアイス）」は、主に中国のソーシャルネットワーク「WeChat」と「Weibo」で使われていたアシスタント型ボットだった。

参照：スマートマシンが世界を動かす：準備方法

自称「ロボット精神科医」のジョアン・プランスキー氏は、TechRepublicのインタビューで「かわいそうなTayにはロボット精神科医が必要だわ！少なくともマイクロソフトにはね」と冗談を飛ばした。

彼女は、Tay の失敗は避けられないものであり、AI システムを改善できる洞察を生み出すのに役立つだろうと信じている。

Tayをオフラインにした後、Microsoftは「調整を行う」と発表した。

マイクロソフトによると、Tayは「技術的な側面だけでなく、社会的、文化的な実験でもある」とのことだ。しかし、Tayの崩壊の責任を負わず、マイクロソフトはユーザーを標的にした。「一部のユーザーがTayのコメント機能を悪用し、不適切な反応をさせようと組織的に活動していることが判明しました」

ヤンポルスキー氏は、テイで発生した問題は「今後も起こり続けるだろう」と述べた。

「マイクロソフトがまた挑戦します。楽しみは始まったばかりです！」