プロジェクトIre：マイクロソフトがマルウェアを自律的に検知するAIをテスト

マイクロソフトは火曜日、人間の指示やファイルの出所に関する事前知識なしにソフトウェアをリバースエンジニアリングし、それが悪意のあるものかどうかを判断するように設計された自律型AIエージェント「Project Ire」を発表した。

まだプロトタイプ段階にあるProject Ireは、サイバーセキュリティの自動化における大きな飛躍を象徴しています。マイクロソフトによると、このツールは、この分野で最も困難なタスクの一つ、つまりソフトウェアファイルを完全に分解して無害か悪意があるかに分類するタスクを実行できるとのことです。これは通常、専門家による手作業が必要となる分析です。

「これはマルウェア分類におけるゴールドスタンダードです」と、マイクロソフトは研究ブログで述べています。このAIは、デコンパイラ、メモリ分析サンドボックス、制御フロー再構築ツール、高度な言語モデルを組み合わせて、ソフトウェアコードを解析・理解します。

プロジェクトIreの仕組み

Microsoftによると、このシステムはまずファイルの内部構造を分析し、angrやGhidraなどのツールを使用して制御フローグラフを構築します。このグラフが調査の基盤となります。

システムは段階的な調査プロセスを通じて様々なツールを呼び出し、「ツール使用API​​」を用いて理解を深めます。調査する各機能は「証拠の連鎖」に貢献します。これは、システムの透明性と専門家による監査を向上させるために設計された、推論の追跡可能な記録です。

Project Ireは、判定結果を検証するために検証ツールを実行し、その結果を人間の専門家が以前にレビューしたログと比較します。これらのツールには、Microsoftの社内リソースと、angrフレームワークの貢献者であるEmotion Labsなどのサードパーティの貢献が含まれます。

テストの初期結果は有望

Project Ireはすでに良好な初期成果を示しています。Windowsドライバーの公開データセットを用いたテストでは、Microsoftはシステムが適合率0.98、再現率0.83を達成したと報告しており、高い精度と比較的高い判定率を示しています。

より厳しい実環境下での試験では、約4,000個の「ハードターゲット」ファイル（自動ツールでは検出できず、人間によるレビューを待つサンプル）が対象となりました。Project Ireは適合率0.89を達成し、悪意のあるファイル10個中9個近くを正しく識別しました。しかし、実際のマルウェアの検出率はわずか26%（再現率0.26）にとどまり、データセットの難しさが浮き彫りになりました。

マイクロソフトは、再現率スコアが中程度であったことを認めつつも、このシステムの潜在能力を強調した。「全体的なパフォーマンスは中程度でしたが、この精度と低いエラー率の組み合わせは、将来の導入に真の可能性を示唆しています」と同社は述べている。

プロジェクトIreの今後

マイクロソフトは、Project Ireを「Binary Analyzer」という名称でDefenderエコシステムに統合する予定です。目標は、このツールがメモリ内で直接、新たなマルウェアを自律的に検出できるようになることです。

「私たちの目標は、システムの速度と精度を向上させ、あらゆるソースからのファイルを、たとえ初回遭遇時であっても正しく分類できるようにすることです」とマイクロソフトは述べています。「最終的には、メモリ内で直接、大規模に、新たなマルウェアを検出することを目指しています。」

Black Hat からのレポートで、TechnologyAdvice の Matt Gonazles 氏は、マルウェアの進化と AI がサイバーセキュリティ ゲームをどのように変えているのかに焦点を当てたサイバーセキュリティ研究者の基調講演について書きました。