Amazonが2024年8月のハッカソンで開発したAI脅威分析システム「ATA」の詳細を初公開。複数の専門AIエージェントが協力してセキュリティの脆弱性を自動検出し、対策を提案。人間の作業負担を大幅に軽減します。
Amazon、複数の専門AIエージェントで脆弱性を自動検出するシステムを公開
Amazonは2025年1月、社内で使用しているセキュリティシステム「Autonomous Threat Analysis（ATA）」の詳細を初めて公開しました。このシステムは、複数の専門化されたAIエージェントが協力して、Amazonのプラットフォームの脆弱性を自動的に発見し、修正案を提案するものです。ATAは2024年8月の社内ハッカソンで生まれ、わずか数カ月で重要なツールに成長しました。生成AIの普及により、ソフトウェア開発のスピードが加速する一方で、サイバー攻撃の手法も高度化しています。セキュリティチームは、これまで以上に多くのコードを検証しなければならず、人手だけでは対応が困難になっていました。ATAは、この課題を解決するために開発されたシステムです。このシステムは、単一のAIではなく、攻撃側と防御側に分かれた複数の専門AIエージェントが競い合いながら、実際の攻撃手法を分析し、対策を提案します。人間のセキュリティ専門家は、単純作業から解放され、より複雑な問題に集中できるようになります。
ATAの仕組みと特徴
ATAの最大の特徴は、単一のAIエージェントではなく、複数の専門化されたAIエージェントが協力して動作する点です。これらのエージェントは、攻撃側を担当する「レッドチーム」と、防御側を担当する「ブルーチーム」の2つのグループに分かれています。レッドチームのエージェントは、Amazonのシステムに対して使用される可能性のある攻撃手法を探索します。一方、ブルーチームのエージェントは、それらの攻撃を防ぐための対策を開発します。この構造は、人間のセキュリティチームが実際に行っている協力作業を模倣したものです。
Amazonは、ATAの精度を高めるために、本番環境を忠実に再現した特別なテスト環境を構築しました。この環境では、実際のシステムと同じようにデータが記録され、AIエージェントはそのデータを使って分析を行います。レッドチームのエージェントが攻撃手法を試すと、実際のログが生成されます。ブルーチームのエージェントは、そのログを使って、提案する防御策が本当に有効かどうかを確認します。すべての技術や検出機能は、実際のテストとシステムデータで検証されます。
AIの「幻覚」を防ぐ設計
生成AIには「ハルシネーション」と呼ばれる問題があります。ハルシネーションとは、AIが事実ではない情報を、あたかも真実であるかのように生成してしまう現象のことです。セキュリティシステムでこの問題が起きると、誤った警告や無効な対策が生成され、重大な問題につながる可能性があります。
Amazonの最高セキュリティ責任者であるスティーブ・シュミット氏は、ATAではこの問題を「構造的に不可能」にしたと説明しています。ATAは、すべての主張に対して、タイムスタンプ付きのログという証拠を要求する設計になっています。エージェントが新しい攻撃手法を発見したと主張する場合、実際にその手法を実行し、システムに記録されたログを提示しなければなりません。この仕組みにより、観察可能な証拠がない主張は受け入れられず、誤検知が大幅に減少します。
背景と開発の経緯
ATAが開発された背景には、セキュリティチームが直面する2つの大きな課題がありました。1つ目は、検証すべきソフトウェアやアプリケーションの量が膨大で、人間だけでは対応しきれないという「カバレッジの限界」です。2つ目は、脅威の状況が急速に変化する中で、検出システムを常に最新の状態に保つことの難しさです。シュミット氏は「ソフトウェアの分析を行っても、検出システム自体を脅威の変化に合わせて更新しなければ、全体像の半分を見逃すことになる」と指摘しています。
生成AIの普及により、ソフトウェア開発のスピードは加速しています。しかし同時に、攻撃者もAIを利用して、より高度で多様な攻撃手法を開発しています。金銭目的のサイバー犯罪者や、国家が支援するハッカー集団からの圧力は、これまで以上に強まっています。このような状況下で、セキュリティチームは、より多くのコードをより短時間で検証しなければならなくなりました。ATAは、この課題に対応するために、2024年8月の社内ハッカソンで提案され、わずか数カ月で実用的なツールに成長しました。
実際の成果と効果
ATAは、すでに実際の業務で高い効果を発揮しています。具体的な例として、Pythonの「リバースシェル」技術に関する分析があります。リバースシェルとは、ハッカーが標的のデバイスを操作して、攻撃者のコンピュータへの遠隔接続を開始させる手法のことです。通常、コンピュータは外部からの接続を受け入れる形で動作しますが、リバースシェルでは逆に、標的側から攻撃者側へ接続を開始するため、ファイアウォールなどの防御を回避しやすくなります。
ATAは、このリバースシェル技術に焦点を当てた分析を行いました。わずか数時間で、ATAは新しい潜在的なリバースシェル戦術を発見し、Amazonの防御システム向けの検出機能を提案しました。提案された検出機能は、テストの結果、100パーセントの有効性を示しました。人間のセキュリティエンジニアが同じ作業を行う場合、数日から数週間かかる可能性があります。
セキュリティエンジニアのマイケル・モラン氏は、ATAの利点について次のように説明しています。「新しい技術を思いついたとき、『これは機能するだろうか』と考えます。今では、調査のための基盤とベースとなる作業の多くが用意されています。私の仕事はずっと楽しくなりましたし、すべてが機械のスピードで実行できるようになりました」。ATAは、攻撃手法の新しいバリエーションや組み合わせを迅速に生成し、それに対する対策を提案する能力を持っています。この規模とスピードは、人間だけでは実現が困難です。
できること・できないこと
ATAにより、セキュリティチームは膨大な量の日常的な脅威分析を自動化できるようになります。例えば、既知の攻撃手法の亜種を探索したり、新しい攻撃パターンを発見したり、それらに対する検出機能を開発したりする作業が、人間の介入なしに進められます。また、誤検知の分析という時間のかかる作業からも解放されます。シュミット氏は「AIが裏側で単純作業を行います。チームが誤検知の分析から解放されれば、本当の脅威に集中できます」と述べています。
一方で、ATAは高度で複雑なセキュリティテストの代替にはなりません。システムは自律的に動作しますが、「ヒューマン・イン・ザ・ループ」という手法を採用しています。これは、実際にAmazonのセキュリティシステムに変更を加える前に、必ず人間の承認を必要とする仕組みです。複雑な脅威の分析や、戦略的な判断が必要な場面では、依然として人間の専門知識が不可欠です。ATAの目的は、人間を置き換えることではなく、単純作業を自動化することで、人間がより重要な問題に時間を使えるようにすることです。
現在、ATAは事前の脅威分析に使用されていますが、次のステップとして、リアルタイムのインシデント対応への活用が計画されています。実際の攻撃が発生した際に、ATAを使用して迅速に脅威を特定し、対策を実施することで、被害を最小限に抑えることが目標です。ただし、この機能の実装時期については、まだ明らかにされていません。
私たちへの影響
このニュースは、Amazonのサービスを利用するすべてのユーザーに間接的な影響を与えます。ATAによってセキュリティの脆弱性がより早く発見され、修正されることで、Amazonのプラットフォームの安全性が向上します。これは、AWSを利用する企業や、Amazonで買い物をする消費者にとって、より安全なサービス環境を意味します。
短期的な影響としては、Amazonのセキュリティ対応の速度と精度が向上することが期待されます。攻撃者が新しい手法を開発しても、ATAがそれを迅速に検出し、対策を提案するため、脆弱性が悪用される前に修正される可能性が高まります。中長期的には、他の大手テクノロジー企業も同様のシステムを開発する可能性があります。AIを活用したセキュリティ対策が業界標準になれば、インターネット全体の安全性が向上するでしょう。
ただし、注意すべき点もあります。攻撃者もAIを利用して攻撃手法を高度化させています。ATAのような防御システムと、AI を使った攻撃手法の間で、技術的な競争が激化する可能性があります。また、ATAはAmazonの内部システムであり、その詳細な技術情報は公開されていません。他の企業や組織が同様のシステムを構築するには、独自の研究開発が必要です。セキュリティの向上は継続的な取り組みであり、ATAのようなシステムも、常に進化し続ける必要があります。