話題の自律型AIペンテスト検査ツール(Strix/Shannon)に入門して毎週脆弱性検査をする
相次ぐ情報漏洩でセキュリティの脅威も高まっているいま、脆弱性検査は半年や年1回ではなく「毎週」やる時代に来ているかもしれません。1~2時間自動でテストして、AIコストは数百円から数万円程度でできるようになりました。
まずはおさらい(画像で見る脅威)
先日書いたnoteから一部画像だけピックアップします。
実際のアクセスを見てみましょう。これは私の運営するサイトによく来るアクセスです。計算資源の無駄なのでほんと辞めていただきたい。

いまに始まったことではありませんが、ハッカーは自動的にネット上をクロールして古いライブラリを使っていたり設定の甘いWebサイトをスキャンしています。たとえるならこんな感じです。

さらに、鍵の緩そうな(古い仕組みで動いていそう、素人が適当に作っていそう)サイトを見つけると、むかしは人手で(自動化ツールを併用しながら)攻撃を仕掛けていましたが、現在は安価なAI攻撃ツールを使って見つかった脆弱ポイントを足掛かりにAIが分析・PDCAを回しながら低価格で攻撃をしかけるという時代になってしまいました。

また、日本語の壁も突破されてしまうので、もう霞が関と霞ケ浦が間違えられる[1]ことはありません。1件5,000円で攻撃できるなら、両方ともやってしまえばいいのです。どこを攻撃するかもAIに聞いてしまえばいいので。
損益分岐点の話なんですよね。1000サイト攻撃するコストが500万円、10件成功、3件個人情報ゲットできてダークウェブで売って1000万円もうかればオッケーみたいな(想像です)。
守り側もAI入れないと話にならない
ハッカーがAIを使って無差別で攻撃する時代、AIに「ライブラリのアップデートできてないサイト探しといて。僕は寝るから明日の朝までにCSVで経済価値の推定とあわせてまとめといて」みたいなことを言ってくるとしましょう。そんな軽いノリでたまたまあなたのサイトがスキャンされたらたまったもんじゃないですよね。
昔ながらのセキュリティ規定では、1年に1回は脆弱性検査しましょう。業者にたのんで1か月くらいかけてテストしてもらって、報告書の読み会をして、Criticalは0.5-1か月以内、それ以外は3か月以内とかでの対応をやるのが私が良く見て来た事業会社でした。
IT専業の会社はじめ、ちゃんとしているところはもっとちゃんとしていますが、そんな会社全体の何割でしょうか。
1年に1回とか4半期に一回ではなく、頻度高く安全な状態を保つには、AIを駆使して低コストに抑えるしかなくなっていると私は考えます。
AIでまもるってどんなことをやるのか?
単純なことです、ハッカーがやってくることとおなじスキャンを自社にかければいいのです。
-
社内IT
- 社内ITツールの棚卸(ComputerUseで徘徊させる)
- そこからインターネット経由でアクセス可能なツールを洗い出す
- クラウド業務ツールの設定チェック(Admin APIでGoogle Workspaceとか見させる)
-
自社サービス
- ライブラリが古くなってないかチェックする(DependabotやRenovate)
- 脆弱性検査を行う←今回の話はここ
- クラウドの設定や権限付与が適切かを確認させる
- 依存サービスのAPIキーを洗い出したり更新されてないかをチェック
-
各社員(ComputerUseやGmailのスキャン)
- 不要なサービス登録しっぱなしを調べる
- パスワードの使い回しをパスワードマネージャにチェックさせ変更させる
- 変なソフトが入ってないかチェックさせる
話題の自律型AI脆弱性検査ツール
さて、最近話題になっているAIをつかったセキュリティツールにはいくつかありますが、今回は比較的とっつきやすいStrixとShannonについて取り上げようと思います。
用語とスコープについても定義しておくと、ホワイトボックステスト(ソースコードと実際に動くweb、ログインアカウントを渡したテスト)に絞って解説したいと思います。脆弱性を検査し、実際に侵入(ペンテスト)まで行ってくれます。
それぞれ商用版との違いがあり、たとえばShannonのOSS版では、依存ライブラリの脆弱性情報収集は含まれていません。
ハッカー側は、URLしかない状態のブラックボックス状態で侵入テストを開始しますが、それはリソース効率が悪いのと本番環境を壊しかねないので、安全なローカルで、より効率的にチェックするわけですね。
なにをやってくれるものなのか
ツールごとの違いはありますが、ざっくりこんな流れです。ほとんど人間のセキュリティ診断員とおなじですね。

従来のたとえばOWASP ZAPみたいなものと比べると、どんなテストをすべきかAIが考えてくれる点や、複数のテストを踏まえて実際に攻撃が成功するかをAIが設計するという部分が違います、たとえば「このアプリケーションには管理者と一般ユーザがいるから権限の境界テストが必要だな」「管理画面はXSS対策が一部弱いから、ユーザ側のここを組み合わせると攻撃が成立しそうだな」などです。
もちろんZAPにもLLM連携機能はありますので自前で組むことは可能ですがオールインワンで提供されているこれらのツールが便利というわけです。
どんなシステム構成になっているのか
AIに図解させました。こんな感じです。Dockerをつかって隔離しています。隔離レベルが心配な方はこの環境をさらにVMで囲ってネットワーク出口を制限するようにしましょうね。※なお図中のTypeDockと書かれているのは今回攻撃実験に使った私の自作OSSソフトウエアです。


ワーカーがdockerの中にあるのか外にあるのか、ハーネス部分はOpenAI AgentSDKなのかpiなのかという細かい違いはありますが、かなり似通った構成ですね。
検証には(これは利用者がやる部分)ダミーデータとテスト用アカウントを用意して使い、本番の認証情報は渡しません。メール・決済などの外部連携はモックや検証用接続に切り替え、通信先も制限します。テストでデータが変更・削除されても復元できる使い捨て環境を用意します。
特に通信先の制限は大事で、連携しているメールサーバーやSaaS/BaaSに攻撃がいかないように注意してください。また、Dockerも完璧な隔離ではありませんので、不安な場合はgVisorのrunscに置き換えたり、VM側に不要なシークレット変数を置かない、通信させないといった縛りを行うのは利用者の責務です。プロンプトレベルだとたまに無視したりしますからね。
AIについて。DGX Sparkはなくてもいける
さて、ツールをインストールしてAIにセットアップしてもらえば環境構築はできると思います。GithubActionsでのテンプレも用意されていますので、CI環境への導入もやりやすいでしょう。
あとはAIの用意だけなんですが、若干面倒です。通常のAIはセキュリティ攻撃に見える通信を拒否します。
ネットを見るとDGX Spark2台(約200万円弱)をつかって無検閲版GLM5.3Flashによる試験を行っている人を見かけますが、たいていの人や組織には、いきなりポンと買ってきてセットアップするのは難しいと思います。
まずはAnthropicのCyber Verification ProgramやOpenAIのDaybreakな許可されたセキュリティ検証向けのプログラムを確認してください。攻撃的な内容が拒否されにくいモデルを使えるようにしましょう。通常だとすぐ拒否されます。それかGLMなどの中華モデルは通常でもあまり拒否してこないので、それを使ってしのぎましょう。
(自社のソースコードを中華モデルに投げていいかは必ず組織で検証してください。同じモデルでもさまざまなプロバイダーがあり「学習しないデータ保持しない」という宣言を本当に信じていいのか運営元を検証しましょう。)
もうすこしちゃんとするなら、Runpodなど任意のモデルをデプロイ可能な専用インスタンスを時間単位で借りるのもいいでしょう。だいたい6時間1万円くらいで、GLM5.3Flashが動作します。
あるいはAWSのBedrockにGLM5.3通常版があるので、EC2でまずはお試し環境を構築してAWSからは一応出ないという構成で試すのもいいかもしれません。
というわけで攻撃してみた
自作のOSSを読ませて、それぞれのツールで攻撃を実行してみました。どちらもおなじような脆弱性を報告してきており、そのうちShannonの再現性実験では、CMSの一般ユーザがXSSを仕掛けて管理ユーザを作成可能なところまで再現実験をしてくれました。

このあたりはAIなので、見つかった脆弱性っぽいところからどのような攻撃を思いつくかはモデル性能や実行プロンプト、タイミングにより「揺れ」があります。なのでライブラリの更新や新たな脆弱性が見つかることも考えて週1回くらい実行しておけば毎回何か見つけてくれるのではないかと思います。
時間とコストは?
今回は公開されているコードということで、一番安いGLM 5.3 Flashの通常版で実験を行いました。結果は1時間弱かかって、数百リクエストで約300円という激安な結果になりました。もちろん、GPTのCyberやMythosをつかえば100倍程度の価格になる可能性もありますが、それでも1回百万円以上かかる脆弱性検査に近いことを1回数万円(+セットアップの人件費)でできるとなると、会社としては十分安い投資だと思います。
もちろん、専門のセキュリティ業者の本気のテストにはかなわないですしスコープも狭いので、同列に比較することは難しいですが、専門業者であってもペンテスターのスキルはバラバラなので、経験が浅いあるいは予算や時間が限られたテストと同等以上のホワイトボックステストはできるなと感じました。
まとめ、私はどうやって入門できるか?
まず、StrixでもShannonでもいいので、リポジトリをAIに読ませてしっかりと何が行われているか理解しましょう。必要に応じて脆弱性検査とは何か、自社コードをみせて、安全に実施するにはどのような手当てが必要かをしっかりAIと会話しましょう。
次にAIの申請と実行環境を用意しましょう。最初はスペックに余裕のあるローカルMacにVMをたてて、そのVMに制限を加えて実行するとかでもいいでしょう。最初は手動でやってみて、慣れてきたらCIにして定期実行できるようにしましょう。
意外と、使い捨て環境にデモデータ込みで、メールやAPI通信をモック化してWebアプリを動作させるという構築が一番めんどくさいかもしれません。しかしこれができればPlaywrightによるE2Eテスト自動化とかにも使えますので、投資する価値はあるでしょう。
わたしもそこそこ発注側としての脆弱性検査は経験がありますが、セキュリティ専門家ではないので、詳しい方からのツッコミをお待ちします。
-
昔Anonymousが間違って攻撃を仕掛けたことで有名 ↩︎
Discussion