メインコンテンツへスキップ
見出し画像

AIが攻撃にも防御にも使われる時代、エンジニアは何を設計するのか

    2026年10月、PHP2ShellやHTTP2Shellなど、重大な脆弱性が相次いで公表された。

    注目したいのは、PHP2Shellの発見にAIが活用されていたことだ。

    AIはコードを書く道具から、脆弱性を発見する道具へと活用の範囲を広げている。

    しかし、その能力が防御側だけに使われるとは限らない。

    攻撃もAIが担う時代へ

    実際に、攻撃側でもAIの活用が始まっている。
    2026年9月、Google Threat Intelligence Groupは、AI Agentを利用した攻撃活動について報告した。
    その一つでは、攻撃者がAIを利用し、大規模な認証情報の収集活動を6時間未満で計画・構築・実行していたという。

    これまで人間が行っていた調査や攻撃準備、実行の一部をAIが担うことで、攻撃の速度や頻度が増す可能性はある。
    そうなれば、人間が脆弱性を調査し、修正し、検証するという対応だけでは、追いつかない場面も増えるのではないだろうか。

    防御側もAIを利用する。そして、予防へ

    攻撃側がAIを利用するのであれば、防御側もAIを活用して対抗する。これは自然な方向性に思える。

    すでに、そのような取り組みは始まっている。

    2026年9月、GoogleはAI Agentを利用して自社インフラのコードを保護する仕組みを紹介した。

    興味深いのは、脆弱性が発見されてから修正するだけでなく、コードが開発工程に取り込まれる前にAIが検査するという考え方だ。

    AI Agentがコードの変更を調べ、別のAgentが検出結果を検証する。問題があれば修正案を作成し、人間のレビューへ回す。

    Googleによれば、この仕組みによって毎月数百件の脆弱性がコードベースや本番環境へ入り込むことを防いでいるという。

    つまり、脆弱性が発覚してから対処するだけでなく、脆弱なコードを持ち込まない仕組みを開発工程そのものに組み込んでいるのだ。

    従来のコード検査や自動テストはもちろん必要だ。しかしAIを取り入れることで、人間があらかじめ想定した検査項目だけでは見落とし得る問題にも、検査の範囲を広げられる。

    今後、AIを防御の仕組みに組み込むことは、ますます重要になっていくのではないだろうか。

    AIを防御に組み込む。では、誰がAIを制御するのか?

    ここで、新たな問題が生まれる。

    AIにコードの検査や修正を任せても、その結果が常に正しいとは限らない。AI自身が攻撃を受け、判断を誘導される可能性もある。

    一方、AIの作業をすべて人間が確認・承認していては、自動化による速度のメリットが小さくなってしまう。

    だからこそ、AIに何を任せ、何を禁止し、どの条件なら実行を許すのかを事前に設計することが重要になる。

    その方法の一つに、Policy as Code(PaC)がある。実行を許可する条件や権限を、コードで定義・判定する考え方だ。

    例えば、AIにはコードの修正を許可しても、本番環境の重要な設定は変更させない。影響の大きい操作には人間の承認を残し、承認された内容と実際に実行される内容が一致するかを、独立した仕組みで確認する。

    さらに、AI自身が検証ルールや権限を勝手に変更できないようにすることも必要だ。

    人間の判断からミスを完全になくすことは難しい。だからこそ、人間の承認だけに依存せず、AIの行動を仕組みとして制御する必要がある。

    これからのエンジニアに求められる能力

    AIがコードを書き、検査し、修正する。そんな開発工程が広がれば、人間のエンジニアの役割も変わってくる。

    従来のシステムやインフラの設計に加え、AIを利用した検証や防御を開発工程に組み込み、その権限や実行条件を設計する能力が重要になるだろう。

    それは、プログラミングの知識が不要になるという意味ではない。

    実装やシステムの構造を理解しているからこそ、AIの判断の危険性に気づける。業務を理解しているからこそ、何が正しい動作なのかを定義できる。

    システムを作るだけでなく、AIを利用してシステムが安全に作られ、動き続ける仕組みを設計する。

    AI時代のエンジニアの仕事は、そんな方向へと広がっていくのかもしれない。

    記事の内容は筆者の見解や憶測を含みます。誤りがあるかもしれませんが、ご了承ください。


     
     

    Flow

     
     
    いろんなことを仕事にしている辺境会社員。

    あなたへのおすすめ