メインコンテンツへスキップ
見出し画像

相次ぐ情報漏洩は、まだ序の口にすぎない — Mythosの発表で見えた危機に備える猶予は、4カ月あまりで終わった

    2026年9月から10月にかけて、日本企業の情報漏洩の公表が止まりません。

    9月16日に画像共有サービスのGyazoが利用者情報約2,362万件の流出を公表しました。9月28日にはカーシェアのタイムズカーが最大約660万アカウントの漏洩を発表し、翌29日には、うち約160万件に運転免許証などの本人確認書類の画像が含まれていたと続報しています。
    10月に入ると、5日に焼肉きんぐが約1,079万件、8日に第一興商が約872万件、9日にskyticketが約1,464万件と、数百万から1,000万件を超える規模の公表がわずか5日間に3件続きました。10月7日には、ソフトバンク子会社IDCフロンティアのクラウドがランサムウェア(データを暗号化して身代金を要求する攻撃)の被害を受け、495の企業・自治体に影響が広がっています。JR東日本とJR九州も、この余波で漏洩のおそれを発表しました。

    東京商工リサーチの集計では、上場企業などによる100万件以上の漏洩は、2026年は10月5日時点で10件。2025年は1年間で6件でした。10月8日には政府が初めて関係省庁の会議を開き、サイバー安全保障担当相が「大変、危急の状況」と述べています。

    それでも、これはまだ序の口です。

    私は5月1日の記事で、4月のClaude Mythosの発表によって、AIが攻撃に使われる危機的な未来が明確になり、企業と政府がそれに本気で備えるための猶予期間が生まれたと書きました。その猶予は、わずか4カ月あまりで終わりました。

    そしていま、Mythosに近い攻撃能力を持つAIが、「オープンウェイト」という形で出回っています。モデル本体のデータが公開され、誰でもダウンロードして自分のコンピューターで動かせるAIのことです。

    この記事では、なぜ「序の口」と言い切れるのかを、猶予期間に何が起きたのか、AIで攻撃の値段がどう下がったのか、守る側の人に何が足りないのか、の順に整理します。
    そのうえで、オープンウェイトとは何か、主なAIモデルの特徴、フランス政府が中国製のAIまで使う理由と「AI主権」という考え方を押さえ、最後に、企業と個人がいま何をすべきかを書きます。


    1. 公表された漏洩は、氷山の一角にすぎない

    漏洩の公表件数は、実際の被害の大きさをそのまま表していません。いまの状況には、次の3つが同時に存在しています。

    • すでに侵害・漏洩が起き、企業が公表している事案

    • 侵害・漏洩を確認しているが、まだ公表に至っていない事案

    • 企業自身が、侵害されたことにまだ気づいていない事案

    ニュースになっているのは 1 つ目だけです。2 つ目は調査が終われば順に表に出てきますし、3 つ目は外部から指摘されるか、盗んだデータが売りに出されるまで誰も知りません。今後、数十社から数百社の規模で新たな事案が明らかになっても、まったく不思議ではありません。

    ほかの統計も、同じ方向を指しています。警察庁によると、2026年上半期のランサムウェア被害は123件で、半期として過去最多でした。侵入経路の約半数は、社外から社内ネットワークにつなぐためのVPN機器です。

    いま見えている被害は、すでに起きたことのうち、たまたま表に出た部分にすぎません。


    2. Mythosが生んだ猶予期間は、4カ月あまりで終わった

    2026年4月、AnthropicはClaude Mythos Previewを発表しました。主要なOSやブラウザに潜む未知の脆弱性(ソフトの欠陥)を数千件見つけるほどの能力を持ち、その危険性から、Anthropic自身が「一般公開する予定はない」と明言したAIです。

    5月1日の記事では、この発表が業界と政府に「備えるための時間」を与えたと書きました。Mythosの存在が先に知らされ、本体は限られた組織にしか渡されなかった。その結果、MozillaはFirefoxの脆弱性271件を先回りで修正し、日本でも金融相と日銀総裁、3メガバンクの幹部が緊急会合を開きました。Mythos は、結果としてセキュリティに本気で取り組むための猶予期間として機能した、というのが当時の結論です。同じ記事の最後には、Anthropicが公開しないと決めた本当の意図は「半年後にしか分からないかもしれない」とも書いています。この記事は、その半年後の答え合わせでもあります。

    猶予がどれくらい続くかについても、当時から見立てはありました。4月21日の参議院総務委員会では、他の企業が同じくらいの能力を持つモデルを開発するまで「短ければ3か月くらい、長くても1年以内くらい」という見方が示されています。

    実際には、猶予は4カ月あまりで終わりました。

    中国のZ.ai(智譜AI)は、8月14日に新しいAIモデルGLM-5.3の提供を始め、日本時間8月29日にはモデル本体のデータを一般に公開しました。誰でもダウンロードして、自分のコンピューターで動かせる状態です。

    9月17日、アメリカの国立標準技術研究所(NIST)の下にあるAI評価機関は、GLM-5.3を「公開済みのオープンウェイトモデルの中で、最もサイバー能力が高い」と評価し、米国の最先端から約4カ月遅れの水準だとしました。9月29日にはAnthropicも独自の評価を公表しています。Chromeの既知の脆弱性を突く攻撃コードを作らせるテストで、成功したのはGLM-5.3が410回中50回、4月のMythos Previewが56回。さらに、GLM-5.3の安全機能を外した改造版では、危険な依頼を断らせる仕組みが100%回避されました。Anthropicが実際にこの改造を試したところ、かかった費用は約4,400ドル(1ドル148円換算で約65万円)で、慣れたチームなら約1,200ドルで済むと推定しています。

    4月に「一般公開する予定はない」とされたモデルに近い攻撃能力が、8月の終わりには、誰でも手に入るものになっていたということです。


    画像

    ただし、評価は一様ではありません。AnthropicはZ.aiと競合する立場でもあるため、その評価は割り引いて読む必要があります。日本のAIセーフティ・インスティテュートは10月に公表した検証(評価の実施は7月)で、1つ前の版であるGLM-5.2を調べ、高度な攻撃能力のオープンウェイトへの広がりは「現時点では限定的」と結論づけました。一方、英国のAI安全研究所は7月、オープンウェイトモデルのサイバー能力は最先端から4〜7カ月遅れで、2025年の6〜10カ月から差が縮まったと分析しています。差は、確実に縮まっています。

    国内の事案についても、分けて見ておく必要があります。9月から10月の国内事案で、AIが攻撃に使われたと確認されたものは、まだ1件もありません。公表された原因は、サーバーの脆弱性(Gyazo)、委託先のパソコンのマルウェア感染(第一興商)、VPNの脆弱性(デジタル庁の職員向けシステム)など、昔からある穴です。高度な攻撃能力が誰でも使える状態になったことと、それが特定の事件で実際に使われたことは、分けて考える必要があります。AIを使った攻撃だとはっきりわかる事例が公表され始めるのは、2026年末から2027年初めにかけてだと私は見ています。

    ただ、海外ではすでに具体的な痕跡が出ています。セキュリティ企業のCrowdStrikeは10月7日、韓国の金融機関を狙った攻撃の分析を公表しました。攻撃者のサーバーの公開ディレクトリに残っていたClaude Codeの作業履歴から、中国製の自動侵入テストツール「ARTEX」の頭脳役として主にDeepSeek V4.1-Flashが使われ、追加の作業ではGLM-5.3やGrok 4.6も併用されていたと分析しています。国内でも、セキュリティ企業の識者から、AIについて「使われていないと考える方が不自然」という声が出ています。

    国内の個々の事件でAIの使用が確認されていないからといって、備えを先送りしてよいわけではありません。今回公表された事案には、AI以前から知られていた脆弱性や運用上の問題を原因とするものがあります。AIがこうした弱点の発見や攻撃の準備を速め、攻撃に必要な負担を下げていく可能性を考えると、従来の対策を見直す必要性は高まっています。

    4月のMythos発表は、その見直しを始める大きな契機だったはずです。もちろん、対策を強化していれば今回の被害を防げたかどうかは、個別の検証が必要です。それでも、年に1回の脆弱性診断や従来どおりの運用で十分なのか。AIを活用して継続的に弱点を点検する体制が必要ではないか。企業がこうした問いに向き合う理由は、すでに4月の時点でありました。


    3. AIで、攻撃の値段が下がった

    これまでのサイバー攻撃には、高度な専門知識と手間が必要でした。システムの脆弱性を探し、複数の弱点を組み合わせて侵入経路を考え、実際に攻撃を実行する。どの工程にも、熟練した人間の時間がかかります。

    AIは、この3つの工程をそれぞれ肩代わりできるようになりました。

    1. システムの脆弱性を見つける

    2. 複数の脆弱性を組み合わせて、侵入経路を組み立てる

    3. 攻撃の実行に必要な作業を手伝う

    その結果、攻撃に必要な技術と費用のハードルが大きく下がりつつあります。これまで熟練した攻撃者にしかできなかった作業の一部を、AIが補えるようになってきました。攻撃のコストが下がれば、攻撃を試みる主体や回数が増える可能性があります。今回の国内の漏洩事案とAIの直接的な関係は確認されていませんが、私は、こうした攻撃コストの低下が今後の被害を拡大させると考えています。

    年に1回の脆弱性診断では、守れない

    多くの企業は、システムの脆弱性診断を年に1回ほど受け、見つかった問題を直す運用をしてきました。

    しかし、AIモデルは数カ月単位で性能が上がります。ある時点で「問題なし」と診断されたシステムでも、数カ月後に出てくる新しいAIなら、以前は見つからなかった穴を見つけられる可能性があります。診断を受けた日の安全は、翌月の安全を保証しません。

    ソフトの修正プログラム(パッチ)を当てる重要性は変わりませんが、それだけでも足りなくなりました。パッチは、見つかった脆弱性に対して後から配られるものです。AIが未知の脆弱性を先に見つけるようになると、パッチが出る前に攻撃される危険が高まります。

    守る側も、AIを使うしかない

    攻撃する側のAI活用が進む以上、守る側もAIを活用して防御を高度化していく必要があります。従来のセキュリティ対策を土台にしながら、AIも使って自社のシステムを攻撃者の目線で継続的に点検し、弱点を早期に塞ぐ体制へ移ることが重要です。

    そのために必要なのは、次の3つです。

    • 人材:AIとセキュリティの両方を理解し、AIを守りに使える人

    • 組織:AIを前提に、セキュリティ点検を常に回し続ける仕組み

    • 計算資源:AIに脆弱性を探させたり、攻撃をシミュレーションさせたりするための処理能力

    いずれも、一朝一夕に整えられるものではありません。だからこそ、いまから計画的に確保していく必要があります。

    興味深いのは、後で紹介するフランス政府の姿勢です。行政の日常業務では「最先端から1年遅れのAIでも構わない」と割り切るフランス政府でさえ、サイバーセキュリティだけは例外としています。互いに競い合い、弱いほうが負ける領域では、最先端に近い性能で守るしかないからです。


    4. いちばん足りないのは、使う人の側

    攻撃の値段が下がった一方で、守る側はどうか。私がいちばん深刻だと考えているのは、AIを使う人の側です。

    日本政府の生成AI基盤「源内」は、全府省庁の約18万人の職員を対象に整備が進んでいます。ところが、幹部ほどAIを使っていないという実態があります。

    デジタル庁が公表している庁内のデータを見ると、その傾向ははっきりしています。2025年5月から2026年8月までの累計で、生成AIを200回以上使った職員の割合は、係員級で33%、民間から来た専門人材では41%でした。これに対して審議官級以上では9%にとどまり、一度も使っていない人も18%います。政府のデジタル化を担う組織でさえ、この差です。


    画像

    これは政府だけの話ではありません。民間企業にも共通する課題です。

    多くの企業では、AIの導入が進む一方で、従業員の理解や活用能力が十分に追いついていないのが実情ではないでしょうか。アカウントを配布しても利用が広がらず、利用していても検索や文章の手直しなど、限定的な用途にとどまっているケースもあります。AIを安全かつ効果的に活用するための知識や経験が、組織全体に十分に浸透しているとは言い難い状況です。

    これは個人の意欲だけの問題ではありません。AIを業務にどう取り入れるかが明確になっておらず、学ぶ機会や活用を促す仕組みも十分に整っていない。従来の仕事の進め方を変えないまま、AIの導入だけが先行していることも大きな要因だと考えます。

    この状態は、セキュリティ上のリスクにもつながります。攻撃者がAIを活用するようになる一方で、守る側にもAIに関する新たな知識が求められています。例えば、外部のAIツールに社内ファイルへの広いアクセス権を与えるリスクや、機密情報をどのAIに入力してよいかといった判断には、AIの仕組みや利用環境への理解が欠かせません。選べるモデルが増えるほど、こうした判断は複雑になります。実際にAIを使いながら、その可能性だけでなくリスクも具体的に理解していくことが重要です。

    管理職がAIを使わないことの影響は、さらに大きくなります。AIを個人の作業の補助として使う段階なら、組織を大きく変える必要はありません。しかし、AIを前提に業務の流れを組み直す段階に入ると、意思決定や組織運営の仕組みそのものを変える必要が出てきます。そのためには、管理職自身がAIの能力と限界を理解し、業務やセキュリティのあり方を考え直すことが欠かせません。まずは管理職自身がAIに触れ、その可能性とリスクを体感することが重要です。経営層や管理職の理解と行動が、組織全体の変化を促す第一歩になります。

    AIの攻撃能力が高まるなかで、守る側の理解や対策が追いつかなければ、今後さらに深刻な被害が生じるリスクは高まっていくでしょう。


    5. そもそも「オープンウェイト」とは何か

    では、攻撃する側の道具は、どこから来ているのか。その中心にあるのが、冒頭で触れた「オープンウェイト」です。

    AIモデルの「重み(ウェイト)」とは、学習の結果としてできあがった膨大な数値の集まりのことです。モデルの知識や判断のクセは、すべてこの数値に入っています。言ってしまえば、重みがモデルの本体です。

    AIモデルは、この重みの扱い方で大きく2つに分かれます。

    • クローズドモデル:重みを公開せず、開発企業のサービスやAPI(プログラムから呼び出す窓口)を通じてだけ使わせる形。ChatGPTのGPTシリーズ、AnthropicのClaude、GoogleのGeminiなどが該当します

    • オープンウェイトモデル:重みを公開し、誰でもダウンロードして自分のサーバーやパソコンで動かせる形。中国のDeepSeek、AlibabaのQwen、Z.aiのGLM、フランスのMistral、OpenAIのgpt-ossなどが該当します

    「オープンソース」と混同されやすいのですが、オープンウェイトで公開されるのは、基本的に学習済みの重みだけです。何のデータで学習させたか、どう学習させたかまでは、通常は公開されません。使える条件もライセンス(利用規約)ごとに違い、MITライセンスのように商用利用まで自由なものもあれば、GLM-5.3のように、関連会社を含む売上が連続する12カ月で100億ドルを超え、かつモデルをAPIなどで提供する事業者に、開発元のセキュリティ審査を求める独自ライセンスもあります。

    強みは「誰にも止められない」こと

    オープンウェイトモデルの最大の特徴は、一度手元に置けば、誰にも止められないことです。

    クローズドモデルは、開発企業の判断や政府の命令で使えなくなります。実際に2026年6月、AnthropicのClaude Fable 5は、一般公開からわずか3日後に、米政府(商務省)の輸出管理の指示を受けて全世界で停止されました(再開は7月1日)。オープンウェイトモデルなら、開発元が方針を変えても、自分のサーバーで動かし続けられます。データを外部に送らずに済み、自社の業務に合わせて追加学習させることもできます。

    その強みは、攻撃者にとっても強み

    ただし、この強みには裏側があります。

    クローズドモデルには、開発企業が安全装置をかけられます。たとえば現行のClaude Fable 5.1は、攻撃にも防御にも使える危険なサイバー作業を検知すると、その依頼を別のモデルに回す仕組みを組み込んでいますし、問題があれば提供そのものを止めることもできます。

    オープンウェイトモデルは、配った後で回収できません。安全装置は、手元で外されてしまえば終わりです。先ほどのAnthropicの試算では、GLM-5.3の安全装置を外す費用は、慣れたチームなら約1,200ドルです。「誰にも止められない」は、攻撃する側にとっても、誰にも止められないという意味です。


    画像

    主なAIモデルの特徴

    主なモデルを、公開の形と特徴で整理します。


    画像

    米国のクローズドモデルは、いまも最上位の性能を持っています。代表はAnthropicのClaude Fable 5.1と、OpenAIのGPT-6 Astraです。Anthropicは同じ基盤モデルを2つの名前で出しており、一般向けのFable 5.1は、侵入テストや攻撃コードの生成のように攻撃にも防御にも使えるサイバー作業を検知すると、その依頼を別のモデル(Opus)に回します。安全装置を緩めたMythos 5.1は、審査を通った米国の組織にしか提供されていません。GPT-6 Astraも、OpenAI自身の基準でサイバー能力が最上位の「Critical」に区分されています。強力な分、開発企業と米政府が使い方を管理しており、日本企業から見れば、いつ使えなくなるかを自分で決められないということでもあります。

    中国のオープンウェイトモデルは、安く、強く、誰でも使えます。DeepSeekは4月にV4のプレビュー版を公開し、9月10日にはさらに小型で安いV4.1-Flashを出しました。料金は100万トークンあたり入力0.15ドルからと、米国の最上位モデルよりはるかに安い水準です。AlibabaのQwenは8月に最上位のQwen3.8-Maxを出し、小型版は世界中の開発者に使われています。そこに、サイバー能力で最も先を行くZ.aiのGLM-5.3が加わります。

    ただし「中国製のAIを使う」と言っても、使い方で意味がまったく違います。DeepSeek社のアプリやAPIを使えば、入力した内容は中国のサーバーに送られ、中国の法律が適用されます。日本のデジタル庁も2025年2月に、この点を注意喚起しています。一方、重みをダウンロードして自社のサーバーで動かし、外部通信やログの取り扱いを適切に管理すれば、入力データを国外に送らずに利用できます。ただし、モデルに組み込まれた振る舞い(回答に検閲がかかる傾向など)は、運用環境を変えただけで消えるわけではありません。

    フランスのMistral AIは、欧州で最先端に近いモデルを作る数少ない会社です。9月に30億ユーロ(5,000億円超)を調達し、10月6日には最上位のMistral Large 4のプレビューを始めました。モデルによってオープンウェイトとクローズドを使い分けています。

    日本の国産モデルは、第三のタイプです。NTTのtsuzumi 2、富士通のTakane 32B、Preferred NetworksのPLaMo 2.0 Primeは、確認できた範囲では重みが一般には公開されていませんが、契約すれば自社や国内のサーバーで動かせます。デジタル庁は、この3つを国内のクラウドで動かし、9月から11月にかけて源内で既存のモデルと比べる試用を予定しています。

    性能だけを比べれば、最上位は米国のクローズドモデルで、中国のオープンウェイトが数カ月遅れで追いかけています。ただ、その数カ月の差は、攻撃者にとっては「待てば手に入る」差でしかありません。


    6. フランス政府が、中国製のDeepSeekまで使う理由

    オープンウェイトの「誰にも止められない」を、守る側の強みとして徹底的に使っている国があります。フランスです。

    技術を疑う国が、中国製AIを使っている

    フランスは、技術に対して慎重な距離を取る国です。5Gを導入するときにも「なぜ通信をこれ以上速くする必要があるのか」が議論になり、2026年からは高校でのスマートフォンの使用が法律で禁止されています。

    その国の政府が、中国製のDeepSeekを使っていました。

    フランスのデジタル部門は、政府全体で共通に使えるAIの窓口「Albert API」を運用しています。仕組みは日本のデジタル庁の「源内」と似ていますが、決定的に違うのは、米国のクローズドモデルにアクセスできないことです。OpenAIのGPT-6も、Claudeも、Geminiも使えません。その代わりに、主にオープンウェイトモデルを、フランスの認証を受けたクラウドの上で動かしています。日本の源内では、2026年8月時点でAnthropicのClaudeなどを選べるのとは対照的です。

    Albert APIの公式資料を見ると、汎用の対話では、OpenAIのオープンウェイトモデルgpt-oss-120bが大型モデルの軸で、MistralやGoogleの小型モデルなどが並びます。DeepSeekのV4-Flashは、コード生成用に試験導入されたモデルという位置づけで、公式資料には「欧州域外のモデルで、回答に一定の検閲が入る可能性がある」という注記まで付いています。それでも、プログラミングの用途ではDeepSeekが最もよく使われ、AlibabaのQwenも頻繁に使われているといいます。

    理由は「主権」

    フランスのデジタル部門の担当者は、その理由を「私たちは主権(ソブリニティ)をとても重視している」と説明しています。自国のサーバーでオープンウェイトモデルを動かせば、世界の誰も、そのモデルの稼働を止められない。6月にClaude Fable 5が突然使えなくなった出来事は、まさにその逆の例です。

    もちろん、中国製モデルを使う危険についても議論はありました。自前のサーバーで運用し、外部通信を適切に管理すれば、入力した内容を国外に送らずに済みます。それでも、たとえばモデルが「フランス政府の仕事をしている」と気づいたときに、わざと性能を落としたり、回答をおかしな方向に書き換えたりするように作り込まれている可能性は残ります。フランスには、AIの安全性を評価する国の枠組み「INESIA」があり、こうした振る舞いがないかを注意深く検証しながら使っているといいます。

    技術を疑っているからこそ、自分たちで管理できる形にこだわり、そのためなら中国製のモデルも使う。 矛盾しているようで、筋は一貫しています。

    「最先端から1年遅れでも構わない」、ただしサイバーは例外

    賢い最先端モデルを使えない不利についても、フランス政府は「行政の日常業務なら、最先端から1年遅れでも問題ない」と割り切っています。用途によっては、性能が上がっても嬉しさがほとんど増えない段階があります。それなら、わずかな性能差を追うより、安く、止められず、データを外に出さずに使えることを優先する、という判断です。

    ただし、サイバーセキュリティだけは例外として扱われていました。攻める側も守る側も最先端に近い能力を使う領域で、1年遅れの道具では守れないからです。


    7. AI主権は「国産モデルを持つこと」ではない

    フランスの例から見えてくるのは、自国で最先端のモデルを作ることと、AI主権を持つことは、必ずしも同じではないということです。AI主権は、次の4つの要素に分けて考えると、何が足りないかが見えてきます。

    1. データの主権:自分たちのデータを、自分たちで管理・保護できるか

    2. 計算資源の主権:AIを動かすGPU(AIの計算に使う半導体)やデータセンターを確保できるか

    3. モデルの主権:モデルを自分たちで持ち、動かし、要件に合わせて調整できるか

    4. 人材の主権:AIを開発・評価・運用できる人を確保できるか

    国産モデルをゼロから作れても、それを動かす計算資源や人材を海外に頼りきっていれば、主権を持っているとは言えません。逆に、海外製のオープンウェイトモデルでも、自国のデータセンターで動かし、自分たちで評価・運用できるなら、海外のクローズドモデルに全面的に頼るより、主権は確保しやすくなります。


    画像

    この4つは、国だけの話ではありません。企業も、自社のAIについて同じ4つを問われています。どのデータを外部のAIに渡しているか、そのAIが止まったら業務は続くか、AIを評価できる人が社内にいるか。今回の情報漏洩事案だけで各社のAI管理能力まで判断することはできませんが、こうした問いに答えられる体制を整えておく重要性は、今後ますます高まっていくでしょう。

    日本がAI主権を確保すべき2つの理由

    理由は2つあります。

    1 つ目は、海外のAIに払う利用料が膨らみ続ける「トークン赤字」です。トークンとは、AIが文章を処理するときの単位で、AIの利用料はこの量で決まります。AIを使うほど仕事がはかどり、はかどるほど、さらに多くの仕事でAIを使うようになる。海外企業のAIを使っていれば、その支払いの多くは海外に流れます。すべての仕事に最先端モデルを使う必要はなく、メールの下書きのような定型の仕事は安いオープンウェイトモデル、外に出せない情報は自社や国内の環境で動かすモデル、といった使い分けが対策になります。

    2 つ目は、ここまで書いてきた停止の危険です。業務の流れそのものがAIを前提に組み直されていくと、特定の海外モデルが止まった日に、仕事も止まります。

    日本が取るべき「第三の道」

    米国と中国のような巨額投資で張り合えない日本が取るべきなのは、3つの方向を同時に進める「三正面戦略」です。

    • 中堅国どうしで手を組む:日本、フランス、カナダなどの中堅国(ミドルパワー)が資金と計算資源を持ち寄り、巨大な学習用データセンターを共同で持つ。巨大な粒子加速器を多国間の共同出資で建設した欧州原子核研究機構(CERN)が参考になる

    • 半導体を、米国との交渉材料にする:熊本のTSMCの工場や、北海道で先端半導体の量産を目指すラピダスを強みに、AIの世界での交渉力を持つ

    • 中国製のオープンウェイトモデルを、評価したうえで使う:日本のAIセーフティ・インスティテュート(AISI)が国内外のモデルの安全性を評価して結果を公表し、企業はそれを見て用途ごとに使えるかを判断する

    3 つ目は、企業にとっても意味があります。中国製モデルの危険を各社がばらばらに評価するのは非効率で、国の機関が評価を引き受ければ、企業は自前で動かせる選択肢を安心して検討できます。さらに言えば、AIの分野では「1年」は長すぎます。予算や法律の作り方そのものを、AIの変化の速さに合わせて見直す必要があります。


    8. 序の口のうちに、動く

    国の戦略が動くのを待っていても、自社のサーバーは守れません。企業と個人が、いまできることは決まっています。

    まず、AIの予算の置き場所を変える

    AIの費用を、通常のクラウドやシステム投資の延長で考えるのは無理があります。AIは、人がしていた知的な仕事の一部を担う存在になってきており、性質としては人件費とシステム費のちょうど中間にあるからです。利用量の増え方も、従来のITシステムの費用とはまったく違います。

    そこで合理的なのが、AIの予算を人件費との比率で決めるやり方です。エンジニアやコンサルタントのように、AIで生産性が大きく上がる職種ほど比率を高くする。こうしておけば、人とAIをどう組み合わせるかを経営判断として考えられます。Uberは、2026年の年間AI予算を4月までに使い切ったと報じられ、6月初めには、Claude CodeなどのAIコーディングツールについて、1ツールにつき社員1人あたり月1,500ドルまでの上限を設けたと伝えられました。AIの費用は、従来の予算の立て方ではまったく読めません。

    そして、AIで自社の穴を探し続ける費用も、この予算から出ます。AIの費用を従来のIT投資の延長だけで捉えていると、攻めと守りの両面で必要な投資を適切に判断することが難しくなります。

    経営層がやること

    • AIの予算を、IT費とは別の経営予算として持つ。守りのためのAI利用も、そこに含める

    • 年に1回の脆弱性診断から、AIを使った継続的な点検に切り替える

    • 委託先を含めて、どこにどんなデータがあり、どのAIに依存しているかを、AIも使って棚卸しする。止まったときの代わりの手段を決めておく

    • 自分自身がAIを日常的に使う

    現場のリーダーと情報システム部門がやること

    • VPN機器や公開しているサーバーの更新状況を、いま確認する

    • 社員が使っているAIツールに、どの範囲のアクセス権を渡しているかを把握する

    • 機密情報をどのAIに入れてよいか、入れてはいけないかの線を引き、全員に伝える

    一人ひとりがやること

    • AIを、検索や文章の手直し以上の仕事に、自分で使う

    • 自分が扱う情報のうち、外部に出してはいけないものは何かを言葉にできるようにする

    • わからないことを、わからないままにしない


    画像

    どれも、目新しいことではありません。4月の時点で、ほとんど同じことが言えました。しかし、AIの進化が予想以上の速さで進むなか、従来のセキュリティ対策を見直し、組織として対応を進めることは容易ではありません。だからこそ、いま改めて対策の優先順位を見直し、できることから実行に移していく必要があります。

    いま公表されている事案は、まだ序の口だと私は考えています。次の波は、AIを使った攻撃であることがはっきりした形で来るかもしれません。そのときになって初めて対策を始めても、すぐに守れる体制が整うわけではありません。

    この記事をきっかけに、1社でも、1人でも、危機に備えて実際に動く人が増えることを願っています。


    あわせて読みたい


    出典・確認範囲

    情報は2026年10月12日時点で確認しました。フランス政府の運用に関する現地の話は、以下の対談とnote記事に基づきます。9〜10月の国内の漏洩事案で、AIが攻撃に使われたと確認されたものは、執筆時点ではありません。

    国内の漏洩事案と統計

    AIの攻撃能力と評価

    モデルとオープンウェイト

    フランスと日本の行政AI

    AIの費用

    対談・視察記・国会質疑

    あなたへのおすすめ