
AIモデルは公開するほど安全になるのか。オープンウェイト・監査・悪用リスクを検証|DEEP NOTE
- 割引あり
DEEP NOTEシリーズについて
DEEP NOTEは、気になるテーマを一つ取り上げて深く掘り下げるシリーズです。
公的機関、研究機関、学術論文、企業の公式資料など、できる限り信頼性の高い情報源を横断的に調査し、断片的な情報を一つの記事として整理します。
専門的な内容についても、初めてそのテーマに触れる人が大筋を理解できるよう、用語や背景を補足しながら解説します。
その一方で、すでにある程度知識を持っている人にも新しい発見があるよう、研究データ、一次情報、議論されている論点、情報の限界まで可能な範囲で紹介します。
一つのテーマについて、自分で複数の資料を調べる時間を短縮しながら、表面的な理解より一歩深いところまで知りたい。
DEEP NOTEは、そんなときに読める「少し深めの調査ノート」を目指しています。
はじめに
2025年8月、OpenAIは「gpt-oss」というオープンウェイトの言語モデルを公開しました。大規模なAIモデルを自分の環境へ取り込み、調整して使えるようにする動きの一例です。同じ時期のAI研究では、米国の非営利研究機関Ai2が、モデルの重みだけでなく、学習コード、データ、評価手法まで広く公開する「OLMo 2」を展開していました。この二つは、ともに公開型のAIとして語られますが、実際に外部から確認できる範囲は同一ではありません。出典:OpenAIのgpt-oss発表、Ai2のOLMo 2。
ここには、AIを使う個人だけでなく、AIを組み込む企業、研究者、安全性を評価する人、制度を考える人に共通する疑問があります。技術を公開すれば、多くの人が欠陥を調べられるようになります。しかし公開には、利用者に与える権限そのものを変える側面もあります。何を、誰に、どのような条件で渡すのか。AIの場合、その選択はどこまで安全性の評価に関係するのでしょうか。
「オープンなら安全」「クローズドなら安全」という主張は、どちらも短く分かりやすく見えます。けれども、そもそも安全性とは、誤情報を出さないことなのか、悪用されないことなのか、偏りや個人情報の扱いを検証できることなのか。論者が違う対象を念頭に置いていれば、言葉がかみ合わないのも当然です。
本記事は、公開の範囲を丁寧にほどいたうえで、米国のNTIA報告書、2026年の国際AI安全性報告書、スタンフォード大学の透明性評価、英国のAI Security Institute(AISI)の技術的評価を突き合わせます。さらに実在するモデル公開の事例と、欧州・日本の制度・評価指針を通じて、「公開」と「安全性」をどのように比較すべきかを検討します。専門家同士の抽象的な賛否だけでは見えにくい、評価できることと評価できないことの境界を整理していきます。
「公開」という言葉が指すもの
公開されるのは、一つのファイルだけとは限らない
生成AIの中心にある「モデル」は、大量のデータから学習した計算上の仕組みです。学習を終えたモデルには、入力に対してどのような出力を作るかを左右する膨大な数値が含まれます。この数値のまとまりが「重み(ウェイト)」です。重みを公開すれば、外部の開発者は、そのモデルを自分の計算環境へ取り込み、動かしたり、追加で学習させたりできる場合があります。
ただし、重みが読めることと、モデルがなぜその能力を獲得したかを追跡できることは別の話です。学習データの出所、収集・選別方法、学習に使ったプログラム、途中経過の記録、性能や安全性の評価条件などが提供されないモデルもあります。
公開の範囲を整理すると、少なくとも次の要素があります。
重みへのアクセス: モデルを取得し、独立した環境で動かせるか。
実装へのアクセス: 推論用プログラム、学習用コード、設定、モデル構造を調べられるか。
データに関する情報: 何を、どのように学習させたのかを追跡できるか。
評価に関する情報: テスト条件、限界、失敗例、再現に必要な情報を確認できるか。
利用に関する権利: 複製、改変、再配布、商用利用などを許す条件は何か。
これらは一括して開くことも、一部だけ開くこともできます。さらに、限定された研究者だけに公開する、一定期間を置いて公開範囲を広げるといった中間的な方法もあります。米国商務省の国家電気通信情報局(NTIA)は、2024年の報告書で、公開範囲を連続的な選択肢として扱っています。出典:NTIA「公開範囲のスペクトラム」。
「オープンウェイト」と「オープンソースAI」は同義ではない
2024年にOpen Source Initiative(OSI)が公表した「Open Source AI Definition 1.0」は、利用・研究・改変・共有の自由だけでなく、改変に適した形で提供されるべき情報を重視しています。機械学習の場合には、学習データに関する十分な情報、学習・実行のコード、モデルのパラメータなどが対象になります。したがって、「重みを入手できる」という説明だけでは、OSIの定義に適合するオープンソースAIかどうかは判定できません。出典:OSIの定義。
一方、一般的な報道や企業発表では「オープンモデル」という広い表現が使われます。そこで本記事では、**重みを広く入手できるモデルを「オープンウェイト」**と呼び、学習過程まで公開しているかどうかは別の項目として記述します。「オープンソース」という言葉は、原則として公開条件・利用権・必要情報の範囲を確認したときに使います。
この区別は細かい用語の問題ではありません。たとえば、同じモデルを外部から試せても、学習データの偏りを調べたい場合と、出力が不適切になった原因を追跡したい場合では、必要になる情報が違います。公開の議論を始める前に、何が公開され、何が説明されていないのかを分けておく必要があります。
国際的な議論の変化をたどる
2024年7月、米国NTIAは、重みを広く公開するデュアルユース基盤モデルに関する報告書を公表しました。「デュアルユース」とは、同じ能力が有益な用途にも問題のある用途にも使われ得ることを指します。この報告書は、研究や競争、プライバシー、公共の安全など多方面の議論を扱い、当時得られた証拠を踏まえて政策上の検討課題を示しました。ここでの対象は、当時の米国大統領令に基づく定義と調査範囲を持つものであり、あらゆるAIを無条件に評価したものではありません。出典:NTIA報告書。
2025年には、モデルの公開形態だけではなく、研究開発の説明責任を測る試みも進みました。スタンフォード大学のCenter for Research on Foundation Modelsは、企業の情報公開を多数の指標で調べる「Foundation Model Transparency Index」を更新しました。情報を開示している項目を比較する研究であり、モデルそのものの有害性や安全性の点数を直接与えるものではありません。出典:2025年版Transparency Index。
2026年2月には、100人以上の専門家が執筆に参加した「International AI Safety Report 2026」が公表され、モデルの能力、悪用、技術的な防御策、公開形態に伴う課題が包括的に検討されました。これは一人の研究者による単一実験ではなく、多数の研究結果を統合した科学的評価です。資料が扱う対象と確実性には幅があり、未来の被害件数を予言する文書ではありません。出典:International AI Safety Report 2026。
この流れを追うと、「公開するか否か」という形式的な区別だけではなく、どの能力のモデルを、どの用途で、どの程度の情報と一緒に出すのかという論点が浮かびます。以下では、これらの資料を実際に重ね合わせ、どのような評価が可能になるのかを考えます。
ここから先では、まず「安全性」を複数の対象に分けて、公開が各対象にどのように作用するかを検証します。続いて、スタンフォード大学の企業別評価とOLMo 2などの公開例を照合し、「監査できる」という主張の内容を具体化します。英国AISIのサイバー評価と国際報告書を使って悪用の問題を考えた後、公開前に確認するべき事項、公開後の責任、各国制度の論点を整理します。