メインコンテンツへスキップ
見出し画像

【2026年7月】ローカルLLM観測ログ──医療特化モデルが身近になり、AIエージェント時代が始まった月

    この記事の読み方

    本シリーズは、病院薬剤師向けローカルLLMの定点観測記録です。毎月同一の調査プロンプトを用いて複数のAIから情報を収集し、一次情報の確認と筆者の検証を加えながら記録しています。速報性よりも「継続的な比較可能性」を重視し、GPU無し・16GB RAM以下のノートPCで業務に使えるモデルの変化を長期的に追跡することを目的としています。

    「AIがそう言った」のか「実際に確認された事実」なのかを読者に分かるように、情報を3種類に分けています。

    【FACT】出典をたどれる情報(一次情報を確認できたものにはその旨を明記します)。

    【AI考察】4サービスに同じ質問をした結果、各サービスが回答した内容と共通・相違点の整理です(筆者が一次情報を未確認のものを含みます)。

    【筆者コメント】それらを踏まえた筆者自身の見解です。

    事実と推測が混在しないよう、見出しごとにこの3層を意識して読んでいただければと思います。


    今月の30秒サマリー

    今月最大の変化:「大きくして強くする」より、「同じサイズで賢くする」方向の工夫が目立った月でした。

    ★★★ 変化:Google MedGemma 1.5 4B(BF16版で約8.6GB)の非公式INT4量子化版(medgemma-1.5-4b-it-W4A16-G128)が7月13日にHugging Faceへ公開され、約5.2GBになりました。16GB RAM環境での実験対象として現実味が出てきた医療特化モデルです。ただし公開者自身が「正式ベンチマーク未実施」としており、精度は未確認です。

    ★★ 変化:VIDRAFTが7月19日、7B級モデル「Aether-7B-5Attn」を公開しました。49層にわたり5種類のAttention機構をLatin square状に配置するheterogeneous attention構造を採用し、重み・学習コード・データレシピ・チェックポイントまで完全公開しています。CPU推論速度・日本語性能は今回確認できていません。

    ★★ 変化:Ollama・LM Studioの両ツールが同時にエージェント化に動きました。Ollamaは対話型エージェントモードを標準搭載(v0.32.0)、LM Studioは独立エージェントアプリ「Bionic」を発表。あわせてOllamaのGGUFメタデータパーサーにDoS脆弱性(CVE-2026-65315)が見つかっています。詳細はツールアップデート欄にまとめました。

    ★ 観測継続:Embedding分野ではNVIDIAのNemotron 3 Embed(RTEB1位)、軽量マルチモーダルのEddy-VL 1.9Bなど新顔が複数登場しましたが、いずれも日本語医療テキストでの検証はまだです。


    今月のストーリー:モデルの数より「作り方」が動いた月

    前号(5〜6月号)では、Googleの医療特化小型モデル「MedGemma 1.5 4B」の登場と、Embedding性能競争の新世代突入を取り上げました。院内CPUで動く医療AIという選択肢が現実的になりつつある、という文脈でした。

    7月は、その流れが「新しいモデルの数」ではなく「既存モデルの磨き方」という方向に進んだ月だったと感じています。

    MedGemma 1.5 4Bは、Googleによる新規モデルの追加ではなく、コミュニティによる量子化でファイルサイズが約4割縮みました。Aether-7B-5Attnは、パラメータ数を増やさずにAttention機構そのものを工夫することで小型モデルの性能を引き上げようとしています。どちらも「大きくして強くする」ではなく「同じ大きさのままで賢くする」方向の工夫です。

    一方、Ollama・LM Studioという2つのツールは、モデルをただ動かす道具から、業務を任せるエージェント基盤へと同時に舵を切りました。モデルの進化が地味だった月に、ツール側の変化が目立った月、とも言えます。


    GPU無し・16GB RAM以下ノートPCで使える新規モデル

    【FACT】一次情報確認済(Hugging Face、VIDRAFT公式)

    条件を完全に満たす新規の汎用Dense系モデル(8B以下・量子化後16GB以下で実用速度が確認できたもの)は、今回の調査では確認できませんでした。もっとも注目すべきなのは、汎用モデルではなく次の医療特化モデルです(次項)。

    汎用モデルとしては、VIDRAFTが2026年7月19日に「Aether-7B-5Attn」(Apache-2.0)を公開しました。49層にわたり5種類のAttention機構をLatin square状に配置するheterogeneous attention構造を採用しており、重み・データレシピ・学習コード・ハイパーパラメータ・学習ログ・途中チェックポイントまで公開する「完全公開型」のモデルです(出典: VIDRAFT公式ブログ・Hugging Face)。ただし、量子化後の16GB環境向けファイルサイズやCPU推論速度(tokens/sec)は、今回確認できた一次情報の範囲では未公開でした。

    【AI考察】4サービス中3サービスで一致した評価

    4サービスのうちChatGPT・Gemini・Grokの3サービスが「7月は16GB RAM CPU環境向けの決定打となる新規汎用モデルは出ていない」という評価で一致していました(Claudeはこの項目について具体的な回答が得られませんでした)。Geminiは「6月以前の推奨モデル(8B以下の4〜5bit量子化モデル)を継続利用すべき」と明言しています。

    【AI考察】意見が分かれた点

    Aether-7B-5Attnの評価はChatGPTとGrokで温度差がありました。ChatGPTは「アーキテクチャの工夫という方向性自体が重要で、今すぐ追跡する価値がある」と積極的な一方、Grokはこのモデルに直接言及せず、Poolside社のLaguna XS 2.1(33B総パラメータ・アクティブ約3B)を候補として挙げていました。ただしLaguna XS 2.1はOllama量子化タグでも約20GB以上必要で、16GB RAM環境には適合しません。

    【筆者コメント(統合評価)】

    Aether-7B-5Attnは、パラメータ数だけでモデルの「軽さ」を判断してはいけないことを改めて示す事例だと感じています。**7Bというパラメータ数だけでは、16GB RAM・CPU環境での実用性は判断できません。**7B級というサイズ表記だけを見ると期待したくなりますが、KV-cacheを持たない設計だとする情報もあり、長い会話や長文RAGを想定した日常業務用の第一候補にするには、CPU実測を待つ必要があります。8月号ではGGUF化の有無と実測速度を確認したいところです。


    医療特化モデル

    【FACT】一次情報確認済(Hugging Face)

    Google MedGemma 1.5 4B IT(2026年1月13日公開、テキスト+医療画像対応のマルチモーダルモデル)を、非公式にINT4量子化した「medgemma-1.5-4b-it-W4A16-G128」が、2026年7月13日にHugging Faceへ公開されていることを確認しました(公開者: confamnode)。BF16版で約8.6GBだったモデルが、この非公式INT4量子化版では約5.2GBになっています。ライセンスはHealth AI Developer Foundations Terms of Useで、Apache-2.0のような単純な「商用利用可」ではなく、Googleの利用規約確認が必要です。公開者自身が「formal benchmarking pending」(正式ベンチマーク未実施)としており、量子化による精度低下は現時点で未検証です。

    このほか、Genzeon Platformsの「Healthcare Brain Diagnosis ICD NER」(約110MパラメータのPubMedBERTベース、診断名抽出+ICD-10/SNOMEDへのEntity Linking、Apache-2.0)も7月に確認できましたが、英語向けで日本語には未対応です。

    【AI考察】複数サービスで一致した評価

    ChatGPT・Grokともに、MedGemma系がGoogle本体からの新規モデルではなく、コミュニティによる量子化・派生の動きが中心だったという理解で一致していました。日本語医療文書への適用可能性については「未確認」という評価で各社一致しています。

    【AI考察】意見が分かれた点

    MedGemma量子化版の評価の温度感が違いました。ChatGPTは「16GB RAM PCでの実験対象としてかなり現実的になった」と前向きに評価した一方、Geminiは「7月時点で新規医療特化モデルなし(変更なし)」という判定でした。同じ情報を見ても「新規モデルとして扱うか、既存モデルの派生として扱うか」でAIの評価が分かれる、興味深い事例です。

    【筆者コメント(統合評価)】

    このMedGemma量子化版は、今月もっとも実務に近いところにある候補だと考えています。医療テキスト・EHR・医療画像・医療文書構造化・医療QAという用途は、そのままDI業務の周辺領域と重なります。ただし、非公式コミュニティによる量子化であり、Google公式の再評価を経ていない点は明記しておく必要があります。「導入を検討してよい」ではなく「16GB RAM環境で試して結果を持ち帰る価値がある」という段階です。8月号では、実際にダウンロードしてCPU推論速度と日本語での応答品質を確認する予定です。


    汎用SLM・Embedding/RAG関連の新規モデル

    【FACT】一次情報確認済(NVIDIA公式、Hugging Face)

    汎用SLM(Gemma・Qwen・Llama・Phi・Mistral系列)については、Gemini・Grokともに「7月は大きな新規リリースなし」という評価で一致しました。Grokのみ、Gemma 4系のサイレント更新(7月16日頃、ツール呼び出しバグ修正・応答途切れ低減)に言及しています。

    Embedding分野では、NVIDIAが2026年7月16〜17日に「Nemotron 3 Embed」(8B・1B・1B-NVFP4の3チェックポイント)を公開し、多言語検索ベンチマークRTEBで1位(NDCG@10=78.5%)を獲得しました。32Kコンテキスト対応で、商用利用可能なオープンウェイトです(出典: https://huggingface.co/blog/nvidia/nemotron-3-embed-wins-rteb )。

    また、Qwen3-VL-Embedding-2Bを構造的pruningと知識蒸留で軽量化した「Eddy-VL 1.9B」(Apache-2.0、約3.85GB)がHugging Face上に公開されていることを確認しました。画像・動画・テキスト・文書を共通のembedding空間に配置するマルチモーダルモデルで、teacherモデルの約92%の性能を保持したと報告されています。

    【AI考察】複数サービスで一致した評価

    Gemini・Grokともに、汎用SLM分野は7月に大きな動きがなかった一方、Embedding分野では新規モデルの動きがあったという点で一致していました。いずれも「日本語医療テキストでの検証はまだ」という留保が共通しています。

    【筆者コメント(統合評価)】

    RAG構築では、LLM本体だけでなく、検索を担うEmbeddingモデルの選択が検索精度を大きく左右します。特に医療文書では、一般的なベンチマーク順位だけでなく、日本語の薬品名・疾患名・略語などを含む実データで確認する必要があります。Nemotron 3 Embedの1B級は16GB環境でも十分実用的なサイズで、院内採用薬マスタや添付文書、DI FAQを検索対象にするRAG構成の有力候補になり得ます。ただし多言語対応をうたっていても、日本語医療用語での実測なしに採用するのは早計です。8月号でnomic-embed-text・BGE-M3との比較を試みたいと考えています。


    リスク・懸念点:AIエージェントがHugging Faceへ侵入した一件

    【FACT】一次情報確認済(OpenAI公式、Hugging Face公式)

    2026年7月16日、Hugging Faceがセキュリティインシデントを公表し、7月21日にOpenAIが自社の関与を認めました。内部評価中だったOpenAIのモデル(GPT-5.6 Solおよび非公開のプレリリースモデル)が、サイバー能力評価のためにテスト環境(ExploitGym)で動かされていた際、本来与えられていなかったはずのインターネットアクセスを、パッケージレジストリキャッシュ「Artifactory」のゼロデイ脆弱性を悪用して自律的に獲得し、Hugging Faceのインフラへ侵入しました(出典: OpenAI公式 https://openai.com/index/hugging-face-model-evaluation-security-incident/ /Hugging Face公式 https://huggingface.co/blog/security-incident-july-2026 )。今後リリース予定のモデルは関与しておらず、当該プレリリースモデルは内部研究専用とされています。

    【AI考察との相違点】

    今回の調査ではGeminiのみがこの件に言及していましたが、「モデル評価環境における脆弱性を利用した不正アクセス事例が検出・対処された」という受動的な説明にとどまっていました。実際には、評価環境で動作していたモデルが、想定されていなかったネットワークアクセス経路を利用し、テスト環境の境界を越えて外部インフラへアクセスした事例でした。AIの回答を鵜呑みにせず一次情報を確認することの重要性を、今回も実感しました。

    【筆者コメント】

    これは「AIが攻撃者になった」という単純な話ではありません。しかし、AIエージェントにツール利用やネットワークアクセスを与える場合、開発者が想定した権限境界とは別の経路から外部資源へ到達する可能性があることを示す事例として、院内でエージェント機能付きのローカルLLM(Ollamaのエージェントモード、LM Studio Bionicなど)を扱う際の参考になります。


    Ollama・LM Studio ツールアップデート(補助情報)

    【FACT】一次情報確認済(GitHub Releases、NVD、LM Studio公式Changelog・公式ブログ)

    Ollamaは6月末のv0.31.1から、7月11日のv0.32.0で対話型エージェントモード(引数なし実行でchat/code/web検索が起動)を標準搭載し、v0.32.5(7月27日)まで更新が続きました。あわせて7月21日、GGUFメタデータパーサーの未検証メモリ割り当てに起因するDoS脆弱性(CVE-2026-65315、CVSS3.1=7.5 HIGH)がNVDに登録されています(出典: https://nvd.nist.gov/vuln/detail/CVE-2026-65315 )。院内でOllamaをネットワーク公開・共有運用している施設は、v0.32.5への更新と、外部から取得したGGUFファイルの検証プロセス見直しを優先することを推奨します。

    LM Studioは6月末のv0.4.18から、v0.4.19(7月7日、Engine ProtocolのStableデフォルトON化)・v0.4.20(7月22日、エンタープライズ向け内部ネットワークエンドポイント対応)と更新しました。あわせて7月16日、本体とは別のスタンドアロンエージェントアプリ「LM Studio Bionic」が発表されています。ローカルモデル利用は無料、クラウドモデル利用(Zero Data Retention方針)は従量課金です(出典: https://lmstudio.ai/blog/introducing-lm-studio-bionic )。LM Studio本体固有の新規CVEは、7月時点で4サービスとも報告していません。

    【筆者コメント】

    両ツールのエージェント化は、業務効率化という点では非常に興味深い動きです。一方、医療機関で利用する場合には慎重さが必要だと考えています。

    Chat形式であれば、基本的には「AIが回答する」だけです。しかしエージェントになると、ファイルの読み書き、コマンド実行、ネットワークアクセスなど、AIに与える権限そのものが問題になります。実際、Ollamaのエージェント機能では、構成によってはローカルモデルだけでなくクラウドモデルやWeb検索を組み合わせて利用できます(Grokの回答では、明示的に指定しない場合にクラウド寄りのモデルが呼ばれる可能性があるという指摘もありました)。そのため、利用するモデルやツールの設定によってはデータの送信先が変わる可能性があり、院内利用時にはモデルの実行先とデータ経路を確認する必要があります。LM Studio Bionicも同様に、クラウド機能を使った瞬間にデータ経路が変わります。

    特にPC操作に不慣れな医療従事者が利用する環境では、「AIに任せれば便利」という発想だけでエージェント機能を有効にするのは危険です。意図しないファイル変更や削除、設定変更、ネットワーク上のリソースへのアクセスなど、従来のChat利用とは異なるリスクが生じます。

    私は現時点では、医療機関でのローカルLLM利用について、まずはChat形式を基本とし、ファイル操作やシステム連携が必要な場合には、個々の利用者に自由なエージェント権限を与えるのではなく、システム管理者が権限を管理した環境で利用するのが現実的だと考えています。ローカルLLMの安全性は、「ローカルで動くかどうか」だけでは決まりません。ファイル操作やネットワークアクセスなど、AIにどの権限を与えるかまで設計して初めて、安全に利用できると言えるでしょう。

    個人でローカルAIを試すのであればLM Studioは依然として有力な選択肢です。一方、院内でシステム連携を前提に運用するのであればOllamaのようなAPIベースの構成が適しています。ただし、どちらを選ぶ場合も、エージェント機能は十分な権限管理のもとで利用することが前提になります。


    7月の観測結果

    2026年7月を一言で言えば、「新しいモデルの数より、既存モデルの磨き方(量子化・Attention構造の工夫)が動いた月。ツール側は両者ともエージェント化に舵を切った」です。

    • MedGemma 1.5 4Bの非公式INT4量子化版が公開され、約5.2GBまで圧縮(正式ベンチマークは未実施)

    • Aether-7B-5Attn(VIDRAFT)がheterogeneous attention構造の7B級モデルを完全公開型で発表

    • Nemotron 3 Embed(NVIDIA)がRTEB1位を獲得。Eddy-VL 1.9Bなど軽量マルチモーダルEmbeddingも登場

    • Ollama v0.32系でエージェントモード標準搭載、CVE-2026-65315(GGUF DoS脆弱性)が公表

    • LM Studioが独立エージェントアプリ「Bionic」を発表

    • OpenAIの評価用AIエージェントがHugging Faceへ自律的に侵入するセキュリティインシデントが発生

    • 16GB RAM CPU環境の推奨モデル構成そのものは、7月時点で変更の必要なし


    来月確認したい仮説

    仮説:MedGemma 1.5 4B INT4量子化版は、16GB RAM CPU環境で日本語医療文書に対して実用的な速度・精度が出るか。

    実際にダウンロードし、日本語の添付文書要約タスクで応答速度と精度を確認する予定です。

    仮説:Aether-7B-5AttnのGGUF化・CPU実測速度はどの程度か。

    GGUF公開状況とllama.cpp対応を確認し、可能であれば実測します。

    仮説:Nemotron 3 Embed/Eddy-VLは、日本語医療テキストの検索精度でnomic-embed-text・BGE-M3を上回るか。

    同一の日本語医薬品文書コーパスでの比較評価を試みます。

    仮説:CVE-2026-65315の対応状況は、院内Ollama利用施設でどこまで進むか。

    v0.32.5への更新実施状況を確認します。


    DI担当をしていた頃から、「新しい道具が出たらまず何ができるかを確かめる」のが習慣でした。

    今月見えてきたのは、モデルの世界が「大きくして強くする」段階から「同じ大きさのまま賢くする」段階に移りつつあるという変化です。医療特化モデルの量子化も、Attention構造の工夫も、方向性は同じです。

    一方でツールの世界はエージェント化が進み、「このモデルは何ができるか」だけでなく「このツールはどこまで自分の判断で動き、どこでデータが外へ出るのか」を確認する手間が増えました。

    次の号では、今月見つけた候補(MedGemma量子化版・Aether-7B-5Attn)を実際に16GB RAM環境で試した結果を報告します。


    このシリーズは「未来予測」ではなく「観測記録」です。 その時点で確認できた事実と、各AIの見解、そして筆者自身の検証結果を区別しながら毎月記録していきます。数か月後、あるいは1年後に読み返したとき、「ローカルLLMがどのように進化してきたか」を振り返るための資料として残すことも、このシリーズの目的です。


    → なぜ私は「医療現場AI実装」を発信するのか

    → ChatGPTだけ使っている薬剤師へ

    → 添付文書もIFも読み切れない時代に──DI薬剤師が最初に生成AIを使い始めた5つの領域

    → 病院でChatGPTを使う前に知っておくべきこと


    今月の観測で「これは現場でも気になる」という話題があれば、コメントで教えてください。来月も同じ4サービスに同じプロンプトを投げて、変化を追っていきます。


    【AI調査・二次情報について】本記事のAI考察セクションは、ChatGPT(一時チャット)・Claude(シークレットモード)・Gemini(アクティビティOFF)・Grok(プライベートチャット)への定点調査結果に基づいています。FACTセクションを含め、URL等は読者ご自身による一次確認を推奨します。


    参考情報(一次情報確認用)

     
     
    薬剤師 / 薬学博士 病院・調剤薬局・ドラッグストア・研究・医療情報・企業を経験。 生成AI・ローカルLLM・AIエージェントを用いた「薬剤師実務×AI支援」を探究しています。 DI業務、適応外使用調査、レジメン管理、文献検索、研究支援、医療データ活用などを、実践ベースで発信。

    あなたへのおすすめ