メインコンテンツへスキップ
見出し画像

それは豪快なイェーガーのショットの様に

    ずっとAI叩いてるとnote更新を忘れてたやつ()

    今回の開発の発端は、OpenAIが2026年12月からChatGPTとCodexの利用枠を共有する予定だという話でした。

    私は普段、Codexを使って個人開発をしています。

    そこで思ったのです。

    「え、普段のチャットでも開発用の利用枠を消費するようになるの?」

    もちろん、すべてのチャットが対象になるわけではなく、Instantでの通常会話は共有枠の対象外とのこと。

    それでも、私としては開発に使えるリソースをなるべくCodexへ回したい。

    Claude ChatとClaude Codeのような利用枠の共有が進むなら、少なくとも私はチャットより開発を優先したいわけです。

    だったら、日常会話くらいはローカルLLMで処理できないだろうか。

    そんなことを考えていたところへ、今度はサム・アルトマン氏による遊休計算資源についての発言
    (※クッソ丸めた表現だけどGPTではそうは言えないらしい)が話題になりました。

    ……そういえば、うちにも余っているサブPCがあるじゃないか。

    こうして、GTX 1070を積んだサブPCの再就職計画が始まったのでした。

    10年前のGTX 1070で、自分専用のAIサーバーを建てた話

    ――ChatGPTっぽいものを自作したら、電気代でサブスクが一個増えそうになった

    はじめに:余っているサブPCをどうにかしたい

    今回は、使っていなかったサブPCを、自宅AIサーバーとして再利用した話を書こうと思います。

    最近はAIにコードを書かせたり、文章を整理させたり、日常の記録を取らせたりすることが珍しくなくなりました。

    私自身も、ChatGPTやCodexを使いながら「AIDA」という個人開発プロジェクトを進めています。

    その一方で、以前から考えていたことがありました。

    「せっかくパソコンが2台あるんだから、片方を何かに使えないものか?」

    メインPCは普段の作業や開発、VRなどに使っています。

    一方のサブPCは、今となっては少々古い構成です。

    でも、だからといって使えないわけではありません。

    そこで、以前から考えていたローカルLLMの運用と、日常の会話や記憶を保存する仕組みを、このサブPCに任せてみることにしました。

    最初はちょっとした実験のつもりでした。

    ところが、気がつけばスマホから会話できて、音声認識も画像認識も使えて、過去のChatGPTの会話まで検索できるようになっていました。

    そして最後に気づいたのです。

    「これ、電気代だけでサブスク一個分になるんじゃね?」

    ということに。

    1. まずは使用するパソコンの紹介

    今回使ったのは、以下の2台です。

    構成
    メインPC
    Core i7-12700KF/RTX 3060 12GB/メモリ64GB
    用途は普段使い・開発

    サブPC(今回の贄)
    Core i5-12400F/GTX 1070 8GB/メモリ32GB
    AIサーバー・計算ノード

    特に注目したいのが、サブPCのGTX 1070です。

    2016年発売のGPUなので、2026年現在では約10年前の製品ということになります。

    最新のAI向けGPUと比べれば、VRAM容量も演算性能も見劣りします。

    それでも、8GBのVRAMがあって、メインメモリが32GBある。

    これなら、軽量なモデルや量子化したモデルを使って、ある程度のローカルAIを動かす余地があります。

    今回の目標は最新GPUに対抗することではありません。

    すでに持っている機材で、どこまで実用的なものを作れるか。

    まずはそこから始めました。

    2. サブPCを「電源の入った箱」にする

    自宅サーバーとして使うなら、サブPCに毎回モニターやキーボードをつないで操作するのは面倒です。

    そこで最初に取り組んだのが、遠隔操作環境の整備でした。

    採用したのは、主に以下の仕組みです。

    ソフト・技術用途TailscalePC間の安全なネットワーク接続SSHリモートコマンド実行SFTPファイル転送Parsec遠隔デスクトップ操作Windowsタスク常駐処理や自動起動

    TailscaleでメインPCとサブPCを接続し、公開鍵認証のSSHでコマンドを実行できるようにします。

    ファイルの転送にはSFTPを使い、転送結果はSHA256で照合する仕組みも確認しました。

    GUI操作が必要なときはParsecを利用します。

    こちらはモニターを接続していない状態でも操作できるように整備しました。

    Windowsのログイン前にリモート接続できることも確認しています。

    これで、基本的にサブPCは電源を入れてLANにつないでおくだけ。

    メインPCから必要な仕事を投げて、必要なときだけ画面を開く。

    そんな構成になりました。

    ついでにCPU・GPUのジョブキューも構築

    せっかく遠隔操作できるようになったので、CPUやGPUへ計算処理を投入する仕組みも作りました。

    メインPCから処理を送信し、サブPCで計算させ、結果を回収します。

    当初はいろいろと調整が必要でしたが、最終的にはCPU・GPUのジョブキューを構築し、常駐稼働するところまで進みました。

    今回のAIサーバーとは別の用途にも利用できるので、これはこれで面白い成果です。

    古いサブPCが、単なる予備機から家庭内の計算ノードに変わりました。

    3. GTX 1070で30B級のローカルLLMを動かす

    次に取り組んだのが、ローカルLLMの実行です。

    使用したソフトはLM Studio。

    モデルの検索や管理がしやすく、APIサーバーとしても利用できるため、今回の用途には都合がよさそうでした。

    試したモデルのひとつが、Qwen3-30B-A3Bです。

    このモデルはMoE(Mixture of Experts)と呼ばれる仕組みを採用しています。

    大ざっぱに説明すると、モデル全体のパラメータを毎回すべて使うのではなく、推論に必要な一部を選んで動かす仕組みです。

    Qwen3-30B-A3Bは全体で約30Bのパラメータを持ちますが、推論時に使うのは約3B規模。

    もっとも、使わないパラメータが消滅するわけではありません。

    モデル全体の重みを保存しておく必要があるので、VRAM 8GBだけで完結するわけではなく、メインメモリも併用することになります。

    さて、実際に動かしてみるとどうなったか。

    約15トークン/秒。

    おや?

    意外と悪くない。

    もちろん、ベンチマーク条件を厳密に揃えた測定ではなく、実際に動かしたときの観測値です。

    コンテキスト長やGPUへのオフロード量、プロンプトの内容によって速度は変化します。

    それでも、日本語で会話する用途なら、試してみる価値のある速度でした。

    ほかにGPT-OSS-20Bも試しましたが、今回の主観的な比較ではQwenの方がまだ会話しやすい印象でした。

    このあたりは単純なモデルの優劣というより、日本語の自然さ、指示追従、用途との相性が関係していそうです。

    そして、ここでひとつ思いました。

    「これ、もうChatGPTみたいな会話アプリを作れるんじゃないか?」

    4. 日記と記憶を残せるAIが欲しい

    ここからが今回の開発の本題です。

    私は以前からChatGPTを、単なる質問応答だけでなく、日常の記録や考えの整理にも使っていました。

    今日は何をしたのか。

    何を食べたのか。

    どんなことを考えたのか。

    何を決めて、何を保留したのか。

    そうした会話が、長い時間をかけて蓄積されています。

    ただし、問題もあります。

    会話が長くなると、過去の情報を探すのが大変です。

    要約によって細かい情報が失われることもあります。

    古い情報と新しい情報が混ざることもあります。

    何より、自分の生活記録を、将来どのAIを使っていても参照できる形で残しておきたい。

    そこで、今回のサブPCを使って、会話・日記・長期記憶を管理する自分専用のアプリを作ることにしました。

    会話の原文を残す

    設計上、特に重視したのは、原文と要約を分けることです。

    AIの要約は便利ですが、必ずしも正確とは限りません。

    例えば、本人が「今日は何もできなかった」と言ったとします。

    その日、実際には買い物をしたり、食事を作ったりしていたかもしれません。

    この場合、

    「今日は何もできなかったと本人が感じた」

    という記録と、

    「実際には買い物をした」

    という出来事は、両方とも残せます。

    しかし、AIが勝手に「本人は無気力な性格である」などと解釈して、長期記憶へ登録してしまうのは困ります。

    そこで情報を分離しました。

    情報保存方法会話原文そのまま保存日記出来事や感想を整理確認済み記憶根拠を持つ情報として管理AIの解釈推測として区別古い情報現在の事実としては扱わず保留

    AIの解釈で、人間の記録を上書きしない。

    ここは今回の設計でも大事にしたところです。

    5. スマホから自宅のAIと話せるようにする

    日記アプリの基本機能ができたところで、次はスマホ対応です。

    自宅PCからしか使えないなら、わざわざ常時稼働させる意味も薄くなってしまいます。

    外出先で気づいたことを、その場で記録したい。

    写真を送って説明してもらいたい。

    思いついたことを音声で入力したい。

    そうした用途を考えると、スマホから利用できることは重要です。

    そこで、既存のTailscale環境を利用し、HTTPS経由で日記アプリにアクセスできるようにしました。

    アプリのUIもChatGPT風に変更しています。

    会話履歴のサイドバー、画面下部の入力欄、生成中の表示などを実装しました。

    日記・記憶・検索の機能も、それぞれパネルから利用できます。

    さらに、PWAにも対応させました。

    これにより、スマホのホーム画面から起動するアプリのような使い方が可能になります。

    ただし、ホーム画面へのインストール操作については、この時点では最終確認待ちです。

    音声入力も追加

    音声認識にはWhisperを使いました。

    録音した音声を文字起こしし、その結果を本人が確認・修正してから送信する仕組みです。

    これなら音声認識が少々間違えても、誤った文章をそのまま長期記憶に残してしまうリスクを減らせます。

    完全なハンズフリー会話ではありませんが、日記を記録する用途には十分使い道がありそうです。

    画像認識も追加

    さらに、画像を添付して認識させる仕組みも作りました。

    画像認識モデルで内容を説明し、その結果を会話用のQwenへ引き継ぎます。

    つまり、スマホから写真を送って、その内容について会話できるようになったわけです。

    将来的には、買ってきた食品を撮影して在庫を登録したり、書類の内容を整理したりする用途も考えられます。

    ただし、画像の認識結果が必ず正しいわけではありません。

    また、現段階では画像認識機能の動作と、元画像を永続保存する仕組みが完成しているかどうかは別問題です。

    画像の保存・削除・バックアップについても、今後整備していきたいところです。

    6. 過去のChatGPTの会話を移植する

    そして今回、個人的に大きかったのがここです。

    ChatGPTのデータエクスポート機能を利用して、過去の会話を自作の日記アプリに取り込んでみました。

    結果は以下のとおりです。

    項目数量取り込んだ会話192会話取り込んだ発言67,872件保存したメモリ原文300項目反映した基本設定13項目保留した情報285項目

    なかなかの量です。

    普段何気なくChatGPTと話していましたが、改めて数字にすると結構な情報量でした。

    これらを検索DBへ登録し、日記アプリからキーワード検索できるようにしました。

    会話中に「記憶を参照」する機能もあります。

    ただし、ここはまだ発展途上です。

    現時点ではキーワード検索が中心で、膨大な会話を完全に理解して、どんな質問にも正確に答えられるわけではありません。

    古い情報をどう扱うか

    取り込んだ情報の中には、古い薬の処方、過去の残高、以前の食品在庫、開発途中の情報などが含まれています。

    これらを何も考えずに現在の記憶として採用してしまうと、問題が起こります。

    そこで、確定できない285項目を保留しました。

    本人の発言、過去のGPTによる解釈、現在確認されている情報も区別しています。

    AIが過去の文章を読めることと、その文章が現在も正しいことは別です。

    このあたりは、単なるチャットボットではなく、長く使う日記AIだからこそ必要な仕組みだと思います。

    7. 気づけば自宅AIサーバーができていた

    ここまでの開発をまとめると、現在の構成は以下のようになりました。

    スマホ/メインPC
           │
           │ Tailscale + HTTPS
           ▼
    サブPC(Windows)
           │
           ├─ 日記アプリ
           │    ├─ チャットUI
           │    ├─ 会話履歴
           │    ├─ 日記
           │    └─ 記憶・過去ログ検索
           │
           ├─ LM Studio
           │    └─ Qwen3-30B-A3B
           │
           ├─ Whisper
           │    └─ 音声認識
           │
           ├─ VLM
           │    └─ 画像認識
           │
           └─ CPU/GPUジョブキュー

    開発成果はGitにも保存しました。

    今回のスナップショットでは109ファイルをまとめ、15件のテストが成功しています。

    個人の会話ログやメモリ原本、検索DB、認証情報などはGitの対象から除外しました。

    外部リポジトリへのpushもしていません。

    ソースコードを持ち運ぶためのGit bundleも作成し、検証済みです。

    ただし、Gitに保存したのは主に開発資産です。

    日記や記憶のデータそのものについては、別途バックアップを考える必要があります。

    また、再起動後の復旧についても、すべての確認が終わったわけではありません。

    Parsecによる遠隔接続やアプリの常駐は確認できていますが、Windows再起動後、ログイン前の状態からLM Studioまで自動復帰して会話できるかは、引き続き確認が必要です。

    主要機能は動いた。でも、24時間安心して使えるサービスとしては、まだ検証することがある。

    現時点では、そんな段階です。

    8. そして問題の電気代である

    さて。

    ここまで作って、ひとつ現実的な問題に気づきました。

    電気代です。

    今回は外出先からでもAIと会話できるようにするため、サブPCを常時稼働させる設計にしました。

    つまり、使っていないときも電源が入っています。

    当然ながら、電気を消費します。

    仮に24時間、30日間稼働させて、電力単価を31円/kWhとして計算すると、次のようになります。

    平均消費電力月額電気代50W約1,116円70W約1,562円100W約2,232円150W約3,348円

    あくまで仮定に基づく試算であって、今回のサブPCの実測値ではありません。

    省電力設定は確認していますが、実際にコンセントから何W消費しているかまでは測定していません。

    それでも、月1,500〜3,000円くらいになる可能性は考えておきたいところです。

    そこで、ふと思いました。

    「これ、サブスク一個分じゃね?」

    ChatGPT Plusの月額料金は、私の場合2,860円。

    自宅AIサーバーの電気代も、運用状況によってはそれに近い金額になるかもしれません。

    さらに、Codexを開発に使っているので、ChatGPT Plusを今すぐ解約するつもりもありません。

    つまり、しばらくは両方を使うことになりそうです。

    ChatGPTを使って、自分専用のChatGPTっぽいものを作ったら、電気代でサブスクが一個増えました。

    どうしてこうなった。

    いや、元々サブスク代を節約するために始めた開発ではないんですが。

    それはそうとして、ちょっと笑ってしまいました。

    冬場なら暖房になる?

    ちなみに、PCが消費する電力の大部分は最終的に熱になります。

    冬なら多少の暖房にはなります。

    ただし、電気ヒーターのように熱を作るのと同じで、一般的にはヒートポンプ式のエアコンほど効率的ではありません。

    「冬だから電気代は実質無料」というわけにはいかなさそうです。

    残念。

    9. クラウドAIとローカルAIは競合するのか

    今回の開発を進めていて、ChatGPTの使い方についても少し考えるようになりました。

    これまで日常の雑談や日記、生活記録の整理には、主にChatGPTを使っていました。

    しかし、自宅のAIDAで同じようなことができるなら、その役割を移してもよさそうです。

    一方で、難しい調査や推論、プログラミングの支援など、クラウドAIの方が有利な場面もあります。

    Codexによる開発作業は、今後も重要な用途です。

    そこで、当面は次のように役割を分けようと考えています。

    用途担当普段の会話・日記自宅AIDA過去ログや記憶の管理自宅AIDA音声・画像を使った生活記録自宅AIDA高度な推論や調査ChatGPTなどプログラミング・開発Codexモデルの比較・実験サブPC

    もちろん、自宅AIDAの会話品質や検索精度は、まだ実用試験が必要です。

    特に長い会話や複雑な相談では、クラウドの高性能モデルとの差を感じる場面もあるでしょう。

    でも、すべてをひとつのAIに任せる必要はありません。

    毎日の会話や記憶は自分のサーバーに置いて、難しい仕事は必要に応じてクラウドAIへ任せる。

    これなら、どちらか一方に依存しなくても済みます。

    何より、AIのモデルを交換しても、自分の生活記録はそのまま残せます。

    この点には、かなり大きな価値を感じています。

    10. 今後はモデル比較とNetNaviへの統合

    今回の日記AIは、単独で動かすことだけが最終目標ではありません。

    以前から開発している「AIDA Unified NetNavi」へ、将来的に統合する予定です。

    ただし、既存のNetNaviにはすでに動作している機能があります。

    そこへ新しい仕組みを一気に混ぜて、今までの環境を壊してしまっては困ります。

    そこで、まずは日記AIを独立したサービスとして完成させ、API経由で連携できるようにする方針です。

    現在は、ローカルLLMのモデル比較も進めています。

    Qwen3-30B-A3B以外にも、MoEを採用したさまざまなモデルが公開されています。

    どれが自宅の環境で最も扱いやすいのか。

    日本語会話が自然なのはどれか。

    VRAMとメモリの消費が少ないのはどれか。

    日記や記憶の参照に適しているのはどれか。

    こうした点をCodexに調査・比較させる予定です。

    また、拒否応答の傾向を調整したAbliteratedモデルにも興味があります。

    商用AIと異なる応答傾向を観察し、人格設定や会話品質への影響を比較してみたいところです。

    モデルの重みを直接編集する研究にも興味がありますが、こちらはまだ実験的な分野なので、実用環境とは切り離して扱うつもりです。

    最終的には、日記AIの機能をNetNaviへ合流させ、音声、会話、記憶、生活支援などを一つの仕組みとして利用できればと考えています。

    もっとも、実際に使ってみて必要な機能が変わるかもしれません。

    今は、作ったものを日常で使い、改善していく段階です。

    11. AIに開発させている間、人間は何をしているのか

    今回、もうひとつ面白かったことがあります。

    2台構成にしたことで、サブPCに仕事を任せている間、メインPCが空くようになったことです。

    例えば、サブPCでモデルのダウンロードを進めている間、メインPCでは別の作業ができます。

    ゲームをしてもいい。

    動画を見てもいい。

    何もしなくてもいい。

    そして、こうしてnoteの記事を書いていてもいい。

    以前なら、ひとつのPCでモデルを動かしたり、実験したりしながら、ほかの作業もする必要がありました。

    しかし、サブPCを独立させたことで、計算処理と普段の作業を分けられます。

    さらにCodexが開発を進めるので、人間側は作業が終わるのを見届け、結果を確認し、次の指示を考えることになります。

    AIに仕事を任せた結果、人間が暇になる。

    これはなかなか面白い経験です。

    もちろん、AIの成果物を検証したり、設計を判断したりする責任までなくなるわけではありません。

    でも、作業のすべてを自分の手で進める必要はなくなりました。

    そのぶん、人間は別のことに時間を使える。

    AIを使うことの価値は、単に作業を高速化することだけではないのかもしれません。

    おわりに:自分のAIを飼うということ

    今回の開発では、約10年前のGTX 1070を積んだサブPCが、自宅AIサーバーになりました。

    スマホから会話できて、音声や画像も扱えて、日記と過去の会話を検索できる。

    まだまだ改善するところはありますが、ひとまず実際に動くものができました。

    ただ、今回の成果で一番重要なのは、30B級のモデルが動いたことでも、ChatGPT風の画面を作れたことでもないと思っています。

    自分の会話や生活記録を、自分で管理できる仕組みを持てたこと。

    AIは今後も進化していくでしょう。

    新しいモデルが出るたびに、性能も機能も変わっていくと思います。

    でも、そのたびに今までの記録を捨てたり、最初から自分のことを説明し直したりするのは面倒です。

    だったら、モデルと記憶を分けてしまえばいい。

    AIの頭脳は交換できる。

    会話や日記は自分のものとして残す。

    必要ならクラウドAIも使う。

    ローカルAIで足りるなら自宅で処理する。

    そういう選択肢を持つための開発でした。

    そして、そのために毎月サブスク一個分くらいの電気代がかかるかもしれない。

    まあ、そういうこともあるでしょう。

    考えてみれば、これは単に安いAIを作る話ではなく、自分のための生活インフラを一つ増やしたという話だったのかもしれません。

    さて、サブPCでは今日もモデルをダウンロードしています。

    人間の方は暇になったので、この記事を書いていました。

    どうやら、ちゃんと役割分担ができているようです。

    おしまい。

     
     
    自宅でAIエージェント環境を構築・運用する過程の記録。ローカルLLMの日記AIと、ネットナビ型AI秘書「AIDA」の実践を置いていきます。言葉にするのはAI、残すかどうかを決めるのは人間です。

    あなたへのおすすめ