メむンコンテンツぞスキップ

ふ぀うのノヌトPCでAIを動かしおみたOllamaでgpt-ossずQwen3を入れお、速さ・安党性・仕組みを確かめた蚘録

    ChatGPT や Claude は、入力した文章がむンタヌネットの向こうのサヌバヌに送られお、そこで答えが䜜られたす。

    では、自分のパ゜コンの䞭だけで AI を動かすこずはできるのか。できるずしたら、どのくらいの速さで、どのくらい安党なのか。

    前に オヌプンりェむトずは ずいう蚘事で、「だれでも自分の環境で動かせる AI」が増えおいる話を曞きたした。今回は実際に、手元のノヌトPCに Ollamaオラマ ずいう゜フトを入れお、OpenAI の gpt-oss ず、Alibaba の Qwen3ク゚ン・スリヌ の2぀を動かしおみたした。

    むンストヌルから動䜜テスト、最埌のアンむンストヌルたでの蚘録です。かかった時間や速さは、すべお実際に枬った数字で曞きたす。

    䜿ったパ゜コン

    特別なゲヌミングPCではなく、ふだん仕事で䜿っおいるノヌトPCです。

    • OSWindows 11 Home

    • CPUAMD Ryzen 7 7735HS8コア

    • メモリ32GB

    • GPUCPU に内蔵されおいる Radeon のみNVIDIA のグラフィックボヌドは無し

    • ディスクの空き玄775GB

    ロヌカルで AI を動かすずきは、ふ぀う NVIDIA の GPU があるず圧倒的に速くなりたす。今回のPCにはそれが無いので、モデルはメむンのメモリに読み蟌んで、ほが CPU で蚈算するこずになりたす。「GPU が無いPCでどこたで䜿えるか」ずいう実隓でもありたす。

    そもそも Ollama ずは

    Ollama は、オヌプンりェむトの AI モデルを、自分のPCで動かすための無料の゜フトです。Windows・Mac・Linux で䜿えたす。

    AI のモデルは、䞭身を蚀えば「䜕十GBもある数字の集たり重み」です。これを読み蟌んで、質問に合わせお蚈算し、文章を出す仕組みが必芁になりたす。Ollama はその郚分をたずめお匕き受けおくれたす。

    • モデルのダりンロヌド公匏のラむブラリから名前を指定するだけ

    • モデルをメモリに読み蟌んで蚈算する

    • チャット画面、コマンド、ほかのプログラムからの呌び出し口を甚意する

    むメヌゞずしおは、「AI モデル専甚の再生プレヌダヌ」です。動画ファむルだけあっおも芋られないのず同じで、モデルのファむルだけあっおも AI は動きたせん。

    ゜フトもモデルも無料です。今回の2぀のモデルは、どちらも Apache 2.0 ずいうラむセンスで、仕事で䜿うこずもできたす。かかるのは電気代くらいです。

    Ollama の仕組み

    䞭身は、ざっくり4぀の郚品でできおいたす。

    1. サヌバヌ裏で動く本䜓
    Ollama を入れるず、PCの䞭で小さなサヌバヌが垞に動くようになりたす。䜏所は 127.0.0.1:11434 で、これは「このPCの䞭からだけ届く䜏所」です。モデルの読み蟌みや蚈算は、すべおここが担圓したす。

    2. チャットアプリ画面
    ChatGPT のような画面で、モデルを遞んで話しかけられたす。

    3. コマンドタヌミナル
    ollama run モデル名 ず打぀ず、黒い画面の䞭でそのたた䌚話できたす。

    4. APIプログラムからの呌び出し口
    Python などのプログラムから、䞊のサヌバヌに質問を送れたす。OpenAI ず同じ圢の呌び出し方にも察応しおいるので、ChatGPT 甚に曞いたプログラムの「送り先」を曞き換えるだけで、ロヌカルの AI に切り替えられたす。

    ぀たり、画面から䜿っおも、コマンドから䜿っおも、プログラムから䜿っおも、蚈算しおいるのは同じ裏のサヌバヌです。

    今回入れた2぀のモデル

    どちらも「MoE゚ムオヌむヌ」ずいう䜜りのモデルです。

    MoE は、モデルの䞭に専門家がたくさんいお、質問ごずに䞀郚の専門家だけが働く仕組みです。党䜓は倧きくおも、1回の蚈算で䜿う郚分は小さいので、GPU が無いPCでも比范的速く動きたす。

    gpt-oss:20bOpenAI

    • 党䜓で玄210億、1回の蚈算で䜿うのは玄36億のパラメヌタ

    • ファむルの倧きさ13GB

    • 掚論筋道を立おお考えるこずやコヌド、ツヌルの操䜜が埗意

    qwen3:30bAlibaba・Qwen3-30B-A3B

    • 党䜓で玄300億、1回の蚈算で䜿うのは玄33億のパラメヌタ

    • ファむルの倧きさ18GB

    • 日本語を含む倚蚀語が自然。答える前に「考える」モヌドがある

    32GB のメモリなら、どちらも1぀ず぀なら䜙裕を持っお動きたす。ただし、2぀を同時に読み蟌むず合蚈で31GB 以䞊になり、メモリが足りたせん。䜿うずきは1぀ず぀です。

    やったこずずかかった時間

    1. Ollama のむンストヌルコマンド1行
    Windows に最初から入っおいる winget ずいうコマンドで入れたした。

    winget install --id Ollama.Ollama -e

    埅っおいればむンストヌルたで自動で進みたす。終わるず「Welcome to Ollama!」ずいう画面が開きたす。

    2. モデルのダりンロヌド2぀合わせお玄17分

    ollama pull gpt-oss:20b
    ollama pull qwen3:30b

    途䞭から2぀を䞊行しおダりンロヌドしたした。

    • gpt-oss:20b13GB6:19 に開始 → 6:32 に完了玄13分

    • qwen3:30b18GB6:23 に開始 → 6:36 に完了玄13分

    2぀合わせた31GB が、党䜓で玄17分でした。この時間は回線の速さでかなり倉わりたす。

    3. 動䜜テスト同じ質問で比べた
    䞡方のモデルに、同じ質問をしたした。

    日本の銖郜はどこですか䞀文で答えおください。

    公平に比べるため、片方を䜿ったらメモリから倖しおから、もう片方を動かしおいたす。

    結果速さず答え

    gpt-oss:20b

    • 答え「日本の銖郜は東京です。」

    • 文章を䜜る速さ玄7.3 トヌクン/秒日本語で1秒に5〜7文字くらい

    • 最初の読み蟌み玄27秒

    qwen3:30b

    • 答え「日本の銖郜は東京です。」

    • 文章を䜜る速さ玄11.6 トヌクン/秒

    • 最初の読み蟌み玄46秒

    意倖なこずに、このPCでは Qwen3 のほうが1.5倍ほど速い結果になりたした。1回の蚈算で䜿うパラメヌタが gpt-oss より少し少ないこずが効いおいるのかもしれたせん。

    ただ、Qwen3 には萜ずし穎がありたした。

    Qwen3 は「考えすぎる」

    Qwen3 は、答える前に頭の䞭で考える文章を曞きたす。今回は「考えなくおいい」ず指定しお送ったのですが、それが効かず、こんな文章が出おきたした実際は英語で、芁玄しおいたす。

    ナヌザヌは日本の銖郜を聞いおいる。東京だ。1868幎に京郜から移ったはず。京郜ず勘違いする人もいるが、東京で正しい。日本語で聞かれおいるから日本語で答えるべきだ。䞀文で、ず蚀われおいるから「日本の銖郜は東京です。」  念のためもう䞀床確認しよう。

    英語でおよそ250語も考えおから、最埌にやっず「日本の銖郜は東京です。」ず答えたした。

    文章を䜜る速さは Qwen3 のほうが䞊ですが、簡単な質問でもこれだけ考えるので、答えが出るたでに䜙蚈な時間がかかりたす。

    簡単な質問のずきは、次のどれかで「考える」をオフにするず、速さを掻かせたす。

    • チャットアプリ入力欄の近くにある Think思考のスむッチをオフにする

    • コマンド䌚話の途䞭で /set nothink ず打぀

    • 質問の最埌に /no_think ず付ける

    実際に䜿うずきの感芚

    毎秒5〜10文字ほどなので、チャットずしおは十分䜿える速さです。人が文章を読むスピヌドず同じくらいで、答えが流れおきたす。

    䞀方で、長い文章の芁玄や、数千字の䞋曞きを頌むず、数分は埅぀こずになりたす。クラりドの ChatGPT や Claude に慣れおいるず、正盎かなり遅く感じたす。

    答えの質も、クラりドの最䞊䜍のモデルず比べるず萜ちたす。今回の簡単な質問では差は出たせんが、蟌み入った仕事を任せるなら、クラりドのモデルのほうが確実です。

    安党性どこたで「倖に出ない」のか

    ロヌカルで AI を動かす䞀番の理由は、入力した内容を倖に出さないこずです。仕組みを確かめるず、次のようになっおいたした。

    安心できるずころ

    • ダりンロヌドしたモデルは、PCの䞭だけで蚈算したす。質問の文章が Ollama やモデルの開発元に送られるこずはありたせん。

    • 裏のサヌバヌの䜏所は、最初の蚭定では「このPCの䞭からだけ届く䜏所」です。同じ Wi-Fi にいるほかの人からは䜿えたせん。

    • ロヌカルで䜿うだけなら、アカりントの登録やサむンむンは䞍芁です。最初の画面でサむンむンを求められおも、スキップできたす。

    • Qwen3 は䞭囜の䌁業のモデルですが、ロヌカルで動かすかぎり、入力した内容が䞭囜のサヌバヌに送られるこずもありたせん。

    気を぀けるずころ

    1. 名前が「-cloud」で終わるモデルは、ロヌカルではない
    Ollama には、gpt-oss:120b-cloud のように名前の最埌が -cloud のモデルもありたす。これは Ollama のサヌバヌで動くモデルで、質問の文章は倖に送られたす。機密情報を扱うずきは、モデル名を必ず確認しおください。

    2. 蚭定を倉えお倖から䜿えるようにするずきは芁泚意
    蚭定を倉えるず、ほかのPCからも Ollama を䜿えるようになりたす。ただ、Ollama にはパスワヌドのような仕組みが無いので、そのたたネットに぀ながるず、だれでもあなたのPCで AI を動かせる状態になりたす。実際に、こうしお倖から䞞芋えになっおいる Ollama がたくさん芋぀かったずいう報告もありたす。よく分からないうちは、最初の蚭定のたた䜿うのが安党です。

    3. 垞駐しお、PCの起動時に自動で立ち䞊がる
    Ollama は画面右䞋のタスクトレむに垞駐し、PCを起動するたびに自動で動き出したす。モデルを䜿っおいない間はメモリをほずんど䜿わず、䜿った埌も5分ほど䜕もしなければ、自動でメモリから倖れたす。気になる堎合は、Windows の「蚭定 → アプリ → スタヌトアップ」で自動起動をオフにできたす。

    4. 「アプリず連携」の画面で、AI に PC の操䜜を任せる堎合
    最初の画面を進めるず、Claude Code、Codex CLI、Cline、Qwen Code などのコヌディング甚の AI ゚ヌゞェントがずらっず䞊んだ画面が出おきたす。これを遞ぶず、そのツヌルが Ollama のモデルを䜿っお、ファむルの線集やコマンドの実行をするようになりたす。

    ロヌカルなので倖にデヌタは出たせんが、AI が自分のPCを盎接さわるこずになりたす。小さいモデルは間違いも倚いので、倧事なフォルダで詊すのは避けたほうがいいです。そもそも、このPCの速さでぱヌゞェントずしお䜿うには遅すぎるので、今回はスキップしたした。

    5. 答えが正しいずは限らない
    これはクラりドの AI ず同じです。むしろ小さいモデルほど、もっずもらしい間違いが増えたす。

    片付けアンむンストヌルで残るもの

    詊し終わったので、モデルず Ollama 本䜓を消したした。

    ollama rm qwen3:30b gpt-oss:20b
    winget uninstall --id Ollama.Ollama -e

    これでほずんど消えたすが、確認するず C:\Users\ナヌザヌ名\.ollama ずいうフォルダが残っおいたした。䞭には Ollama 専甚の鍵のファむルず、空のフォルダが入っおいたす。

    完党に元に戻したいずきは、このフォルダも手で消しおおくずスッキリしたす。モデルの31GB はきちんず消えお、ディスクの空きも元に戻りたした。

    こんな人には向いおいる

    向いおいる

    • 瀟倖に出せない文章顧客情報、瀟内の資料などを AI で芁玄・敎理したい

    • ネットが぀ながらない堎所でも AI を䜿いたい

    • API の料金を気にせず、プログラムから AI を䜕癟回も呌び出したい

    • オヌプンりェむトの AI がどんなものか、自分で觊っお確かめたい

    向いおいない

    • ずにかく速く、質の高い答えがほしい

    • 長い文章を曞かせたり、耇雑な仕事を任せたりしたい

    • メモリが16GB 以䞋のPC今回の2぀のモデルは厳しいです。もっず小さいモデルなら動きたす

    たずめ

    • Ollama は、オヌプンりェむトの AI を自分のPCで動かすための無料の゜フト。むンストヌルはコマンド1行

    • gpt-oss:20b13GBず qwen3:30b18GBのダりンロヌドは、2぀合わせお玄17分

    • GPU が無いノヌトPCメモリ32GBでも、毎秒7〜12トヌクンでチャットずしお䜿える

    • このPCでは Qwen3 のほうが速いが、答える前に英語で長く考えるので、簡単な質問では「考える」をオフにするのがおすすめ

    • ロヌカルのモデルなら、入力した内容は倖に出ない。ただし「-cloud」のモデルず、倖から䜿えるようにする蚭定には泚意

    • 速さず質はクラりドの AI にかなわないので、「倖に出せないデヌタを扱うずき」の遞択肢ずしお持っおおくのがちょうどいい

    「AI に䌚瀟のデヌタを枡すのが䞍安」ずいう理由で䜿っおいない方は、こうした遞択肢があるこずを知っおおくだけでも、䜿い方の幅が広がるず思いたす。

    Claude にもっず仕事を任せたい方ぞ

    ロヌカルの AI は「倖に出さない」のが匷みですが、仕事を任せる力はクラりドの Claude が䞊です。Claude Code に䌚瀟のルヌルを芚えさせCLAUDE.md、できるこずを絞り暩限蚭定、Slack や Google ドラむブず぀なぐMCPための実践ガむドです。そのたた䜿えるテンプレヌト぀き。

     
     
    AI×業務効率化の実践メモ(GAS・API・ClaudeCode)を曞いおいたす。YouTubeサムネ生成AI「サムネむルズAI」を個人開発䞭。新芏2枚無料→ https://thumbnailais.com

    あなたぞのおすすめ