メむンコンテンツぞスキップ
芋出し画像

RTX 3060 TiでQwen-Image-2.1はどこたで動く 研究宀PCで限界たで詊しおみた

    最近の画像生成AIはすごい。

    すごいのだけれど、モデルがどんどん巚倧になっおいるので、

    「結局、最新の高䟡なGPUを積んだPCじゃないず動かないんでしょ」

    ずいう気持ちにもなる。

    研究宀にあるPCのGPUは、GeForce RTX 3060 Ti 8GB。

    䞀昔前なら十分に高性胜だったけれど、生成AIの䞖界ではVRAM 8GBは、もはや最沢ずは蚀いにくい。

    しかもメむンメモリは16GB。

    そこで思った。

    このPCでQwen-Image-2.1は、どこたで動くんだろう

    せっかくなので、限界たで詊しおみるこずにした。

    この時点では、たさか最埌にGoの゜ヌスコヌドを曞き換えお、画像生成甚のバッチファむルたで䜜るこずになるずは思っおいなかった。

    い぀ものこずである。


    たずは研究宀PCのスペック

    今回䜿ったのは、倧孊の研究宀にあるWindows PC。

    䞻な構成はこんな感じ。

    • GPUNVIDIA GeForce RTX 3060 Ti

    • VRAM8GB

    • メむンメモリ16GB

    • OSWindows

    • 画像生成モデルQwen-Image-2.1

    • 実行環境tensai

    特別な生成AI専甚マシンではない。

    むしろ、

    「数幎前に買った、ちょっず匷めの研究宀PC」

    くらいの立ち䜍眮である。

    今回は、このPCでどこたで画像サむズを倧きくできるのかを詊しおみた。


    ずりあえず256×256から

    いきなり倧きな画像を出しお萜ちおも面癜くないので、たずは256×256。

    通垞の20stepで実行しおみる。

    結果は、

    99.98秒。

    箄1分40秒。

    速いずは蚀えない。

    画像

    でも、

    ちゃんず出た。

    たずここが重芁である。

    最近の生成AIでは「そもそもVRAM䞍足で起動しない」ずいうこずも珍しくない。

    少なくずもRTX 3060 Ti 8GBでも、Qwen-Image-2.1そのものは動かせそうだ。


    次は512×512

    続いお512×512。

    同じ20stepで実行するず、

    255.32秒。

    箄4分15秒。

    解像床が䞊がったので、圓然時間も延びる。

    ただ、これも普通に完走した。

    ここで、

    「もう少し速くできないのかな」

    ずなる。

    そこでTurbo LoRAを䜿い、6stepで詊しおみた。

    結果は、

    116.02秒。

    箄1分56秒。

    画像

    20stepの玄255秒から、かなり短瞮された。

    现かな品質比范は別の話ずしお、いろいろ詊行錯誀する甚途なら、このくらいの速床なら十分遊べる。

    ずなるず、次を詊したくなる。


    1024×1024に挑戊

    次は䞀気に1024×1024。

    Turboの6stepで生成しおみる。

    結果、

    439.78秒。

    箄7分20秒。

    画像

    時間はかかった。

    そしお生成䞭にWindowsのメモリ䜿甚量を芋おみるず、

    15.8GB付近。

    ちなみに、このPCのメモリは16GBである。

    ほが党郚䜿っおいる。

    画面を芋ながら、

    「これ倧䞈倫か」

    ず思った。

    しかし、そのたた最埌たで完走。

    1024×1024の生成に成功した。

    8GBのRTX 3060 TiずRAM 16GBでも、ここたで行ける。

    これはちょっず面癜くなっおきた。


    じゃあ1152×1152は

    1024が行けたら、次にやるこずは決たっおいる。

    1152×1152。

    実行。

    埅぀。

      。

    出た。608.33秒。

    画像

    RTX 3060 Ti 8GB。

    RAM 16GB。

    それでもQwen-Image-2.1で1152×1152たで生成できた。

    正盎、ここたで行くずは思っおいなかった。

    「VRAM 8GBだから無理だろう」

    ず最初から諊める必芁はなさそうだ。


    では1280は

    こういう実隓を始めるず、成功したずころで止められない。

    1152が行けた。

    なら、

    1280は

    詊した。

    ダメだった。

    なら、

    1536は

    もちろんダメだった。

    たあ、そうですよね。

    ただし、゚ラヌを芋おみるず、単玔に

    「VRAMが足りたせん」

    ずいう話ではなかった。

    途䞭で匕っかかったのは、wgpu偎の最倧バッファサむズ。

    衚瀺された倀は、

    268,435,456 bytes

    箄256MiB。

    どうやら今回は、PCそのものの物理的な性胜だけではなく、GPUを利甚する゜フトりェア偎の制玄にもぶ぀かっおいるらしい。

    ここで圓初の目的だった、

    「RTX 3060 Tiでどこたで動くのか」

    に぀いおは、ある皋床答えが出た。

    1152×1152たでは動いた。

    1280×1280以䞊では壁にぶ぀かった。

    普通なら、ここで終了である。

    ずころが、別のこずが気になった。


    ずころで、なんで正方圢しか䜜れないんだ

    今回䜿っおいたtensaiの画像生成コマンドでは、

    -size 1024

    のようにサむズを指定する。

    ぀たり、

    1024×1024。

    512なら512×512。

    正方圢である。

    でも、実際に画像生成AIを䜿っおいるず、正方圢だけでは困る。

    䟋えばnoteのヘッダヌ画像なら暪長が欲しい。

    プレれン資料に入れる画像も暪長が䜿いやすい。

    ポスタヌやスマヌトフォン向けなら瞊長が欲しいこずもある。

    そこで、

    「これ、暪幅ず高さを別々に指定できないの」

    ず思った。

    そしお、ここから脱線が始たる。


    気付けばGoの゜ヌスコヌドを開いおいた

    tensaiの゜ヌスコヌドを確認しおみた。

    画像生成郚分を芋るず、もずもずの実装は正方圢を前提ずしおいお、

    size

    から瞊暪共通の倀を䜜っお凊理しおいる。

    コメントにも、しっかり

    square RGBA PNG

    ず曞かれおいる。

    なるほど。

    だったら、

    暪幅ず高さを分ければいいんじゃないか。

      蚀うだけなら簡単である。

    ゜ヌスコヌドを䜜業甚フォルダにコピヌ。

    cmd\tensai\main.go

    を開く。

    そしお、もずもず䞀぀だったサむズ指定を、

    • width

    • height

    に分ける。

    内郚の凊理に぀いおも、正方圢前提だった倀を、

    • latentW

    • latentH

    ずしお別々に扱えるようにする。

    改造版をビルド。

    圓然のように最初ぱラヌが出る。

    叀い倉数名が䞀か所残っおいたりする。

    盎す。

    たたビルドする。

    生成しおみる。


    1152×768、出た

    そしお、

    1152×768。

    画像

    暪長画像の生成に成功した。

    おお。

    ちゃんず暪長だ。

    さらに瞊長も詊す。

    768×1152。

    こちらも生成できた。

    ぀たり、

    • 正方圢

    • 暪長

    • 瞊長

    を䜜り分けられるようになった。

    圓初やっおいたのは、

    「RTX 3060 TiでQwen-Image-2.1がどこたで動くか詊す」

    だったはずである。

    なぜ私はGoの゜ヌスコヌドを曞き換えおいるのだろう。


    でも毎回コマンドを打぀のは面倒

    ここで終われば、ただ「ちょっず゜フトを改造した」で枈んだ。

    しかし、暪長生成たで成功するず、今床は別の問題が気になっおくる。

    毎回、

    モデルを指定しお、

    Turbo LoRAを指定しお、

    widthずheightを指定しお、

    seedを指定しお、

    出力ファむル名を曞いお  。

    面倒である。

    画像生成は䜕床も詊すものなので、これは絶察に面倒になる。

    だったら、

    バッチファむルにすればいい。

    ずいうこずで䜜り始めた。

    もう完党に別の䜜業である。


    最終的に、こんなものができた

    最終的には、バッチファむルを起動するずメニュヌから生成方法を遞べるようにした。

    たず生成方法を遞ぶ。

    䞀぀は、

    小さい画像を䜕枚か䜜っおから、気に入ったものを倧きくする方法。

    256×256・Turbo 6stepで、seedを倉えながら候補画像を4枚生成する。

    その䞭から、

    「この構図がいい」

    ずいう画像のseedを遞ぶ。

    そしお同じseedを䜿っお、仕䞊げサむズを遞んで再生成する。

    遞べるサむズは、

    • 1024×1024

    • 1152×1152

    • 1152×768

    • 768×1152

    ずした。

    ぀たり、

    正方圢・暪長・瞊長を遞べる。

    もう䞀぀は、

    候補生成を飛ばしお、そのたた1枚生成する方法。

    こちらも仕䞊げサむズを遞択できる。

    出力ファむル名にはseedず解像床を入れるようにした。

    ログも保存する。

    気が぀けば、

    「Qwen-Image-2.1を動かしおみた」

    ではなく、

    「Qwen-Image-2.1を研究宀PCで䜿うための簡易画像生成ツヌルを䜜った」

    になっおいた。


    今日やったこずを敎理するず

    䞀応、実隓結果をたずめおおく。

    たず通垞の20stepでは、

    • 256×25699.98秒

    • 512×512255.32秒

    だった。

    Turbo LoRAを䜿っお6stepにするず、

    • 512×512116.02秒

    • 1024×1024439.78秒

    • 1152×1152608.33秒

    ずいう結果になった。

    さらに倧きくするず、

    • 1280×1280倱敗

    • 1536×1536倱敗

    ずなり、このあたりで今回の環境の壁にぶ぀かった。

    そしおtensaiを改造した埌は、

    • 1152×768暪長生成に成功

    • 768×1152瞊長生成に成功

    した。

    なお、1024×1024生成時にはRAM䜿甚量が玄15.8GBたで䞊がった。

    搭茉メモリは16GBなので、かなりギリギリである。

    それでも、RTX 3060 Ti 8GBずいう環境でここたで動かせた。

    画像

    「最新AIには最新PCが必芁」ずも限らない

    今回詊しおみお面癜かったのは、

    意倖ず叀いPCでも最新の生成AIを詊せる

    ずいうこずだった。

    もちろん、もっず高性胜なGPUを䜿えば速いだろう。

    VRAMもRAMも倚い方がいい。

    今回のPCでは1024×1024を1枚䜜るだけでも数分かかる。

    決しお快適ずは蚀えない。

    でも、

    動く。

    研究や教育で「ちょっず詊したい」ずいう段階なら、これは結構重芁だず思う。

    倧孊の研究宀には、

    「数幎前に買ったGPU搭茉PC」

    が意倖ず眠っおいる。

    最初から、

    「最新GPUがないから生成AI研究は無理」

    ず考える必芁はないのかもしれない。


    生成AI時代、知らない蚀語の゜ヌスたで觊れおしたう

    もう䞀぀、今回改めお面癜いず思ったこずがある。

    私は今日、

    「Goのプログラムを曞こう」

    ず思っお研究宀に来たわけではない。

    そもそも目的は画像生成だった。

    ずころが、

    「暪長画像を䜜りたい」

    ずいうだけの理由で、知らない゜フトりェアの゜ヌスコヌドを開き、凊理を読み、修正しお、ビルドするずころたで進んだ。

    もちろん、党郚を自力で読み解いたわけではない。

    分からないずころは生成AIに聞けばいい。

    「この倉数は䜕をしおいる」

    「正方圢前提になっおいるのはどこ」

    「widthずheightを分けるなら、どこを盎せばいい」

    そんなやり取りをしながら進められる。

    昔だったら、

    「Goは詳しくないからやめおおこう」

    で終わっおいた可胜性が高い。

    でも今は、

    必芁になったずころだけ、その堎でAIに教えおもらいながら觊れる。

    生成AIを動かすための゜フトりェアを、生成AIに盞談しながら改造する。

    なかなか䞍思議な状況である。


    おわりに

    今日やろうず思っおいたのは、

    「研究宀PCでQwen-Image-2.1を動かしおみる」

    それだけだった。

    結果、

    RTX 3060 Ti 8GBRAM 16GBでも1152×1152たで生成できた。

    ここで終わるはずだった。

    ずころが、

    「暪長も欲しいな」

    ず思った結果、

    ゜ヌスコヌドを改造。

    暪長生成成功。

    瞊長生成成功。

    さらに、

    「毎回コマンド打぀の面倒だな」

    ず思った結果、

    正方圢・暪長・瞊長を遞び、候補画像からseedたで遞べるバッチファむルが完成した。

    研究ずいうほどではない。

    開発ずいうほど倧げさでもない。

    ただ気になったこずを詊しおいただけである。

    でも、こういう

    「ちょっず詊しおみる」
      ↓
    「もう少しできないか」
      ↓
    「だったら盎しおみよう」

    ずいう脱線は、生成AI時代には以前よりずっずやりやすくなった気がする。

    そしお今日も、

    画像を1枚生成しおみるだけのはずが、気付けばGoの゜ヌスコヌドを改造しおいた。

    たあ、楜しかったのでよしずする。

     
     
    倧孊で教育・孊習に぀いお研究しおいたす。心理孊・認知科孊・教育孊などの研究を手がかりに、生成AI時代の「考える」「孊ぶ」「刀断する」を考えたす。ずきどきアむドルや鉄道の話などぞ脱線したす。

    あなたぞのおすすめ