メインコンテンツへスキップ
見出し画像

MTP よ、ごめんね、意味ねーとか言っちゃって。 Unsloth が Qwen3.8-Flash-Next の MTP 対応を出したので試したら、前回の MTP とは変わって好印象。

    所感

    前回は、llama-server のオプションすら間違っていたから、果たして MTP 対応が Unsloth だから良いのかは分からないが、感触は断然良かったので、記録。 llama.cpp 本家が MTP 対応するまで、これを使っていく。

    "effort: low" で、コーディング中心なら "tg = 30 t/s 程度" 。
    "effort: xhigh" で、Reasoning とコーディングが半々くらいで "tg = 23 t/s 程度" 。

    すごく早くなるわけではないけどね。

    触れていくのは、これからだけど、Qwen3.8-Flash-Next 、なんか良いな。いまさらか。

    xhigh は、ゲーム性も、グラフィックも、理不尽さも今までで No.1 。好き。

    セットアップ

    unsloth の llama.cpp をビルド。

    git clone --branch mtp/qwen4exp-nextn https://github.com/unslothai/llama.cpp llama.cpp-unsloth
    
    cd llama.cpp-unsloth
    
    cmake -B build -DGGML_CUDA=ON -DLLAMA_OPENSSL=ON
    
    cmake --build build --config Release -j 12

    モデル本体は、以前にダウンロードしたものを使う。MTP をダウンロード。

    hf download unsloth/Qwen3.8-Flash-Next-GGUF \
      --include "MTP/mtp-Qwen3.8-Flash-Next-shared-Q8_0.gguf"

    llama-server 起動

    "-hf" でいつもモデルを使うが、Claude 曰く対応していないとのことで、ダウンロード済みのキャッシュを指定する。

    最近、 "-ts" と "-ot" で、VRAM を追い込むのにハマってる。追い込みスキルで Claude が頑張るだけだけど。

    ./build/bin/llama-server \
      -m ~/.cache/huggingface/hub/models--unsloth--Qwen3.8-Flash-Next-GGUF/snapshots/5d16c055a7c5cb276e721ee154f9c22420dde2a1/UD-IQ4_XS/Qwen3.8-Flash-Next-UD-IQ4_XS-00001-of-00003.gguf \
      -md ~/.cache/huggingface/hub/models--unsloth--Qwen3.8-Flash-Next-GGUF/snapshots/5d16c055a7c5cb276e721ee154f9c22420dde2a1/MTP/mtp-Qwen3.8-Flash-Next-shared-Q8_0.gguf \
      -fa on -cb -np 1 \
      --temp 0.7 --top-p 0.80 --top-k 20 --min-p 0.0 \
      --presence-penalty 1.5 --repeat-penalty 1.0 \
      -c 65536 \
      -ctk q8_0 -ctv q8_0 --threads 6 \
      --jinja --chat-template-kwargs '{"reasoning_effort": "low"}' \
      --spec-type draft-mtp --spec-draft-n-max 3 \
      --no-mmproj-offload \
      -ts 37,12 \
      -ot "blk\.(2[89]|3[1-6])\.ffn_(gate|up|down)_exps=CUDA0,blk\.(3[7-9]|4[01])\.ffn_(gate|up|down)_exps=CUDA1,ffn_(gate|up|down)_exps=CPU"

    お試しプロンプト

    Flappy Bird 風ゲーム

    Flappy Bird 風のゲームを作成してください。
    
    ## Flappy Bird との違い
    
    - 場所は、宇宙
    - 鳥じゃなくて UFO
    - 障害物は、パイプではなく、大小様々な惑星がランダムに迫ってくる
    
    ## 仕様
    
    - ゲーム画面は固定サイズではなく、フレキシブルな全画面表示
    
    ## 指針
    
    - 選択肢があった場合、よりゲーム性が高い方を選択する
    
    ## 制約
    
    - index.html のみで作成
    - localStorage は使わない

    effort: low

    生成結果

    ## 🛸 Cosmic Drift の特徴
    
    ### ゲームプレイ
    - **UFO** をタップ/クリック/スペースキーで操作(上昇 + 重力落下)
    - **大小様々な惑星**がランダムに迫ってくる
    - 3種類の障害物パターン:
      - 上下の惑星ペア(クラシック)
      - 3つの惑星+2つのギャップ(難易度高め)
      - 上下に振動する惑星ペア(動く障害物)
    - 時間経過で**速度と難易度が上昇**
    
    ### ビジュアル演出
    - パララックススクロールする星空(3層)
    - 色とりどりの星雲が背景を流れる
    - UFOには回転ライト・トラクタービーム・グロー発光
    - 惑星にはクレーター・環・グラデーション・大気ハイライト
    - 衝突時のパーティクル爆発 + スクリーンシェイク
    
    ### テクニカル
    - フルレスポンシブ(`devicePixelRatio`対応)
    - 単一HTMLファイル、外部依存ゼロ

    7,888 tokens / 4min 25s / 29.69 t/s

    生成速度推移

    画像

    遊ぶ

    effort: xhigh

    生成結果

    ## 実装のポイント
    
    **ゲーム性(「よりゲーム性の高い方」の選択)**
    - **PERFECT 判定**: 惑星の谷間の中央を抜けると連続ボーナス(倍率 ×2〜×5)。雑に抜くと +1 なので、ライン取りの妙がある
    - **イオン欠片**: 谷間と谷間の危険な位置に出現するスコアアイテム(リスク&リターン)
    - **ワームホール=シールド**: 衝突を1度だけ無効化。破られたときは減速スロー+ノックバックで理不尽な連続死を防ぐ
    - **セクター進行(全6区間)**: スコアに応じて背景の星雲カラー・BGM的SE・障害物が変化。動く惑星、衛星サイズの追加障害物、谷間の狭小化、速度上昇
    - **放射線ベルト**: 地上の代わりに上下端を殺害ラインとして明確に可視化(接近で画面が赤く警告)
    
    **ビジュアル**
    - 惑星はすべて手続き生成(岩塊/ガス惑星/氷結/溶岩/海洋の5種、クレーター・縞模様・大気光・リング付き)。光源方向固定のシェーディングで回転しても立体感を維持
    - 3層パララックス星空、流れる星雲、背景の遠景惑星、彗星、UFO の残像・トラクタービーム・点滅する照明・パイロットの揺れ
    
    **その他**
    - フレキシブル全画面:リサイズ追従+物理定数を画面高さに応じてスケーリング(どの解像度でも難易度が同じ)
    - サウンドは WebAudio によるシンセ(`M` で切替)、`localStorage` は不使用(ベストスコアはセッション内のみ)

    40,218 tokens / 29min 8s / 23.00 t/s

    生成速度推移

    画像

    遊ぶ

    以上


    あなたへのおすすめ