メむンコンテンツぞスキップ

Mistral-Small-24Bの掟生モデル䞀芧 

    こちらの蚘事で解説しおいた、VRAM32GB皋床たでで快適に利甚できるLLMのお勧めの䞭から、さらに性胜や性栌を倉えた掟生モデルマヌゞモデルに぀いおたずめおみたした。
    この蚘事では、
    「絶察に間違えたくない」粟密なコヌディング䜜業 →
    Mistral Small 24B (Q8_0) を取り䞊げおいたす。

    Hugging Face䞊の `mistralai/Mistral-Small-24B-Instruct-2501` をベヌスずした Mergeマヌゞモデルは、元のInstructモデル公匏の指瀺远埓モデルが持぀高い基瀎胜力を維持し぀぀、特定の欠点を補ったり、特定の甚途に特化させたりするこずを目的に䜜られおいたす。

    元のモデル公匏Instruct版ず比范した䞻な違いず特城は以䞋の通りです。

    1. 「賢さ」ず「創造性・衚珟力」の䞡立

    公匏のInstructモデルは、数孊・コヌド・論理的掚論においお非垞に高い性胜Llama 3.3 70Bに匹敵するレベルを持ちたすが、䞀方で回答が「真面目すぎる」「創造的な文章が苊手」ずいう傟向がありたす。

    • マヌゞモデルの違い: 他の創造性に匷いモデルArcee-Blitzなどや、特定の小説執筆系モデルずマヌゞされるこずで、論理的思考力を維持したたた、より**「情緒豊かな衚珟」や「人間らしい䌚話」**ができるよう調敎されおいたす。

    1. 「拒絶ガヌドレヌル」の緩和

    公匏モデルは安党性の芳点から、特定の質問に察しお回答を拒吊するような「ガヌドレヌル」が匷めに蚭定されおいるこずがありたす。

    • マヌゞモデルの違い: 「Uncensored無怜閲」系のモデルや、RPロヌルプレむ特化モデルずマヌゞされるこずで、ナヌザヌの指瀺に察しおより忠実埓順になり、過床な拒絶をせず、より自由な察話が可胜になるよう調敎されおいるものが倚いです。

    1. 特定タスクぞの特化Roleplay, Coding, etc.

    元のモデルは汎甚的な「アシスタント」ですが、マヌゞモデルは特定の方向にステヌタスを振っおいたす。

    • Roleplay: キャラクタヌになりきる胜力を匷化。䌚話のコンテキスト維持胜力が向䞊しおいたす。

    • Reasoning / Coding: すでに高い胜力をさらに匕き出すため、DeepSeekなどの蒞留モデルの重みを混ぜ、論理的な䞀貫性を高めおいるものがありたす。

    1. マヌゞ手法TIES, DARE, SLERPなどによる最適化

    マヌゞモデルは、単に重みを足しおいるのではなく、TIES や DARE ずいった手法を甚いお、耇数のモデルの「良いずこ取り」をしおいたす。

    • 違い: 元のモデル単䜓では解決できなかった「プロンプトぞの现かい埓順さ」ず「知識量」のバランスを、パラメヌタの干枉を抑えながら改善しおいたす。

    `Mistral-Small-24B-Instruct-2501` をベヌスずしたマヌゞモデル矀は、䞻に「掚論力の匷化」「ロヌルプレむRP性胜の向䞊」「怜閲の解陀」の3方向に進化しおいたす。


    Mistral-Small-24B-Instruct-2501 掟生モデル党解説

    1. 掚論・汎甚胜力匷化系ベンチマヌク重芖

    これらは、元の高い知性を維持し぀぀、耇数のモデルをマヌゞしお平均的な「賢さ」を底䞊げしたものです。

    • Mistral-Small-24B-Instruct-2501-Arcee-Blitz-v0.1

    • 特城: Arcee.aiによる、より効率的で高品質なデヌタでの埮調敎。

    • 違い: 元モデルより「簡朔で正確」な回答を重芖。芁玄タスクに匷い。

    • Mistral-Small-24B-Instruct-2501-TIES-v0.1

    • 特城: TIES-Merging手法を甚いたマヌゞ。

    • 違い: 耇数のモデルの長所を、パラメヌタの干枉を抑えお統合。安定性が向䞊。

    • Mistral-Small-24B-Instruct-2501-DARE-v0.1

    • 特城: DARE手法䞍芁な重みを削陀しおマヌゞを採甚。

    • 違い: モデルのノむズが枛り、特定の指瀺に察する远埓性が向䞊。

    • Standard-24B-v1.2 (リンクはGGUF版䟋)

    • 特城: 耇数のマヌゞモデルをさらに統合した「暙準的」な高性胜版。

    • 違い: 党䜓的なベンチマヌクスコアがベヌスより高く、汎甚性が極めお高い。

    2. ロヌルプレむ・創䜜・ストヌリヌテリング系

    24Bのパラメヌタを掻かしお、より人間らしい、あるいは小説的な文章を曞くための調敎です。

    • Magnum-v4-24b

    • 特城: ロヌルプレむ愛奜家に人気の「Magnum」シリヌズの24B版。

    • 違い: 散文の質文章の矎しさが劇的に向䞊。キャラ蚭定の維持に匷い。

    • Mistral-Small-24B-Instruct-2501-SLERP

    • 特城: SLERP球面線圢補間を甚いたマヌゞ。

    • 違い: 2぀のモデルの特性を滑らかに融合。創造性ず論理性のバランスが良い。

    • Kappa-24B-v1

    • 特城: 特定の指瀺デヌタセットずマヌゞ。

    • 違い: より察話的な、チャットに適した口調ぞの調敎。

    3. 怜閲解陀・無修正系Uncensored / Abliterated

    モデルの「ガヌドレヌル」を取り陀き、あらゆる指瀺に埓うようにしたものです。

    • Mistral-Small-24B-Instruct-2501-Abliterated

    • 特城: 盎亀化技術を甚いお拒絶反応を「消去」。

    • 違い: 「倫理的に答えられたせん」ずいう回答をほが回避。自由床が最倧。

    • Mistral-Small-24B-Instruct-2501-Abliterated-v2

    • 特城: 䞊蚘の改良版。

    • 違い: 消去による知胜䜎䞋を抑え぀぀、拒絶回避性胜をさらに最適化。

    • Mistral-Small-24B-Instruct-2501-Uncensored

    • 特城: 無修正デヌタで調敎。

    • 違い: 内容の制限なく、ナヌザヌのプロンプトをそのたた実行。

    4. 特定の埮調敎・掟生版


    比范たずめ

    | モデルカテゎリ | 特城 | 向いおいる甚途 |
    | 公匏 (Instruct) | 最も安党・論理的 | コヌディング、数孊、客芳的調査 |
    | Arcee-Blitz / Standard | 効率化・知胜匷化 | 文章芁玄、耇雑な指瀺の遂行 |
    | Magnum / SLERP | 衚珟力豊か・創造的 | 小説執筆、ロヌルプレむ、TRPG 
    | Abliterated | ガヌドレヌルなし | 制限のない自由な察話、物語の悪圹描写 |

     
     

    yanchan2020

     
     
    ツむッタヌアカ、「倩䞌界の、やんちゃん」です

    あなたぞのおすすめ