メインコンテンツへスキップ
見出し画像

クリックするだけ!ローカルLLMを入れよう!LM Studioで噂のDeepSeekを試す!

    世間で話題のDeepSeek試してみたいなぁ。。と思いつつ。日々イラストやら音楽などの生成AIで遊んでいましたが。ローカルLLMツールで試してみることにしました。
    ローカルLLMツールとは何ぞや?というとローカル環境でLLM(大規模言語モデル)を動作させるツールになります。最近は便利な世の中になったなぁと思います。。
    ローカルLLMツールは、あまり名前が定着していないようで、いろいろな呼ばれ方があるのですが。。。
    基本的に以下のようらしいです

    ローカルLLM、ローカルLLM推論ツール、Local LLM Inference Tools
    AIチャット、ローカルAI、LLMフレームワーク、LLMツール
    とかとか。。。

    さっそくですが、いろいろあるようなので、どれから始めようかと悩みました。ということでChatGPTに相談。

    画像
    物語?もあるんですね

    なるほど。ファインチューニングや量子化はカスタマイズみたいな話なので少し上級者向けです。まずは、画面付き(GUI)で DeepSeek はどんなものか?と試したいだけなので、見た目もカワイイ LM Studio にすることにしました。

    ↓ こちらからダウンロード

    インストールフォルダを選択するぐらいでした。
    超簡単インストール。

    画像
    インベーダー?

    こちら初回起動画面です。

    画像
    「Get your first LLM」を
    クリックで
    初めてのLLMの世界へ!
    画像
    DeepSeekを使いたい
    ということが
    先読みされてました。。。
    いきなりこの画面
    画像
    4.68Gです🍵

    ちなみに、DeepSeek は学習量によっていろいろな種類があります
    7Bは学習量を指しており、7 Billion(70億)のパラメータを持っているということです。数値が大きいほど賢くなりますが、処理も重くなり、それなりのパソコンスペックが必要になってきます。

    画像

    画像
    完了🎉
    画像
    こちら初回画面です
    「Load Model」で
    DeepSeekを読み込みましょう。
    画像
    まずは、あいさつ程度
    画像
    ichigo?。。。( ゚Д゚)
    画像
    ドラゴンボール( ゚Д゚)

    ジョークも言う7Bモデル、ググったらそんな人は居ませんでした。
    ということで、英語はokですが、日本語の場合14B以上じゃないと、まともに日本語が扱えないようです。日本語で使う場合は話し相手ぐらいにはなってくれると思います。というオチでした。
    何かクセがあるのかと思い、気合入れてキャプチャーポチポチ取ってましたが、想像以上に簡単に終わりましたね。。。
    ちなみにサイバーエージェントから日本語追加学習をした14BのDeepSeekも公開されています!(32Bもあります)

    いちおう補足ですが、公式などで利用できるのは7Bではなく、桁違いでパターンが巨大で賢いので勘違いしないようにしてください。。。
    最新、公式だと2025/02/06現在
    DeepSeekV3で671Bとのことです。

    そして、さっそく14Bと32Bも試してみました! ↓↓↓↓

    画像



    この記事が参加している募集

     
     
    AI競馬予想とwin5予想の投稿。また、雑談等でStableDiffusionやAIについての記事も記載しています。 競馬に興味が無い方などは、各マガジンでのフォローをお勧めします。 ※ Amazon アソシエイトとして umanikomi は適格販売により収入を得ています

    あなたへのおすすめ