メインコンテンツへスキップ
見出し画像
Photo bydongmu

LLM-jpには種類があった

    非力WindowsでローカルLLMを動かそう!!シリーズです。

    そんなシリーズありません🤣

    という事で、まともな日本語を話させたい!それも私のWindowsで使いたい。という雑な考えからQwenを最初に触りつつ、LLM-jpへきました。これ、「大規模言語モデル研究開発センターが主宰する、研究者のコミュニティ名であり、かつ、日本発LLM開発プロジェクトの名称」だそうです。

    国産の日本語のためのLLMがあるなんて・・・。LLM-JP 4が出たという事で知ったこのLLMですが、3にいくつか面白い奴が眠ってました。掘り起こし、さっそく量子化!!!!

    ダウンロード


    LLM-JP 3 3.7B 量子化 | サラトナ Saratna inc. ~茶~

    これ、p-cloudにデータをまたもや置いてあります。なんでか・・・・。あまり目立ちたくないんです。この量子化、まあまあコストかかりますwww

    要望多いと私の財布が瘦せていくんです。私はQ5使ってみてます。inputとoutput触ってみてください!

     
     
    ASHBYS OF LONDON(英国紅茶)、スリランカ、インドからの直輸入紅茶を販売してます。 フィリピンに20年近く住んでいました。紅茶の輸入とIT系には30年以上携わってます。最近はAI触ってること多いです。パンやケーキ、調理、メニュー作成もできます。

    あなたへのおすすめ