メインコンテンツへスキップ
見出し画像

ローカルLLMの情報まとめ

    「ローカルLLM」の記事が増えてきたのでまとめました。

    「Llama 2」ベースのローカルLLMについては、以下でまとめています。

    1. 推論

    1-1. 実践

    1-2. 情報

    2. SFT (Supervised Fine-tuning)

    2-1. 実践


    2-2. 情報

    3. RM (Reward / preference modeling)

    4. RLHF (Reinforcement Learning from Human Feedback)

    4-1. 実践

    4-2. 情報

    5. 高速推論

    6. 評価

    7. データセット

    ※ OpenAI APIはローカルLLMではありませんが、ローカルLLMのデータセット作成の参考になるためリストアップ。

    8. 事前学習

    9. LlamaIndex ・ LangChain

    10. マルチモーダル

    11. Web UI

    関連

    ・【令和最新版】対話型AI、ローカル支部最前線レポート - Qiita
    ・
    数値で整理する大規模言語モデル(LLM) の メモリ


     
     

    npaka

     
     
    プログラマー。iPhone / Android / Unity / ROS / AI / AR / VR / RasPi / ロボット / ガジェット。年2冊ペースで技術書を執筆。アニソン / カラオケ / ギター / 猫 twitter : @npaka123

    あなたへのおすすめ