メインコンテンツへスキップ
見出し画像

期間限定記事★

    SEAL (Self-Adapting LLMs) フレームワークのPython実装です。ベースとなるLLMが自身のファインチューニング用データと更新指示を生成し、それに従って重みを適応させることができます。このコードはモジュール化されており、Hugging Face TransformersとPEFT(LoRA)を効率的な適応に利用しています。簡単な使用例も含まれています。

    この実装は次のような構成になっています。


    BaseLLM:LLMの抽象化(生成と学習)


    DataGenerator:タスクの説明から合成データを生成


    UpdateGenerator:生成されたデータとベースモデル名から学習設定を生成(ここでは固定ですが、拡張可能)


    ModelUpdater:LoRAを使った軽量ファインチューニングを実行


    SEAL:上記コンポーネントを組み合わせて自己適応サイクルを実行


    実際に動かすには、pip install torch transformers datasets peft などで依存ライブラリをインストールし、モデル名を適宜変更してください。

    import torch

     
     
    ★メンバーシップを開始しました★本noteの内容は情報の提供だけを行なっております。したがって、運用はお客様自身の責任と判断によって行って下さい。運用結果については著者はいかなる責任も負いません。

    あなたへのおすすめ