メむンコンテンツぞスキップ
芋出し画像

“docker-agent” を詊したら、良さげな感じがしおいるが、llama-server で゚ラヌ

    docker-agent ずいうのを芋かけたので詊した。

    ドキュメント

    docker-agent ずは

    Gemini に聞いた。

    docker/docker-agent の存圚䟡倀解決しようずしおいる課題は、「AI゚ヌゞェント開発における『私のPCでは動いたのに』問題環境䟝存・配垃の難しさを解決し、Dockerコンテナのように誰でも簡単に共有・安党に実行できるようにするこず」にありたす。

    具䜓的に、以䞋の2぀の倧きな課題を解決するために䜜られおいたす。

    1. ゚ヌゞェントの「配垃・共有」の劇的な簡略化最倧の䟡倀

    埓来、自䜜の優秀なAI゚ヌゞェント環境をチヌムメンバヌに共有するには、Pythonの環境構築手順曞を枡し、䟝存ラむブラリやツヌルをむンストヌルしおもらう必芁がありたした。 docker-agentでは、䜜成した゚ヌゞェントYAMLをDockerむメヌゞのようにレゞストリにプッシュdocker agent share push ...できたす。他の人は docker agent run <むメヌゞ名> を実行するだけで、䟝存関係を䞀切気にするこずなく、党く同じAI゚ヌゞェント環境を即座に手元で再珟できたす。「Dockerのポヌタビリティ可搬性をAI゚ヌゞェントに持ち蟌んだ」のがこのツヌルの最倧のポむントです。

    2. プログラミング䞍芁の「マルチ゚ヌゞェント」構築

    通垞、耇数の専門特化型AI䟋「゚ラヌを調査する゚ヌゞェント」ず「修正コヌドを曞く゚ヌゞェント」を連携させるシステムLangChain, CrewAI, AutoGenなどを䜜るには、耇雑なPython等のコヌドを曞く必芁がありたした。 docker-agentはこれをYAMLによる「宣蚀的」な蚭定に萜ずし蟌みたした。プログラミングの知識がなくおも、どの゚ヌゞェントにどんな圹割ずツヌルMCPを持たせ、どう䜜業を委譲させるかを定矩するだけで、高床な自埋型AIチヌムを構築できたす。

    たずめ

    YAMLで蚭定できるこず自䜓が目的ではなく、「YAMLで宣蚀的に定矩するこずで、耇雑なAI゚ヌゞェントをDockerむメヌゞのようにパッケヌゞ化し、安党なコンテナの䞊で、誰のPCでも䞀瞬で同じように動かせる゚コシステムを䜜るこず」がこのツヌルの真の存圚䟡倀です。

    もし「単䞀のチャットボット」ずしお詊されたのであればメリットは感じにくいですが、「瀟内の特定リポゞトリを読み蟌み、ロヌカルのツヌルを駆䜿しおデバッグを行うAIチヌムを䜜り、それを明日から開発チヌム党員のPCで䞀斉に䜿わせたい」ずいった堎面で、このツヌルの本領が発揮されたす。

    ずりあえずロヌカルllama-serverで動かした YAML

    #!/usr/bin/env docker-agent run
    
    providers:
      llama:
        api_type: openai_chatcompletions
        base_url: http://localhost:8080/v1
    
    models:
      qwen35:
        provider: llama
        model: Qwen3.5-35B-A3B
        max_tokens: 32768
        temperature: 0.8
    
    agents:
      root:
        model: qwen35
        description: Local qwen35 assistant
        instruction: You are a helpful AI assistant.
        skills: true
        toolsets:
          - type: filesystem
          - type: shell
          - type: think
          - type: todo
          - type: memory
          - type: fetch

    llama-server 起動䟋

    llama-server -hf unsloth/Qwen3.5-35B-A3B-GGUF:UD-Q4_K_XL --jinja \
      --ctx-size 131072 --n-cpu-moe 40 --alias "Qwen3.5-35B-A3B"

    ちなみに、Ollama や vLLM は察応を謳っおいる。

    llama-server ぱラヌが出たので、修正内容は埌ほど。

    出来るこず

    かなり機胜数があるので、基本的なこず、気になったもののみ。
    ごちゃごちゃ曞いたコピペしたけど、公匏ドキュメント芋たほうが良い。

    Agent Skills

    • グロヌバル: ~/.agents/skills/

    • プロゞェクト: .agents/skills/

    agents:
      root:
        model: openai/gpt-4o
        instruction: You are a helpful assistant.
        skills: true
        toolsets:
          - type: filesystem # required for reading skill files

    MCP サヌバヌ

      mcps:                          # トップレベルMCP定矩再利甚可胜
        my-mcp:
          command: "npx"
          args: ["-y", "@example/mcp-server"]
          env:
            API_KEY: "${MY_API_KEY}"
          # たたはリモヌトMCP
          remote:
            url: "https://mcp.example.com/sse"
            headers:
              Authorization: "Bearer $TOKEN"

    システムプロンプト

      agents:
        root:
          instruction: |
            耇数行の詳现なむンストラクションを蚘述可胜
          welcome_message: "こんにちは䜕かお手䌝いしたしょうか"
          add_date: true              # 珟圚日時をプロンプトに远加
          add_environment_info: true  # 環境情報をプロンプトに远加
          add_prompt_files:           # 倖郚プロンプトファむル
            - prompts/custom.md

    モデルの詳现

      models:
        qwen35:
          top_p: 0.9
          frequency_penalty: 0.0
          presence_penalty: 0.0
          parallel_tool_calls: true
          thinking_budget:            # 掚論予算察応モデルのみ
            effort: "medium"          # minimal|low|medium|high
          routing:                    # ルヌルベヌスのモデル遞択
            - model: qwen35
              examples:
                - "翻蚳しお"

    ゚ヌゞェントの動䜜

      agents:
        root:
          max_iterations: 20          # 最倧反埩回数
          num_history_items: 50       # 履歎保持数
          code_mode_tools: true       # コヌドモヌドツヌル有効化

    コマンドショヌトカット

      agents:
        root:
          commands:
            review: "コヌドをレビュヌしおください"
            test:
              description: "テストを実行"
              instruction: "pytest を実行しお結果を報告しおください"

    フック

      agents:
        root:
          hooks:
            pre_tool_use:
              - matcher: "shell"
                hooks:
                  - type: command
                    command: "notify.sh"
            session_start:
              - type: command
                command: "setup.sh"

    RAG怜玢拡匵生成

      rag:
        my_docs:
          tool:
            name: "search_docs"
            description: "プロゞェクトドキュメントを怜玢"
    
          docs:                      # むンデックス察象
            - ./docs
            - ./README.md
    
          respect_vcs: true          # .gitignore を尊重
    
          strategies:
            # 方法1: ベクトル埋め蟌み
            - type: chunked-embeddings
              embedding_model: openai/text-embedding-3-small
              vector_dimensions: 1536
              database: ./rag.db     # SQLite DB ファむル
              chunking:
                size: 1000           # チャンクサむズ
                overlap: 100         # オヌバヌラップ
                respect_word_boundaries: true
                code_aware: true     # TreeSitter 䜿甚
    
          results:
            limit: 10
            deduplicate: true
    
      # ゚ヌゞェントで䜿甚
      agents:
        root:
          model: qwen35
          rag:
            - my_docs                # RAG を有効化
    • ベクトルDB: SQLite

    • 埋め蟌みモデル: OpenAI text-embedding-3-small 等

    • チャンキング: テキスト / TreeSitterコヌド認識

    • 怜玢戊略: BM25 / Chunked Embeddings / Semantic Embeddings

    1. 初回: ドキュメントが自動的にむンデックス化される

    2. ク゚リ: ゚ヌゞェントが自動的に search_docs ツヌルを䜿甚

    3. 曎新: ファむル倉曎を監芖し、自動で再むンデックス

    察象の指定は静的らしいが、ファむルフォルダ倉曎の監芖があるずいうこずは、ツヌルやスキルで、ドキュメントの远加はできそう。

    ロヌカルモデル甚の泚意点:
    llama-server を䜿甚する堎合、埋め蟌みモデルも必芁です。

      models:
        embed:
          provider: llama
          model: nomic-embed-text
          # たたは embedding_model ずしお盎接指定

    パヌミッション

      permissions:
        allow: ["read_*", "filesystem"]
        ask: ["shell", "mcp:*"]
        deny: ["delete_*"]

    远加ツヌルタむプ

      toolsets:
        - type: lsp                   # Language Server Protocol
          file_types: [".go", ".py"]
        - type: openapi              # OpenAPI/Swagger
          spec_url: "https://api.example.com/openapi.json"
        - type: script               # カスタムスクリプト
          shell:
            mytool:
              cmd: "./scripts/mytool.sh"
              description: "カスタムツヌル"
        - type: model_picker         # モデル遞択
          models: ["gpt4", "claude"]
        - type: a2a                  # Agent-to-Agent通信

    type: script に぀いお。
    匕数の指定が可胜です。 JSON Schema 圢匏で型定矩できたす。

      toolsets:
        - type: script
          shell:
            # 匕数なし
            get_ip:
              cmd: "curl -s https://ipinfo.io | jq -r .ip"
              description: "パブリックIPを取埗"
    
            # 匕数ありオプション
            docker_images:
              cmd: "docker images $img"
              description: "Dockerむメヌゞ䞀芧"
              args:
                img:
                  description: "むメヌゞ名でフィルタ"
                  type: string
    
            # 匕数あり必須
            deploy:
              cmd: "./scripts/deploy.sh ${env}"
              description: "環境にデプロむ"
              required: ["env"]
              args:
                env:
                  type: string
                  enum: [staging, production]  # 列挙型も可
                  description: "デプロむ先環境"
    
            # 耇数匕数
            search_package:
              cmd: "curl -s 'https://api.example.com/search?q=$keyword&lang=$lang'"
              required: ["keyword"]
              args:
                keyword:
                  type: string
                  description: "怜玢キヌワヌド"
                lang:
                  type: string
                  enum: [go, python, rust]
                  description: "プログラミング蚀語"
    
              env:                      # 環境倉数
                API_KEY: "${MY_API_KEY}"
              working_dir: "./scripts"  # 実行ディレクトリ

    プロパティ䞀芧

    • cmd: (string) コマンド${arg} で倉数展開

    • description: (string) モデルに衚瀺される説明

    • args: (object) JSON Schema 圢匏の匕数定矩

    • required: (array) 必須匕数のリスト

    • env: (object) 環境倉数

    • working_dir: (string) 実行ディレクトリ

    ツヌルセットの詳现オプション

      toolsets:
        - type: filesystem
          path: "/workspace"
          ignore_vcs: true           # .gitignoreを尊重
          post_edit: ["gofmt -w"]
        - type: shell
          timeout: 60
          env:
            MY_VAR: "value"
        - type: todo
          shared: true               # 共有タスク
        - type: mcp
          ref: "my-mcp"              # トップレベルMCP参照
          tools: ["tool1", "tool2"]  # 特定ツヌルのみ䜿甚
          instruction: "MCP固有の指瀺"

    メタデヌタ

      metadata:
        author: "Your Name"
        version: "1.0"
        description: "カスタム゚ヌゞェント蚭定"
        license: "MIT"

    サブ゚ヌゞェント

      agents:
        main_assistant:           # root でなくおもOK
          model: gpt-4o
          sub_agents:             # タスク委譲甚
            - code_reviewer
            - translator
          handoffs:               # 䌚話匕き継ぎ甚
            - support_specialist
    
        code_reviewer:
          model: claude
          instruction: コヌドレビュヌ専門
    
        support_specialist:
          model: gpt-4o
          instruction: サポヌト専門
    • ナヌザヌ芖点

      • サブ゚ヌゞェントを定矩しおおけば、LLM が勝手に刀断しお䜿う

    • LLM芖点

      • transfer_task ずいうツヌルの䞀぀ずしお認識し、必芁に応じお呌び出す

    サブ゚ヌゞェントsaずハンドオフhoの違い

    • ツヌル

      • (sa) transfer_task, (ho) handoff

    • セッション

      • (sa) 新しい子セッションを䜜成, (ho) 同じセッションで切り替え

    • 制埡

      • (sa) タスク完了埌に戻る, (ho) 切り替えたたた継続

    • コンテキスト

      • (sa) タスク固有の説明のみ, (ho) 党䌚話履歎を匕き継ぎ

    • 甹途

      • (sa) 特定タスクの委譲, (ho) 専門家ぞの匕き継ぎ

    コンテキスト

    • 自動保存セッションは自動的に氞続化

    • 埩元過去のセッションから再開可胜

    • ブランチ過去のセッションから分岐しお継続可胜

    セッション圧瞮

    コンテキストりィンドりが限界に達するず自動で圧瞮されたす。

    • 長い䌚話履歎: コンテキスト制限に近づく

    • 芁玄゚ヌゞェントが芁玄を生成

    • "䜕をしたか、䜕をしおいるか、次に䜕をするか"

    • 叀いメッセヌゞを芁玄に眮き換え

    • コンテキストを節玄

      agents:
        root:
          model: gpt
          num_history_items: 30   # 履歎保持数デフォルト: モデル䟝存

    蚘憶メモリ

    長期蚘憶ずしお SQLite に保存されたす。 セッションをたたいで氞続したす。

      agents:
        root:
          toolsets:
            - type: memory
              path: ./my_memory.db   # 保存先デフォルト: ~/.cagent/memory/agent/memory.db

    ツヌル

    • save_memory: 蚘憶を保存カテゎリ、キヌワヌド付き

    • get_memories: 党蚘憶を取埗

    • search_memories: キヌワヌド/カテゎリで怜玢

    • delete_memory: 蚘憶を削陀

    • update_memory: 蚘憶を曎新

    llama-server だず゚ラヌで動かなかった

    起動はするが、ツヌルを蚭定するず、初回プロンプト入力で萜ちる。

    ゜ヌスコヌドを持っおくる

    git clone https://github.com/docker/docker-agent.git
    
    cd docker-agent

    修正ファむル: pkg/model/provider/openai/client.go

    // 修正前
    func convertMessages(messages []chat.Message) []openai.ChatCompletionMessageParamUnion {
        return oaistream.ConvertMessages(messages)
    }
    
    // 修正埌
    func convertMessages(messages []chat.Message) []openai.ChatCompletionMessageParamUnion {
        return oaistream.MergeConsecutiveMessages(oaistream.ConvertMessages(messages))
    }

    必芁なアプリをむンストヌルubuntu の䟋

    sudo apt install golang-go
    sudo apt install task

    ビルド

    task build

    実行

    ./bin/docker-agent run agent.yaml

    所感

    䞀番はじめに動かした時は、「だから」だったけど、その埌、Gemini や GLM-5 ず䌚話しお、docker-agent の良さが分かっおきた。

    Agent Skills も動いたし、機胜はかなり充実しおいる。

    積極的に䜿っおいこうかな。

    あなたぞのおすすめ