メインコンテンツへスキップ
見出し画像

hermes-agent と telegram と llama.cpp と qwen3.5-35b-a3b と podman と

    記事概要

    タイトルの内容で、hermes-agent を起動して、Telegram でチャットする環境構築まで。それ以上は無し。

    hermes-agent

    特徴

    • Telegram、Discord、Slack、WhatsApp、Signal、Eメール、CLI でチャット。

    • 持続的な記憶と自動生成されたスキル。どのように問題を解決したかを決して忘れない。

    • レポート、バックアップ、および ブリーフィング。

    • リアルサンドボックス: 5つのバックエンド(ローカル、Docker、SSH、Singularity、Modal) コンテナのセキュリティ強化と名前空間の分離。

    • ウェブ検索、ブラウザ自動化、ビジョン、画像生成、 テキスト音声合成、およびマルチモデル推論。

    ツール

    40種類以上の組み込み機能 ― ウェブ検索、ターミナル、ファイルシステム、ブラウザ 自動化、ビジョン、画像生成、テキスト読み上げ、コード 実行、サブエージェント委任、メモリ、タスク計画、cron スケジューリング、マルチモデル推論など。

    Telegram の準備

    以前の記事を参照

    コンテナで動かした

    podman を使っているが、docker でもそのまま動くかも?

    ファイル構成

    .
    ├── hermes-data
    │   ├── .env
    │   └── config.yaml
    └── Dockerfile

    Dockerfile

    FROM debian:bookworm-slim
    
    RUN apt-get update && apt-get install -y --no-install-recommends \
        git \
        curl \
        ca-certificates \
        build-essential \
        python3-dev \
        libffi-dev \
        ripgrep \
        ffmpeg \
        && rm -rf /var/lib/apt/lists/*
    
    ENV HERMES_HOME=/root/.hermes
    ENV HERMES_INSTALL_DIR=/opt/hermes-agent
    
    RUN curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash -s -- \
        --dir $HERMES_INSTALL_DIR \
        --skip-setup
    
    ENV PATH="${HERMES_INSTALL_DIR}/venv/bin:${PATH}"
    
    WORKDIR /root
    
    ENTRYPOINT ["hermes"]
    CMD ["gateway"]

    .env

    今回は Telegram なので、許可ユーザーの ID をセット。

    TELEGRAM_ALLOWED_USERS=0000000000

    config.yaml

    今回は Telegram なので、 platforms.telegram.token に、Telegram のトークンをセット。
    ※ api_key が dummy だと認証エラーでつながらない罠。

    model:
      base_url: "http://host.containers.internal:22434/v1"
      default: "qwen3.5-35b-a3b"
      api_key: "local-llama-server"
      provider: "auto"
    
    terminal:
      backend: "local"
      cwd: "/root/workspace"
    
    compression:
      enabled: true
      threshold: 0.85
    
    platforms:
      telegram:
        enabled: true
        token: "0000000000:XXXXXXXXXXXXXXXXXXXXXXX_xxxxxxxxxxx"
    
    auxiliary:
      vision:
        provider: "main"
        base_url: "http://host.containers.internal:22434/v1"
        model: "qwen3.5-35b-a3b"
        api_key: "local-llama-server"
      web_extract:
        provider: "main"
        base_url: "http://host.containers.internal:22434/v1"
        model: "qwen3.5-35b-a3b"
        api_key: "local-llama-server"
      approval:
        provider: "main"
        base_url: "http://host.containers.internal:22434/v1"
        model: "qwen3.5-35b-a3b"
        api_key: "local-llama-server"
    

    おそらく api_key が以下の文字列だと認証エラーになる。

    • *,**,***

    • changeme,your_api_key,your-api-key

    • placeholder,example,dummy

    • null,none

    https://github.com/NousResearch/hermes-agent/blob/934fbe3c06174d5b71b02c48c9f099e83c3f1e8e/hermes_cli/auth.py#L282-L292

    実行

    まずビルド。

    podman build -t hermes-agent .

    起動

    podman run -d --name hermes -v ./hermes-data:/root/.hermes hermes-agent

    所感

    さくっと立ち上げて触るはずだったが、認証エラーでハマる。
    そもそも、API キーを設定して llama-server を使ってたらこんなことにはなっていかった。ふぅ

    あなたへのおすすめ