Skip to content

docs(adopters): add walcz.de - #11581

Merged
mudler merged 1 commit into
mudler:masterfrom
walcz-de:adopters-walcz
Aug 18, 2026
Merged

mudler merged 1 commit into
mudler:masterfrom
walcz-de:adopters-walcz

Conversation

@walcz-de

Copy link
Copy Markdown
Collaborator

Adds walcz.de to ADOPTERS.md.

We run LocalAI as the inference layer of a self-hosted appliance for a German
B2B consultancy β€” local-only, on AMD Strix Halo (gfx1151) with ROCm. It has been
in daily production use for months: agents with MCP tools, RAG over an internal
knowledge base, and a document/bookkeeping pipeline.

I am the person who runs it, so this is a first-party statement rather than a
third-party listing β€” which is what the file asks for.

Branched from upstream/master, so the diff is the single row and nothing else.
Signed off per DCO.

We run LocalAI as the inference layer of a self-hosted appliance for a German
B2B consultancy β€” local-only, on AMD Strix Halo (gfx1151) with ROCm.

In daily production use for agents with MCP tools, RAG over an internal
knowledge base, and a document/bookkeeping pipeline.

Signed-off-by: Stefan Walcz <stefan.walcz@walcz.de>

@mudler mudler left a comment

Copy link
Copy Markdown
Owner

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

happy to have you onboard!

@mudler
mudler merged commit 9068689 into mudler:master Aug 18, 2026
1 check passed
walcz-de added a commit to walcz-de/LocalAI that referenced this pull request Aug 20, 2026
Der naechtliche Sync-Cron hatte diesen Merge am 19.08. um 03:00 begonnen, ist in
sechs Konflikte gelaufen und den Baum so liegen lassen β€” ueber einen Tag lang,
unbemerkt. Jetzt aufgeloest.

Die inhaltliche Entscheidung: upstream hat mit mudler#11556 eine EIGENE End-zu-End-
Kontextkompression gelandet (Maintainer-Bot, refs mudler#9534) β€” nicht unsere. Damit
lagen zwei unabhaengige Implementierungen desselben Features uebereinander.
Uebernommen wurde die von upstream, unsere faellt weg:

  - Unsere hatte NULL Verbraucher (kein Modell-YAML nutzt compression).
  - Upstreams ist vollstaendiger: eigener Dienst (core/services/compression/)
    mit Metriken, Tests und Doku statt nur Middleware + pkg/compress.
  - Die verbindliche Projektregel lautet "Framework-Artefakte statt eigenem
    Code" β€” eine Fork-Doppelung driftet und kostet bei jedem Merge.
  - pkg/compress/ ist damit toter Code und entfernt.

Die CompressionConfig-Felder sind auf beiden Seiten IDENTISCH (gleiche Namen,
gleiche yaml/json-Tags) β€” upstream ist auf unser Schema konvergiert. Genommen
wurde deren knappere Fassung, weil unsere ausfuehrlichen Kommentare
Vorgabewerte UNSERER Implementierung nennen (KeepTail 8000), waehrend upstreams
Dienst 2048 verwendet β€” die Kommentare waeren gelogen gewesen.

Zwei Nacharbeiten, die der Merge noetig machte:
  - Compression war doppelt in ModelConfig deklariert (beide Seiten an
    verschiedenen Stellen eingefuegt). Unsere Platzierung entfernt, upstreams
    behalten, damit die naechste Zusammenfuehrung nicht wieder anstoesst.
  - Upstreams neuer Registry-Abdeckungstest forderte einen Eintrag fuer unser
    Fork-Feld agent.max_generation_tokens β€” als richtiger Eintrag ergaenzt
    (nicht ueber die Ausnahmeliste, die laut Test nicht wachsen soll).

Mitgebracht ausserdem: die beiden gemergten Walcz-PRs (ADOPTERS mudler#11581,
Contributors mudler#11582).

Geprueft: core+pkg kompiliert, go vet sauber, config/meta/compression/tokens
gruen. core/http/middleware 198/199 β€” der eine Fehlschlag (probe_trim_test.go:119
"modelTokenTrim ... context_size unset") besteht NACHWEISLICH SCHON VORHER: in
einem Arbeitsbaum auf dem Vor-Merge-Stand faellt derselbe Test (202/203). Also
keine Regression aus dieser Zusammenfuehrung.

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_012t3fhRbAVRgg9mumHvtzAG
@walcz-de
walcz-de deleted the adopters-walcz branch August 20, 2026 10:46
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

kind/documentation Improvements or additions to documentation

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants