From 48e4054c2e2a010f0c2579beb16eea7ed97851a3 Mon Sep 17 00:00:00 2001
From: Marc Blatter <marc.blatter@outlook.com>
Date: Tue, 21 Jul 2026 20:39:37 +0000
Subject: [PATCH] composte-hermes.yml aktualisiert

---
 composte-hermes.yml | 7 +++++++
 1 file changed, 7 insertions(+)

diff --git a/composte-hermes.yml b/composte-hermes.yml
index 2b1d39f..434c4a3 100644
--- a/composte-hermes.yml
+++ b/composte-hermes.yml
@@ -45,6 +45,13 @@ services:
       # Qualitätsverlust – gerade bei 32k Context relevant
       - --kv-cache-dtype=fp8
       - --served-model-name=qwen3-14b-awq
+      # Fehlten bisher: ohne diese beiden Flags lehnt vLLM jeden Request
+      # mit tool_choice="auto" ab ("auto tool choice requires ...")
+      - --enable-auto-tool-choice
+      - --tool-call-parser=hermes
+      # Trennt <think>-Reasoning-Content vom eigentlichen Tool-Call-Parsing,
+      # sonst kann der hermes-Parser bei aktiviertem Denk-Modus stolpern
+      - --reasoning-parser=deepseek_r1
     healthcheck:
       test: ["CMD", "curl", "-f", "http://localhost:8000/health"]
       interval: 30s