Bläddra i källkod

fix(model_providers/ollama): Fix OllamaLargeLanguageModel to correctly set the stop option (#5217)

-LAN- 10 månader sedan
förälder
incheckning
7f44e88eda
1 ändrade filer med 1 tillägg och 1 borttagningar
  1. 1 1
      api/core/model_runtime/model_providers/ollama/llm/llm.py

+ 1 - 1
api/core/model_runtime/model_providers/ollama/llm/llm.py

@@ -195,7 +195,7 @@ class OllamaLargeLanguageModel(LargeLanguageModel):
         data["options"] = model_parameters or {}
 
         if stop:
-            data["stop"] = "\n".join(stop)
+            data["options"]["stop"] = stop
 
         completion_type = LLMMode.value_of(credentials["mode"])