Преглед изворни кода

fix(model_providers/ollama): Fix OllamaLargeLanguageModel to correctly set the stop option (#5217)

-LAN- пре 10 месеци
родитељ
комит
7f44e88eda
1 измењених фајлова са 1 додато и 1 уклоњено
  1. 1 1
      api/core/model_runtime/model_providers/ollama/llm/llm.py

+ 1 - 1
api/core/model_runtime/model_providers/ollama/llm/llm.py

@@ -195,7 +195,7 @@ class OllamaLargeLanguageModel(LargeLanguageModel):
         data["options"] = model_parameters or {}
 
         if stop:
-            data["stop"] = "\n".join(stop)
+            data["options"]["stop"] = stop
 
         completion_type = LLMMode.value_of(credentials["mode"])