소스 검색

fix: openllm completion start with prompt, remove it (#1303)

takatost 1 년 전
부모
커밋
875dfbbf0e
1개의 변경된 파일1개의 추가작업 그리고 0개의 파일을 삭제
  1. 1 0
      api/core/third_party/langchain/llms/openllm.py

+ 1 - 0
api/core/third_party/langchain/llms/openllm.py

@@ -66,6 +66,7 @@ class OpenLLM(LLM):
 
         json_response = response.json()
         completion = json_response["responses"][0]
+        completion = completion.lstrip(prompt)
 
         if stop is not None:
             completion = enforce_stop_tokens(completion, stop)