소스 검색

fix: baichuan frequency_penalty (#2446)

Yeuoly 1 년 전
부모
커밋
e47b5b43b8
1개의 변경된 파일4개의 추가작업 그리고 2개의 파일을 삭제
  1. 4 2
      api/core/model_runtime/model_providers/baichuan/llm/baichuan_turbo.py

+ 4 - 2
api/core/model_runtime/model_providers/baichuan/llm/baichuan_turbo.py

@@ -128,8 +128,10 @@ class BaichuanModel:
                         'role': message.role,
                         'role': message.role,
                     })
                     })
             # [baichuan] frequency_penalty must be between 1 and 2
             # [baichuan] frequency_penalty must be between 1 and 2
-            if parameters['frequency_penalty'] < 1 or parameters['frequency_penalty'] > 2:
-                parameters['frequency_penalty'] = 1
+            if 'frequency_penalty' in parameters:
+                if parameters['frequency_penalty'] < 1 or parameters['frequency_penalty'] > 2:
+                    parameters['frequency_penalty'] = 1
+
             # turbo api accepts flat parameters
             # turbo api accepts flat parameters
             return {
             return {
                 'model': self._model_mapping(model),
                 'model': self._model_mapping(model),