支持http代理的litellm的docker compose部署。
目前里面已有gemini配置,直接把.env.sample拷贝成.env,并填入相应的HTTPS_PROXY和GEMINI_API_KEY。
.env.sample
.env
HTTPS_PROXY
GEMINI_API_KEY
如果需要添加其他模型,参照官方文档修改litellm_config.yaml配置文件,在docker-compose.yaml里添加相应的api-key配置,然后把key写在.env里。
litellm_config.yaml
docker-compose.yaml