feat(llm): 多模型 fallback 支持
LLMClient 改为供应商链模式: - 主供应商 + GAOKAO_LLM_FALLBACK_MODELS/PROVIDERS/API_KEYS/BASE_URLS - 按顺序尝试, 第一个成功即返回 - 全部失败时抛出聚合错误(含供应商数量和最后错误) 配置层: - Settings 新增 4 个 fallback 字段 - load_settings() 读取对应环境变量 新增测试(4 个): - test_fallback_config_parsed: 验证 fallback 链解析正确 - test_fallback_no_config: 无 fallback 时只有主供应商 - test_fallback_falls_through_to_second_provider: 主失败自动切换 - test_fallback_all_fail_raises: 全部失败抛聚合错误 部署示例: .env.docker.example / .env.payment.example 补充注释掉的 fallback 模板 验证: data/llm/tests 16 passed, admin/tests 40 passed
This commit is contained in:
@@ -16,6 +16,11 @@ GAOKAO_LLM_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
|
||||
GAOKAO_LLM_MODEL=qwen-plus
|
||||
GAOKAO_LLM_TIMEOUT=60
|
||||
GAOKAO_LLM_MAX_TOKENS=4096
|
||||
# 可选:多模型 fallback(逗号分隔,主供应商失败时按顺序尝试)
|
||||
# GAOKAO_LLM_FALLBACK_MODELS=gpt-4o-mini,deepseek-chat
|
||||
# GAOKAO_LLM_FALLBACK_PROVIDERS=openai,deepseek
|
||||
# GAOKAO_LLM_FALLBACK_API_KEYS=sk-openai-key,sk-deepseek-key
|
||||
# GAOKAO_LLM_FALLBACK_BASE_URLS=https://api.openai.com/v1,https://api.deepseek.com/v1
|
||||
GAOKAO_PAYMENT_PROVIDER=mock
|
||||
GAOKAO_PAYMENT_BASE_URL=https://example.com
|
||||
GAOKAO_PAYMENT_WEBHOOK_SECRET=replace-with-independent-payment-webhook-secret
|
||||
|
||||
Reference in New Issue
Block a user