P0-1 (limits.go): Allow()方法改为全程使用写锁保护counters map读写,避免RLock写入时的data race P0-2 (ticket_workflow.go+ticket_handler.go): Assign/Resolve/Close操作先查询ticket存在性和状态,返回明确的CS_TICKET_4001/CS_TKT_4002/CS_TICKET_4092/CS_TICKET_4093错误码,handler根据错误前缀路由HTTP状态码 P1-1 (ticket_store.go): 移除GetStats中3处手动rows.Close(),只保留defer Close()
165 lines
4.1 KiB
Markdown
165 lines
4.1 KiB
Markdown
# AI-Customer-Service 部署设计
|
||
|
||
> 版本:v1.0 | 状态:初稿
|
||
|
||
---
|
||
|
||
## 1. 部署架构
|
||
|
||
### 1.1 总体架构
|
||
|
||
```
|
||
├── Load Balancer (Nginx / 云 CLB)
|
||
│
|
||
├── AI-CS API Server x 2
|
||
│ │
|
||
│ ├── HTTP API
|
||
│ └── WebSocket (实时对话)
|
||
│
|
||
├── AI-CS Worker x 2
|
||
│ │
|
||
│ ├── 知识库索引更新 Worker
|
||
│ └── 清理 Worker (过期会话清理)
|
||
│
|
||
└── 共享层
|
||
│
|
||
├── PostgreSQL 15+ (独立 schema: cs_*)
|
||
├── Redis (会话 + 缓存 + 锁 + 频率限制)
|
||
└── 向量数据库 (PGVector / Milvus / Qdrant)
|
||
```
|
||
|
||
### 1.2 容器化部署
|
||
|
||
```yaml
|
||
services:
|
||
ai-cs-api:
|
||
image: ai-customer-service:latest
|
||
command: ["./ai-cs", "api"]
|
||
replicas: 2
|
||
ports:
|
||
- "8082:8080"
|
||
environment:
|
||
- DB_HOST=postgres
|
||
- REDIS_HOST=redis
|
||
- VECTOR_DB_HOST=pgvector
|
||
|
||
ai-cs-worker:
|
||
image: ai-customer-service:latest
|
||
command: ["./ai-cs", "worker"]
|
||
replicas: 2
|
||
environment:
|
||
- DB_HOST=postgres
|
||
- REDIS_HOST=redis
|
||
- VECTOR_DB_HOST=pgvector
|
||
|
||
postgres:
|
||
image: postgres:15
|
||
volumes:
|
||
- pg_data:/var/lib/postgresql/data
|
||
|
||
redis:
|
||
image: redis:7
|
||
|
||
pgvector:
|
||
image: ankane/pgvector:latest
|
||
# 或使用独立 Milvus/Qdrant 容器
|
||
```
|
||
|
||
---
|
||
|
||
## 2. 资源需求
|
||
|
||
### 2.1 API Server
|
||
|
||
| 资源 | 需求 | 说明 |
|
||
|------|------|------|
|
||
| CPU | 2 核 | 含意图识别、知识库检索、LLM 调用 |
|
||
| 内存 | 2 GB | 连接池 + 向量检索缓存 |
|
||
| 存储 | 无 | |
|
||
| 网络 | 内网 100Mbps | 调用 LLM API、内部服务 |
|
||
|
||
### 2.2 Worker
|
||
|
||
| 资源 | 需求 | 说明 |
|
||
|------|------|------|
|
||
| CPU | 1 核 | |
|
||
| 内存 | 1 GB | 知识库索引更新时需要 |
|
||
| 存储 | 无 | |
|
||
|
||
### 2.3 数据库
|
||
|
||
| 资源 | 需求 | 说明 |
|
||
|------|------|------|
|
||
| CPU | 2 核 | |
|
||
| 内存 | 4 GB | 索引与缓冲 |
|
||
| 存储 | 100 GB | 会话 + 消息 + 工单 + 审计日志 |
|
||
|
||
### 2.4 向量数据库
|
||
|
||
| 选型 | CPU | 内存 | 存储 | 说明 |
|
||
|------|-----|--------|------|------|
|
||
| PGVector | 与 PostgreSQL 共存 | 共存 | 共存 | 推荐,无需额外部署 |
|
||
| Milvus | 2 核 | 4 GB | 30 GB | 高性能、分布式 |
|
||
| Qdrant | 1 核 | 2 GB | 20 GB | 轻量、Cloud-native |
|
||
|
||
---
|
||
|
||
## 3. 监控与运维钩子
|
||
|
||
### 3.1 健康检查
|
||
|
||
| 端点 | 路径 | 预期响应 | 失败行为 |
|
||
|------|------|----------|---------|
|
||
| 存活检查 | `/actuator/health/live` | HTTP 200 | 容器重启 |
|
||
| 就绪检查 | `/actuator/health/ready` | HTTP 200 | 从负载均衡移除 |
|
||
| 综合检查 | `/actuator/health` | HTTP 200 + JSON | 触发告警 |
|
||
|
||
### 3.2 启动/关闭顺序
|
||
|
||
**启动顺序**:
|
||
1. PostgreSQL 启动完成
|
||
2. Redis 启动完成
|
||
3. 向量数据库启动完成
|
||
4. Worker 启动(执行 migration)
|
||
5. API Server 启动
|
||
|
||
**关闭顺序**:
|
||
1. 停止接收新 HTTP 请求和 WebSocket 连接
|
||
2. 等待现有请求处理完成(超时 30 秒)
|
||
3. 停止 Worker
|
||
4. 关闭数据库连接池
|
||
5. 退出进程
|
||
|
||
### 3.3 配置管理
|
||
|
||
- 配置文件 `config.yaml` + 环境变量覆盖。
|
||
- LLM API Key 仅通过环境变量传入。
|
||
- 模型供应商配置、意图置信度阈值、转人工触发条件等可热更新。
|
||
|
||
---
|
||
|
||
## 4. 灾备设计
|
||
|
||
### 4.1 数据库灾备
|
||
|
||
| 策略 | 方案 | RTO | RPO |
|
||
|------|------|-----|-----|
|
||
| 主库故障 | 自动切换至备库 | < 5 min | < 1 min |
|
||
| 逻辑损坏 | 从备库恢复 + 审计日志回放 | < 30 min | < 1 min |
|
||
|
||
### 4.2 应用层灾备
|
||
|
||
| 场景 | 处理 |
|
||
|------|------|
|
||
| API Server 单机故障 | 负载均衡自动移除,剩余节点继续服务 |
|
||
| LLM 主供应商故障 | 5 秒内切换至备用供应商 |
|
||
| 双 LLM 故障 | 返回兑底回复 + 自动生成工单 |
|
||
| Redis 故障 | 会话状态丢失,用户需要重新发起会话(接受) |
|
||
| 向量数据库故障 | 知识库检索降级为关键词匹配,不影响核心对话 |
|
||
| 数据库连接池耗尽 | 进入降级模式:仅返回静态 FAQ 链接 |
|
||
|
||
### 4.3 多中心部署
|
||
|
||
- 当前阶段为单中心部署。
|
||
- 未来扩展至多中心时,需要解决 PostgreSQL 分布式写入、Redis 主从同步和 WebSocket 连接的跨中心问题。
|