Guides
生产接入最佳实践
51cowork 提供模型网关;业务服务仍需自己负责凭据、队列和日志治理。
服务端保存 Key,短缓存模型目录,限制输入和并发,记录脱敏 request_id,并把余额和错误率纳入运维。
- 凭据
- 服务端 Secret
- 日志
- 脱敏 request_id
- 输入
- 长度边界
- 成本
- Usage + balance
安全基线
- Key 不进入 URL、前端、日志和分析事件。
- 按环境隔离 Secret,替换后更新全部客户端。
- 支持用户输入的业务服务应自行做长度和内容限制。
可靠性
- 设置连接、读取和整体请求超时。
- 传播取消信号,避免客户端断开后继续消耗额度。
- 429、临时 5xx 和网络错误才允许有限退避。
可观测性与成本
- 记录自己的业务请求 ID、网关 request_id、模型和状态。
- 不要默认记录 Prompt、完整响应或完整 Key。
- 定期读取 Usage 和余额,额度耗尽前补充。
