Guides
Практики для production
51cowork предоставляет Gateway и лимит; ваш сервис отвечает за Secret, очередь и управление логами.
Храните Key на сервере, кэшируйте список моделей ненадолго, ограничивайте input/concurrency и следите за Usage и балансом.
- Key
- Server Secret
- Логи
- Sanitized request_id
- Input
- Ограничения длины
- Стоимость
- Usage + balance
Базовая безопасность
- Не помещайте Key в URL, frontend, логи и аналитику.
- Изолируйте Secret по окружениям и обновляйте всех клиентов после замены.
- Ограничивайте длину и содержание пользовательского ввода.
Надёжность
- Задайте connection, read и overall timeout.
- Передавайте отмену, чтобы отключившийся клиент не продолжал расход.
- Ограниченный backoff только для 429, временного 5xx и сети.
Наблюдаемость и стоимость
- Записывайте business ID, gateway request_id, model и status.
- Не логируйте Prompt, полный ответ и полный Key по умолчанию.
- Регулярно проверяйте Usage и баланс, пополняйте заранее.