排障概览

遇到调用失败、响应变慢、模型不可用或回答质量异常时,可以先按下面的清单定位问题,再进入 FAQ 查看更具体的问答。

快速检查清单

  • API Key 是否正确、有效且未泄露。
  • Base URL 是否选择了合适接入点。
  • 请求头是否包含正确认证信息。
  • 请求体是否为合法 JSON。
  • 模型是否存在、可用且具备目标能力。
  • 是否触发 QPS、并发、上下文长度、输出长度或内容安全限制。
  • 是否存在网络延迟、输入过长、模型计算复杂或非流式等待导致的慢请求。

常见状态码

HTTP 状态码常见原因处理建议
400请求格式、参数或输入不符合要求检查 JSON、必填字段、模型名称、输入格式、消息体大小和上下文长度
401凭证缺失、无效或过期检查 API Key、请求头、密钥状态和环境配置
402余额或可用额度不足检查账户余额、可用额度、计费方式和预算限制
403已认证但权限不足、账号状态异常或模型不可用检查账号认证状态、项目角色、模型权限、资源访问范围和风控状态
404资源、路径、模型或环境错误检查接入点、路径、模型 ID 和资源标识
429请求频率、并发、RPM、TPM 或每日 token 限制过高降低并发、排队、指数退避,必要时申请更高配额
5xx服务端或上游依赖异常记录请求 ID,短暂重试,持续失败时联系支持

慢请求排查

可能原因优化方向
网络延迟选择更近的接入点,检查本地网络和服务器区域
输入过长删除无关上下文,先摘要再处理,使用缓存
模型计算复杂简单任务使用轻量模型,复杂任务才使用高能力模型
非流式等待对交互场景启用流式输出,改善首字响应体验
并发过高增加队列、限流和超时控制

回答质量问题

常见原因包括 Prompt 模糊、缺少上下文、模型能力不匹配、实时信息缺失或任务过于复杂。可尝试:

  • 明确任务目标、输出格式和限制条件。
  • 补充业务背景、文档或实时数据。
  • 切换更适合的模型。
  • 对事实性结果引入搜索、引用或人工复核。

请求日志排查

控制台请求日志通常可按时间范围、API Key、模型和响应状态筛选。建议:

  • 单次排查选择尽量精确的时间范围,数据量较大时分段查询。
  • 本地日志记录请求 ID、状态码、模型、耗时、错误信息和调用方。
  • 本地未记录请求 ID 时,可按请求时间、API Key、模型和响应状态在控制台反查。
  • 提交工单时只提供请求 ID、时间、模型和错误摘要,不要提供完整 API Key。

重试和升级处理

  • 429 和部分 5xx 可采用指数退避重试。
  • 400401403 通常需要修正请求、密钥、认证状态或权限。
  • 写操作重试前应确认业务幂等性,避免重复创建资源或重复扣费。
  • 联系支持时保留请求 ID、时间、状态码、模型、错误信息和最小复现步骤。