先记一个排查顺序
大多数问题都可以按这个顺序查:base_url → path → api_key → model → 请求体 → 输出格式 → 超时/流式。不要一上来就怀疑模型,很多时候只是地址或字段写错了。
很多人接 OpenAI 兼容接口时,不是不会调,而是调起来总会遇到各种报错:401、404、model not found、stream 卡住、JSON 解析失败。這篇文章把最常见的问题和排查顺序整理清楚,适合直接作为接入排障手册。
大多数问题都可以按这个顺序查:base_url → path → api_key → model → 请求体 → 输出格式 → 超时/流式。不要一上来就怀疑模型,很多时候只是地址或字段写错了。
这是最常见的错误之一,通常说明令牌、鉴权头或权限有问题。
Authorization: Bearer sk-xxx404 大多数不是服务挂了,而是路径拼错了。
正确示例:
https://api.bangban.xin/v1/chat/completions
/v1/chat/completions 写成别的路径这类问题通常是模型名不匹配,不一定是平台完全不可用。
如果普通请求能返回,但 stream 有问题,常见原因在中间层。
这通常不是 API 故障,而是你期待结构化输出,但模型实际回了一段自然语言。
你是结构化输出助手。
只输出 JSON,不要附加解释。
格式如下:
{"category":"...","summary":"..."}
如果业务流程依赖字段解析,提示词一定要收紧。
常见于知识库、长文档、聊天历史太长的场景。
curl https://api.bangban.xin/v1/chat/completions \
-H "Authorization: Bearer sk-your-token" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o-mini",
"messages": [
{"role": "user", "content": "你好"}
]
}'
先让这个最小请求通,再去加流式、JSON 输出、上下文、工具调用。
搜索错误码的人,大多已经在接入阶段了,意图非常强。相比泛泛讲“什么是 AI Gateway”,这种排障文章更容易吃到精准流量,也更容易把用户带到文档页和教程页。