ModelTrust
菜单

指南 / OpenAI 兼容接口

如何测试 OpenAI 兼容接口?

面向 OpenAI 兼容 Chat Completions 端点的实用检查清单。

简要回答

准备公开 HTTPS Base URL、准确的模型声明和权限受限的 API key。发送小型有限请求,检查 HTTP 与 JSON 结构,再比较多次样本的可用率、延迟、返回标识、结束原因和用量信息。

发送请求之前

先确认端点文档、费用责任、模型名称和密钥权限范围。不要把拥有全局管理权限的生产密钥提交给不熟悉的工具。

协议检查

兼容端点应返回预期状态和 Chat Completions 响应结构。能够接收相同路径,并不等于完整兼容。

  • HTTPS 与安全公网地址
  • 兼容的 choices 与 message 字段
  • 返回的模型标识
  • 结束原因与用量信息

重复同一个控制请求

一次成功调用说明不了太多。重复发送小型控制请求,可以发现间歇性失败,并得到有限的延迟分布。

如何解释报告

把结果视为短时间诊断窗口中的证据。发现异常后,应在自己的运行环境中复测,再决定是否用于生产。

运行一次有限兼容性检查。

ModelTrust 当前发送 3 次小型请求,只保留标准化证据,并在 30 分钟后删除报告。