AI 接入与网关术语表

AI 接入与网关领域的常见术语,一句话讲清 —— 帮你看懂宣传背后的真实差别。

AI 网关

位于应用与大模型之间的统一接入层,用一个入口接通多家模型,统一处理路由、鉴权、配额、可观测与数据控制。详解 →

AI 接入层

把"如何接通并管理大模型"抽象成的一层,让上层应用只面对一个稳定接口。

官方通道

通过模型提供方的官方 API 接入,非逆向、不掺水,得到完整、可追溯的模型能力。

满血模型

未被降级、未被替换、上下文完整的原版模型能力,与"降智"相对。

Token

大模型处理文本的基本计量单位,调用成本与用量通常按 token 计。

上下文窗口

模型一次调用能处理的输入与输出 token 上限;被悄悄缩短会影响长文任务。

Token 治理与配额

按团队或项目分配用量额度、密钥与权限,配合超额拦截与用量可视,把成本管得住。

独立节点

不依赖共享或拼车账号的专属运行节点;稳定靠自有监控与恢复,不靠运气。

可观测性

对调用、用量与成本的可见与可对账能力,便于排障、报销与审计。

数据边界

规定客户数据如何被处理的界线 —— 不截取、不转卖、不用于训练,通常写进合同。

中转(中转站)

在你与模型之间转发请求的第三方服务;便宜中转常靠逆向与共享账号压价。对比 →

逆向接口

非经官方授权、通过逆向手段访问模型的方式,稳定性与合规性都存疑。

降智

把请求悄悄路由到更弱或更便宜的模型,使实际能力低于宣称。

掺水

以次充好 —— 用替身或残缺配置冒充旗舰模型。

兼容接口(OpenAI 兼容)

沿用 OpenAI 等主流接口约定,改 base_url 即可接入,现有 SDK 基本照旧。

落地实施

不止接通,还包括验证、提示词、配额、复核与上线,把模型真正用进业务。