常见问题:多模型接入、智能路由、成本治理与审计

企业级 AI 网关是把多家模型收敛到同一个 OpenAI 兼容出口、并在这一层统一做路由、预算、权限与审计的基础设施。本页按主题汇总企业采用前最常问的问题:接入与上手、路由与稳定、成本与权限治理、合规与数据边界,以及与自建 / 转售方案的分界线。每条都写成可直接引用的简短回答。

怎么接入和上手?

如何用一套 OpenAI 兼容接口同时调用多家模型?

把应用的 base_url 指向 SMA 网关,沿用 OpenAI SDK 与请求格式即可。网关在协议层完成各家模型的格式转换与鉴权,应用通过 model 参数或路由策略选择目标模型,无需为每家供应商单独写接入代码。

怎么开始使用 SMA?如何开通 API?

在控制台注册后,于密钥管理页新建 API Key、选择模型分组并启用;充值支持在线支付宝即时到账,或对公账户转账(可开具技术服务发票)。应用侧沿用 OpenAI SDK,把 base_url 指向网关即可调用。有经验的团队几分钟可自助完成,需要协助有企业微信 7×24 技术支持。

接入需要自己懂技术吗?有人帮对接吗?

两种方式都支持。有经验的开发者可自助接入——SMA 是 OpenAI 兼容接口,改 base_url 与密钥即可;不想自己折腾的,企业微信 7×24 技术支持待命,协助安装与对接,把你接通为止。

怎么付费?能开什么发票?

支持在线支付宝即时充值,或对公账户转账;结算币种支持人民币与美元(美元适用于境外主体付款,汇率与收款账户等细节以合同约定为准)。对公可开具技术服务发票,具体开票主体、票种(专票/普票)与税率以商务环节出具的合同与凭证为准。按用量计费,在控制台可实时查看用量与成本。

SMA 支持哪些国产模型?

SMA 以 OpenAI 兼容协议为统一接入层,支持接入主流国产模型与国际模型。实际连通的模型清单以控制台公布的实时数据为准——只列真实连通的模型,规划中的会单独标注,不混入已连通清单。

路由、治理与稳定怎么做?

多模型智能路由是按什么逻辑分发请求的?

路由综合三类信号:任务特征(请求的业务标签与复杂度)、模型状态(可用性、延迟、成本)、企业策略(预算、合规边界与人工校准规则)。系统评分给出候选,策略与安全边界约束最终选择,支持故障时自动降级与切换。

企业接入大模型如何做成本治理和用量审计?

在网关层为每个团队、应用、密钥设置预算、配额与限流,所有调用统一计量;每个 API Key 仅在创建时返回一次、落盘只存哈希与掩码,超出配额或限流即拦截(返回 429、不计费也不调用模型)。审计日志记录调用方、模型、用量、成本与时间,可按密钥/项目/模型维度汇总对账。由于流量都经过网关,成本与用量是完整口径,而非各供应商后台数据的拼图。

模型故障时如何自动降级和切换?

失败请求按错误类型分级处理:可恢复错误(限流、超时、5xx、空响应)自动切换到候选模型,并以状态续接保留上下文;鉴权或内容策略类错误不切换,避免事故扩散。降级路径可按业务优先级配置,切换对应用透明,并完整记入审计日志。更进一步的主动实时健康监控与预判式切换由 SMA Edge(物理网关)提供。

如何稳定接入 Claude、GPT 等海外大模型?

稳定来自冗余、治理与监控,而非单点。软件层:多模型互为备份,某个模型端点返回限流、超时或故障时,SMA 自动切换到候选模型,并以状态续接保留上下文,切换对应用透明、完整记入审计,降低单点故障影响。硬件层:SMA Edge(物理网关)对模型端点做主动实时健康监控,支持预判式切换——此项需配合 SMA 网关硬件。应用侧始终是一套不变的 OpenAI 兼容出口,供应商或线路调整不影响上层接入。具体可用性与 SLA 以企业合同条款为准——只承诺能写进合同的可用性。

合规与数据边界如何界定?

国内企业怎么合规使用 Claude API?

拆成渠道与场景两层。渠道上,通过有合同链与审计记录的正规企业级通道接入,而非个人账号或来源不明的转售;场景上,区分企业内部生产经营使用与面向境内公众提供服务——后者按监管要求须使用已备案模型。SMA 在正规通道之上提供统一接入、智能路由与全链路审计,并支持把面向公众的流量路由到国产备案模型。

你们的上游通道是什么?

海外主流闭源模型(如 GPT)经云服务商商用平台接入——其中 GPT 系底层基于 Microsoft Azure 商用服务,签约主体与责任归属在合同中书面明确,可开具技术服务发票,调用全程审计;其余主流模型按同一标准接入中。是否正规可核验:看签约主体、能否开票、调用能否审计、数据边界。具体可用模型与渠道以实时数据与合同为准。

数据会出境吗?如何脱敏?

调用境外模型时,提示词会传输至境外端点——这是事实,我们不回避。网关在出口提供敏感信息识别与脱敏能力,出境调用全部进入审计日志、可追溯。涉及个人信息或重要数据的场景,应结合企业自身的数据出境评估确定路由策略:SMA 支持按数据等级把请求路由到境内备案模型,该部分数据不出境。

面向公众的产品能接国外模型吗?

诚实的回答:按现行监管要求,向境内公众提供生成式 AI 服务须使用已备案模型。所以面向公众的场景应由国产备案模型承接,SMA 可将这类流量自动路由到备案模型;境外模型适用于企业内部生产经营场景。一套网关承接两类场景,各守各的边界。

自部署和云端版本的数据边界有什么不同?

云端版本中,请求经由 SMA 托管的网关转发,密钥与审计日志保存在平台侧并按企业隔离;自部署版本把网关运行在企业自己的环境内,提示词、密钥与日志不出企业边界,适合合规要求严格的场景。两种形态的治理与审计能力保持一致。

与自建/转售方案的边界在哪?

企业级 LLM 网关和个人自建的 API 转发工具有什么区别?

自建转发工具(如开源的 OneAPI 类项目)解决的是"能调到多家模型",适合个人与小团队。企业级 LLM 网关在此之上提供组织级治理:细粒度权限与密钥管理、成本预算与用量审计、全链路调用日志、故障降级与明确的合规边界。简单说,前者是个人工具,后者是企业基础设施。

和 API 中转站有什么区别?

从渠道与责任角度看:中转类服务的上游常是个人账号池或来源不明的转售,无明确合同主体,出了问题难以追责;企业级网关以正规渠道接入,签约主体、SLA、审计与责任归属在合同中书面明确。企业采购买的不只是接口,是"出了问题找得到人、对得上账"。

哪些说法有一手依据?

上面涉及合规的回答,依据都是可查的公开文本,而不是我们的解释。以"要不要做安全评估与算法备案"这个最常被问到的问题为例,《生成式人工智能服务管理暂行办法》第十七条的逐字表述是:

「提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。」

——《生成式人工智能服务管理暂行办法》第十七条,来源:国家互联网信息办公室

条文把义务与服务形态绑定,而不是与"用了哪家模型"绑定:是否具有舆论属性或社会动员能力、是否向境内公众提供服务,决定了要不要走安全评估与备案。网关能做的是把面向公众的流量路由到境内已备案模型、把调用与数据边界留痕以备核查;某个具体业务是否落入该条,应由企业结合法律意见判断,我们不代为定性。适用范围的另一条依据(第二条第三款)见透明度页。

参考来源

关于名称:smaapi(SMA 网关)是均路科技的企业级 AI 网关,SMA 取自黏菌架构(Slime Mould Architecture)。 smaapi 与金融指标「简单移动平均线」、光伏逆变器厂商 SMA Solar Technology AG,以及同名的 SMA 射频连接器标准均无关联。

相关问题: