服务架构简介
这篇页面帮助你理解请求从客户应用到模型服务的基本路径,以及区域、接入点和模型能力之间的关系。它描述的是面向客户的服务架构,不包含机房地址、节点规模或内部组件等敏感实现细节。
信息
接入时只需要使用平台提供的 API 接入点、认证方式和模型 ID。平台会根据已开通的服务能力和路由策略选择实际处理区域;具体可用区域以项目开通方案和当前控制台配置为准。
1. 整体架构
Modelink 构建了包含中国大陆、中国香港、东南亚和北美的多区域服务网络,为客户提供统一、稳定且可扩展的模型服务接入能力。
客户无需感知底层机房、网络结构和服务部署差异。平台会综合客户访问位置、目标服务能力、区域可用性和业务路由策略,将请求调度至合适的服务区域。
整体架构遵循以下设计原则:
- 统一接入:通过标准化服务入口对外提供能力,降低客户接入复杂度。
- 区域承载:服务可按业务需要部署在不同区域,并优先在适合的区域完成处理。
- 智能调度:根据服务能力和区域状态,在本区域处理或进行跨区域协同。
- 弹性扩展:可随客户规模、业务增长和区域需求持续扩展服务能力。
2. 服务区域覆盖
Modelink 的服务架构覆盖以下区域:
| 服务区域 | 区域定位 | 典型应用场景 |
|---|---|---|
| 中国大陆 | 中国大陆区域服务承载 | 中国大陆客户统一接入、本地服务处理及其他区域能力调用 |
| 中国香港 | 中国大陆以外接入与路由枢纽 | 跨区域访问接入、链路中转及区域协同 |
| 东南亚 | 亚太区域服务承载 | 亚太客户就近访问及区域模型服务处理 |
| 北美 | 北美区域服务承载 | 北美客户就近访问及中国大陆以外服务能力协同 |
各区域可根据客户项目需要配置相应的模型和服务能力。具体服务范围以双方确认的开通方案为准。
3. 全球服务网络
flowchart LR
U["客户业务系统"] --> E["统一服务入口"]
E --> R{"智能路由与<br/>服务编排"}
R --> CN["中国大陆<br/>区域服务"]
R --> HK["中国香港<br/>接入与路由枢纽"]
R --> SEA["东南亚<br/>区域服务"]
R --> NA["北美<br/>区域服务"]
CN <--> X["跨区域服务协同"]
HK <--> X
SEA <--> X
NA <--> X
classDef entry fill:#EAF2FF,stroke:#4472C4,color:#183153,stroke-width:1.5px;
classDef route fill:#FFF4DE,stroke:#C98B2E,color:#5C3B08,stroke-width:1.5px;
classDef region fill:#EDF7ED,stroke:#4F8A5B,color:#234A2C,stroke-width:1.2px;
classDef coord fill:#F4F1FA,stroke:#7966A8,color:#3D315B,stroke-width:1.2px;
class U,E entry;
class R route;
class CN,HK,SEA,NA region;
class X coord;该网络以统一服务入口屏蔽区域差异,由路由与服务编排能力选择合适的处理区域。各服务区域既可以独立承载业务,也可以通过跨区域协同机制共享已开通的模型服务能力。
4. 中国大陆服务链路
中国大陆客户通过统一服务入口发起请求。请求进入中国大陆接入网关后,由平台完成身份校验、流量调度和服务路由,并将请求转发至相应的模型服务。
4.1 中国大陆区域内处理
当目标能力已在中国大陆服务区域开通时,请求优先在中国大陆完成处理:
客户应用 → 中国大陆统一入口 → 接入网关 → 中国大陆模型服务 → 结果返回
4.2 中国大陆调用其他区域能力
当业务需要使用中国香港、东南亚或北美的服务能力时,平台通过统一的跨区域服务链路完成调度:
客户应用 → 中国大陆统一入口 → 接入网关 → 跨区域调度 → 目标区域服务 → 结果返回
整个过程中,客户仍通过统一接口调用服务,无需单独适配其他区域的内部网络和部署方式。
5. 中国大陆以外的服务链路
中国大陆以外的客户通过适合其业务区域的服务入口访问 Modelink。平台优先选择中国香港、东南亚或北美的相应服务区域完成请求处理,以减少不必要的跨区域转发。
5.1 区域内处理
当当前区域具备目标服务能力时,请求直接在对应区域完成:
中国大陆以外的客户 → 区域服务入口 → 区域接入网关 → 模型服务 → 结果返回
5.2 跨区域协同
当目标能力由其他区域承载时,平台通过区域协同机制完成服务调用:
中国大陆以外的客户 → 区域服务入口 → 区域接入网关 → 跨区域调度 → 目标区域服务 → 结果返回
对客户而言,两种模式保持一致的调用方式,区域选择和链路调度由平台统一完成。
6. 统一请求处理流程
无论请求从哪个区域进入,平台都会经过统一的接入和调度流程。实际处理区域由服务能力、区域可用性和路由策略共同决定,不应根据客户入口地址推断模型一定在哪个区域执行。
flowchart TD
C["客户请求"] --> A["统一服务入口"]
A --> G["区域接入网关"]
G --> P["身份校验、流量调度与服务路由"]
P --> D{"当前区域是否具备<br/>目标服务能力"}
D -->|"具备"| L["区域内模型服务"]
D -->|"需要区域协同"| X["跨区域调度"]
X --> T["目标区域模型服务"]
L --> O["统一响应"]
T --> O
O --> B["返回客户业务系统"]
classDef entry fill:#EAF2FF,stroke:#4472C4,color:#183153,stroke-width:1.5px;
classDef process fill:#F5F7F9,stroke:#7B8794,color:#263238,stroke-width:1.2px;
classDef decision fill:#FFF4DE,stroke:#C98B2E,color:#5C3B08,stroke-width:1.5px;
classDef service fill:#EDF7ED,stroke:#4F8A5B,color:#234A2C,stroke-width:1.2px;
classDef coord fill:#F4F1FA,stroke:#7966A8,color:#3D315B,stroke-width:1.2px;
class C,A,B entry;
class G,P,O process;
class D decision;
class L,T service;
class X coord;7. 核心架构能力
7.1 标准化服务接入
平台通过统一的区域服务入口对外提供能力。客户按照约定的标准接口完成一次接入,即可使用已开通的模型服务,无需关注底层资源位置和服务实例变化。
7.2 区域化服务承载
模型服务可根据客户分布、业务特点和合规要求部署在适合的区域。平台优先进行区域内处理,并在必要时启用跨区域协同。
7.3 智能路由与服务编排
平台根据目标模型、区域可用性和服务状态进行动态路由,将请求分发至具备相应能力的服务区域,从而提升整体资源利用效率和服务连续性。
7.4 高可用与弹性扩展
接入层和服务层采用冗余与弹性部署机制,并通过网关完成流量分配和异常切换。服务能力可根据业务规模进行横向扩展,以支持不断增长的访问需求。
7.5 多模型统一管理
平台可在统一服务框架下承载多种模型能力,并结合客户授权范围、区域可用性和路由策略完成服务分发,为客户提供一致的调用体验。
8. 客户价值
- 接入更简单:统一接口屏蔽区域和底层部署差异,减少重复适配工作。
- 覆盖更广泛:服务网络覆盖中国大陆、中国香港、东南亚和北美等业务区域。
- 访问更灵活:支持区域内处理、跨区域调用以及中国大陆以外客户的区域化接入。
- 服务更稳定:通过冗余部署、动态路由和区域协同提升服务连续性。
- 扩展更便捷:可根据客户发展节奏持续扩展区域和模型服务能力。
9. 服务范围说明
各服务区域实际开放的模型能力、访问方式和服务范围可能有所不同。正式交付时,以双方确认的服务清单、部署区域、访问方案及服务等级约定为准。
接入前确认
正式接入前,建议确认以下信息:
- 使用哪个 API 接入点,以及该接入点对应的服务区域。
- 目标模型是否已在项目中开通,以及应使用哪个模型 ID。
- 当前业务是否对数据处理区域、跨区域调用或网络出口有明确要求。
- 发生超时、限流或模型不可用时,应通过哪个协作渠道联系平台排查。
本文档用于向客户说明 Modelink 的整体区域覆盖和服务访问链路。具体域名、机房代号、节点规模、服务器配置、网络地址及内部组件等实现细节不在本文档披露范围内。