服务架构简介

这篇页面帮助你理解请求从客户应用到模型服务的基本路径,以及区域、接入点和模型能力之间的关系。它描述的是面向客户的服务架构,不包含机房地址、节点规模或内部组件等敏感实现细节。

信息

接入时只需要使用平台提供的 API 接入点、认证方式和模型 ID。平台会根据已开通的服务能力和路由策略选择实际处理区域;具体可用区域以项目开通方案和当前控制台配置为准。

1. 整体架构

Modelink 构建了包含中国大陆、中国香港、东南亚和北美的多区域服务网络,为客户提供统一、稳定且可扩展的模型服务接入能力。

客户无需感知底层机房、网络结构和服务部署差异。平台会综合客户访问位置、目标服务能力、区域可用性和业务路由策略,将请求调度至合适的服务区域。

整体架构遵循以下设计原则:

  • 统一接入:通过标准化服务入口对外提供能力,降低客户接入复杂度。
  • 区域承载:服务可按业务需要部署在不同区域,并优先在适合的区域完成处理。
  • 智能调度:根据服务能力和区域状态,在本区域处理或进行跨区域协同。
  • 弹性扩展:可随客户规模、业务增长和区域需求持续扩展服务能力。

2. 服务区域覆盖

Modelink 的服务架构覆盖以下区域:

服务区域区域定位典型应用场景
中国大陆中国大陆区域服务承载中国大陆客户统一接入、本地服务处理及其他区域能力调用
中国香港中国大陆以外接入与路由枢纽跨区域访问接入、链路中转及区域协同
东南亚亚太区域服务承载亚太客户就近访问及区域模型服务处理
北美北美区域服务承载北美客户就近访问及中国大陆以外服务能力协同

各区域可根据客户项目需要配置相应的模型和服务能力。具体服务范围以双方确认的开通方案为准。

3. 全球服务网络

flowchart LR
    U["客户业务系统"] --> E["统一服务入口"]
    E --> R{"智能路由与<br/>服务编排"}

    R --> CN["中国大陆<br/>区域服务"]
    R --> HK["中国香港<br/>接入与路由枢纽"]
    R --> SEA["东南亚<br/>区域服务"]
    R --> NA["北美<br/>区域服务"]

    CN <--> X["跨区域服务协同"]
    HK <--> X
    SEA <--> X
    NA <--> X

    classDef entry fill:#EAF2FF,stroke:#4472C4,color:#183153,stroke-width:1.5px;
    classDef route fill:#FFF4DE,stroke:#C98B2E,color:#5C3B08,stroke-width:1.5px;
    classDef region fill:#EDF7ED,stroke:#4F8A5B,color:#234A2C,stroke-width:1.2px;
    classDef coord fill:#F4F1FA,stroke:#7966A8,color:#3D315B,stroke-width:1.2px;

    class U,E entry;
    class R route;
    class CN,HK,SEA,NA region;
    class X coord;

该网络以统一服务入口屏蔽区域差异,由路由与服务编排能力选择合适的处理区域。各服务区域既可以独立承载业务,也可以通过跨区域协同机制共享已开通的模型服务能力。

4. 中国大陆服务链路

中国大陆客户通过统一服务入口发起请求。请求进入中国大陆接入网关后,由平台完成身份校验、流量调度和服务路由,并将请求转发至相应的模型服务。

4.1 中国大陆区域内处理

当目标能力已在中国大陆服务区域开通时,请求优先在中国大陆完成处理:

客户应用 → 中国大陆统一入口 → 接入网关 → 中国大陆模型服务 → 结果返回

4.2 中国大陆调用其他区域能力

当业务需要使用中国香港、东南亚或北美的服务能力时,平台通过统一的跨区域服务链路完成调度:

客户应用 → 中国大陆统一入口 → 接入网关 → 跨区域调度 → 目标区域服务 → 结果返回

整个过程中,客户仍通过统一接口调用服务,无需单独适配其他区域的内部网络和部署方式。

5. 中国大陆以外的服务链路

中国大陆以外的客户通过适合其业务区域的服务入口访问 Modelink。平台优先选择中国香港、东南亚或北美的相应服务区域完成请求处理,以减少不必要的跨区域转发。

5.1 区域内处理

当当前区域具备目标服务能力时,请求直接在对应区域完成:

中国大陆以外的客户 → 区域服务入口 → 区域接入网关 → 模型服务 → 结果返回

5.2 跨区域协同

当目标能力由其他区域承载时,平台通过区域协同机制完成服务调用:

中国大陆以外的客户 → 区域服务入口 → 区域接入网关 → 跨区域调度 → 目标区域服务 → 结果返回

对客户而言,两种模式保持一致的调用方式,区域选择和链路调度由平台统一完成。

6. 统一请求处理流程

无论请求从哪个区域进入,平台都会经过统一的接入和调度流程。实际处理区域由服务能力、区域可用性和路由策略共同决定,不应根据客户入口地址推断模型一定在哪个区域执行。

flowchart TD
    C["客户请求"] --> A["统一服务入口"]
    A --> G["区域接入网关"]
    G --> P["身份校验、流量调度与服务路由"]
    P --> D{"当前区域是否具备<br/>目标服务能力"}

    D -->|"具备"| L["区域内模型服务"]
    D -->|"需要区域协同"| X["跨区域调度"]
    X --> T["目标区域模型服务"]

    L --> O["统一响应"]
    T --> O
    O --> B["返回客户业务系统"]

    classDef entry fill:#EAF2FF,stroke:#4472C4,color:#183153,stroke-width:1.5px;
    classDef process fill:#F5F7F9,stroke:#7B8794,color:#263238,stroke-width:1.2px;
    classDef decision fill:#FFF4DE,stroke:#C98B2E,color:#5C3B08,stroke-width:1.5px;
    classDef service fill:#EDF7ED,stroke:#4F8A5B,color:#234A2C,stroke-width:1.2px;
    classDef coord fill:#F4F1FA,stroke:#7966A8,color:#3D315B,stroke-width:1.2px;

    class C,A,B entry;
    class G,P,O process;
    class D decision;
    class L,T service;
    class X coord;

7. 核心架构能力

7.1 标准化服务接入

平台通过统一的区域服务入口对外提供能力。客户按照约定的标准接口完成一次接入,即可使用已开通的模型服务,无需关注底层资源位置和服务实例变化。

7.2 区域化服务承载

模型服务可根据客户分布、业务特点和合规要求部署在适合的区域。平台优先进行区域内处理,并在必要时启用跨区域协同。

7.3 智能路由与服务编排

平台根据目标模型、区域可用性和服务状态进行动态路由,将请求分发至具备相应能力的服务区域,从而提升整体资源利用效率和服务连续性。

7.4 高可用与弹性扩展

接入层和服务层采用冗余与弹性部署机制,并通过网关完成流量分配和异常切换。服务能力可根据业务规模进行横向扩展,以支持不断增长的访问需求。

7.5 多模型统一管理

平台可在统一服务框架下承载多种模型能力,并结合客户授权范围、区域可用性和路由策略完成服务分发,为客户提供一致的调用体验。

8. 客户价值

  • 接入更简单:统一接口屏蔽区域和底层部署差异,减少重复适配工作。
  • 覆盖更广泛:服务网络覆盖中国大陆、中国香港、东南亚和北美等业务区域。
  • 访问更灵活:支持区域内处理、跨区域调用以及中国大陆以外客户的区域化接入。
  • 服务更稳定:通过冗余部署、动态路由和区域协同提升服务连续性。
  • 扩展更便捷:可根据客户发展节奏持续扩展区域和模型服务能力。

9. 服务范围说明

各服务区域实际开放的模型能力、访问方式和服务范围可能有所不同。正式交付时,以双方确认的服务清单、部署区域、访问方案及服务等级约定为准。


接入前确认

正式接入前,建议确认以下信息:

  • 使用哪个 API 接入点,以及该接入点对应的服务区域。
  • 目标模型是否已在项目中开通,以及应使用哪个模型 ID。
  • 当前业务是否对数据处理区域、跨区域调用或网络出口有明确要求。
  • 发生超时、限流或模型不可用时,应通过哪个协作渠道联系平台排查。

本文档用于向客户说明 Modelink 的整体区域覆盖和服务访问链路。具体域名、机房代号、节点规模、服务器配置、网络地址及内部组件等实现细节不在本文档披露范围内。