DeepSeek 使用说明

DeepSeek 系列模型适合高性价比推理、代码和通用文本任务,可通过 Modelink 统一接入点调用。

Batch 批量推理能力

DeepSeek 原厂模型本身并不提供 Batch API,也未将「批量推理」作为模型的原生能力对外发布。

Modelink 提到的 Batch 能力并非模型能力,而是平台侧提供的一种业务层能力:在不改变模型行为的前提下,由平台在请求调度、并发控制和结果聚合层面进行封装,从而支持多请求的批量处理,提升调用效率和资源利用率。

因此:

  • 模型能力仍然完全遵循 DeepSeek 原厂规范。
  • Batch 仅是平台级能力扩展,并不等同、也不替代模型原生功能。

如需进一步了解该能力的实现方式、适用场景或限制条件,可联系技术支持团队。