安全治理概览

在生产环境接入 Modelink 时,除了完成工程集成,还需要提前设计数据、权限、审计、内容安全和行业合规策略。

基本原则

  • 密钥只保存在服务端或安全密钥管理系统中。
  • 权限按最小权限原则分配。
  • 生产变更、工具调用和高风险动作应保留审计记录。
  • 敏感数据进入模型前应评估脱敏、授权和合规要求。
  • 医疗、金融、法律等高风险场景应增加人工审核。

治理分层

层级关注点建议做法
账号与组织成员、角色、团队边界按团队或业务线分配权限,离职或转岗及时回收
API Key环境、应用、租户隔离开发、测试、生产密钥分开,按用途命名
请求链路输入、输出、工具调用记录请求 ID、模型、耗时、状态码和工具调用摘要
数据安全隐私、商业秘密、客户数据输入前脱敏,日志中避免保存完整上下文
内容安全对外输出、版权、合规高风险场景增加审核、引用和人工复核

数据安全

  • 通过 HTTPS 访问 Modelink 接入点,避免明文传输。
  • 不在日志中记录完整密钥、隐私数据和敏感上下文。
  • 对用户输入、文件、图片和业务数据做分类分级。
  • 对需要长期保存的数据明确保留周期和删除策略。
  • 遵守平台服务条款和数据安全承诺。

Agent 与工具调用治理

Agent 可以读取文件、执行命令、访问网页或调用业务系统,因此需要比普通问答更严格的边界:

  • 默认只读,按任务逐步放开写入、命令执行和网络访问。
  • .env、密钥文件、生产配置、客户数据目录设置拒绝规则。
  • 高风险动作使用人工确认,例如删除文件、变更生产配置、调用外部系统。
  • 记录每一次工具调用的名称、参数摘要、结果状态和人工确认记录。

内容与版权

AI 生成内容建议作为辅助结果使用。对对外发布、商业宣传、医疗金融建议、法律意见等场景,应进行人工审核、事实核查和必要的版权合规评估。

上线前检查清单

[ ] 生产 API Key 不在代码仓库、镜像和前端包中
[ ] 开发、测试、生产环境使用不同密钥
[ ] 日志不会输出完整请求体、密钥、隐私数据和敏感上下文
[ ] 已设置超时、重试、限流、降级和告警
[ ] 已记录请求 ID、模型、状态码、耗时和用量
[ ] Agent / MCP 工具已配置最小权限和审计
[ ] 对外输出经过必要审核和版权合规评估