生成式AI服务管理暂行办法:企业用AI要守的几条线

《生成式人工智能服务管理暂行办法》施行后,企业用 AI 从"要不要用"变成了"怎么合规地用"。面向公众提供生成式服务和不面向公众的内部使用,义务差别很大,先分清自己属于哪一类。

面向公众提供服务要注意什么?

需要履行算法备案等手续,并且对生成内容承担主体责任。落到实操层面:

  • 训练数据要合法:来源不得侵犯知识产权,涉及个人信息的要有合法依据。
  • 内容要可标识:AI 生成的图片、文本按国家规定添加标识。
  • 要有处置机制:用户投诉违规内容,能停、能改、能追溯。

企业内部使用就没义务吗?

义务轻,但不是零。内部使用仍要注意三件事:输入Prompt里的数据可能流向外部模型服务——涉密和敏感经营数据要明确禁止外发,或采用私有化部署;AI 生成内容用于对外文件时要人工复核,责任在人不在 AI;员工用 AI 生成的代码、文档,知识产权归属和合规审查要有内部规定。

选型时怎么评估合规性?

看三点:模型服务是否可私有化部署(数据不出域);供应商是否能提供训练数据合规说明;产品是否有内容审核与日志留存能力。

私有化场景下的 AI 能力设计可参考原生 AI 智能办公平台,数据分类分级的前置工作见数据分类分级专篇。