拟人化AI监管加码，企业合规成本或再攀升

产联社研究员｜郑青春

随着《人工智能拟人化互动服务管理暂行办法》（《暂行办法》）自7月15日正式施行，智能体在拟人化交互中的权利边界、安全风险与合规治理迅速成为行业焦点。8月7日，产联社主办的“智汇沙龙”上，来自科研机构、云计算、运营商及产业一线的多位专家围坐一堂，就智能体可信治理展开深度对话。

“智能体可以拥有哪些权限，企业首先要管住模型的权重，明确哪些数据可以开放给它。”中国科学院空天信息创新研究院博士商钰滢指出，对于调用工具、涉及高风险决策的场景，企业必须设置前置管控机制，上线前完成严格安全测试，并落实全面的日志管理。她强调，部署自有产品线的企业必须承担起不可推卸的监管责任。

新施行的《暂行办法》在与会嘉宾看来，为行业划定了清晰红线的同时，也为合规企业提供了“铠甲”。腾讯云workbuddy高级产品专家苏磊博士认为，法规要求拟人化智能体必须明确标识、用户可以随时要求停止服务、建立有效的反馈渠道等条款，实际上是对认真做产品的企业的一种保护。他建议，企业应从选择通过等保二级、三级认证的合规工具入手，建立自查与外部的第三方认证测评相结合的长效机制。“可信智能体构建是一个动态磨合的过程，需要通过在线安全认证保证漏洞可探查，让工具可靠、外验通过，才能逐步建立起真正的信任。”

中国移动聚智智能体平台技术负责人朱永北博士则从大型国企的实践出发，直言安全是重中之重。他透露，中国移动有超过5000人的安全团队，新规对严格自律的企业而言是保护而非束缚。围绕拟人化与工具型智能体，朱永北强调，必须做到模型、工具、流程可管可控，“哪些决策必须由人工做出，这条线一定要划清”。他同时坦言，选择经过认证和充分评估的模型，并使其在复杂业务中安全运转，是一个漫长的过程，行业需要耐心。

图：中国移动聚智智能体平台技术负责人朱永北就企业智能体安全治理与人工决策边界议题发表观点。

来自产业界的万联易达AI全栈高级工程师曾冠奇，则用真实业务场景点出了常见漏洞与防范思路。他以大宗商品交易为例说明，智能体可以参与议价、商谈条款，但绝对不能拥有签署合同的权限。“可以给它一个价格清单作为约束，保证智能体无论如何都不能越过红线，一旦越规就要有明确的惩罚机制。”曾冠奇认为，划定决策边界，就是给智能体戴上“紧箍”，既释放其效率价值，又守住安全底线。

商务合作/报料请联系微信号：18801065284