经济热点快评|为何要给“会干活的AI”立规矩?

发表于 3 小时前 | 显示全部楼层 |阅读模式
116 0
最近,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,将智能体安全、可靠、可信作为产业发展的底线要求,为智能体治理架构、应用场景和产业生态作出系统部署。这是我国首次针对“智能体”这一人工智能新形态制定规范。
智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。它能自主完成如自动订票、生成方案、调度设备等一连串任务,实现了从“回答问题”到“帮忙干活”的跃迁。
为何要在此时出台《意见》?
当下,我国人工智能技术和产业迅速发展。技术上,国产大模型不断迭代升级,以低成本实现多方面工程技术创新,加速进入普通人日常生活。更重要的是,AI的角色正在发生变化,人工智能逐渐像“大脑”一样参与决策、优化流程,甚至改变生产生活方式。
然而,当AI开始真正“干活”,很多问题也随之出现。
智能体需要直接操作电脑、调用各种资源,这种高权限设计一旦出问题,后果比回答问题出错更严重。比如自动交易差错、设备调度异常、隐私数据泄露等,还容易被黑客组织攻击。2026年以来,OpenClaw等智能体的广泛应用,展现出强大自主任务执行能力的同时,也暴露出智能体在指令诱导下可发起网络攻击等风险隐患。可见,智能体能力越强,越需要同步建立起规则和边界。
                          《意见》明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则,给正在高速发展的智能体技术立了规矩。
一方面,《意见》强调夯实技术底座,健全标准体系,降低智能体研发、适配、应用门槛;构建开放共享的创新生态,提升产业创新活力。另一方面,《意见》要求守牢安全底线。比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。本质上是把智能体相关的规则同步建立起来,营造良好的制度环境,让智能体发展更健康、更有序。
值得注意的是,《意见》还提到强化应用牵引。这意味着未来智能体发展,比拼的不只是模型参数,更在于谁更懂真实场景、谁更能解决现实问题。智能体发展,最终要真正进入千家万户,成为推动产业升级和社会运行的重要工具。
技术发展离不开规则治理这根“安全带”。可以预见,智能体技术还将加速发展,人与AI如何协作、边界如何划定、责任如何界定,都将成为绕不开的新课题。只有不断完善治理体系,在鼓励创新与守住安全之间找到平衡,才能让智能体技术真正释放持续而稳定的发展红利。
全部评论

暂无评论,期待您打破宁静

您需要登录后才可以回帖 登录 | 立即注册
发表评论
发布 联系QQ