• 最近访问:
发表于 2025-07-28 22:50:00 股吧网页版
行业首份智能体安全白皮书在WAIC发布:为终端智能体安全提供风险评估指南
来源:上海证券报·中国证券网 作者:宋薇萍

  上证报中国证券网讯(记者宋薇萍)7月28日,2025世界人工智能大会(WAIC 2025)期间,在由中国信息通信研究院举办的“大模型智塑全球产业新秩序论坛”上,上海人工智能实验室、信通院、蚂蚁、IIFAA联盟联合发布《终端智能体安全2025》白皮书(下称“白皮书”),首次系统梳理了智能体(AI Agent)风险分类、如何发现风险、如何防御风险,并覆盖了单智能体设备、多智能体协同,以及AI终端生态的全面挑战,成为终端智能体安全提供风险评估指南。

  在AI大模型加速下沉的2025年,智能体正快速渗透进手机、眼镜、耳机、车机等各种终端设备,悄悄成为连接人、设备与环境的关键枢纽。生活、工业、医疗、教育等多个行业,正在被一批更“主动”、更“拟人化”的终端智能体重新定义交互方式。它们不再是传统意义上的智能终端,也不是完全云端运行的AI Agent,而是一种运行在“端侧”的智能体。

  白皮书指出,随着模型越来越懂用户、操作越来越自动,终端智能体的风险边界也在拓展:不再只是“数据泄露”这么简单,而是向模型行为、身份伪造、环境感知误导,甚至算法伦理等深层问题蔓延。

  中国信通院华东分院人工智能事业部主任常永波表示,在AI Agent成为“下一代操作系统”的当下,对安全设施的梳理,尤为必要。为了应对这些高度复杂、层层递进的安全风险,白皮书提出了三大防护路径:单智能体安全、多智能体可信互连、AI终端安全,希望作为一份全面且具针对性的、可参考的智能体安全指引。

  白皮书首次提出终端智能体安全体系,在技术生态体系的支撑下,单智能体安全技术包括安全护栏、数据去毒、基座对齐和柔性管理,多智能体可信互连技术则包括可信数据流转、可信服务流转、可信身份认证和可信记忆共享,AI终端安全技术可信隐私沙箱、跨设备可信连接等,共同支撑AI/AR眼镜、智能手机助手、智能座驾等行业应用。

  白皮书认为,智能体可信互连的核心,在于构建“可信”的智能体协作环境,具体体现在四个关键维度:可信连接、可信鉴权、可信意图、可信授权。它就像智能体世界的 “安全卫士”,从身份验证到数据传输,从需求处理到结果追溯,全程筑牢安全防线。

  作为发布单位之一,IIFAA联盟一直致力于推动行业共同制定跨智能体交互的相关安全技术规范,共建开放、合作、共赢的智能体生态。联盟技术负责人万小飞表示,在智能终端快速发展的今天,单独一家企业很难承担构建智能终端可信体系的任务,智能终端的可信体系,需要生态共建共赢。“呼吁整个生态,共同完善智能体可信基础设施,共建智能体可信互连生态,最终共筑智能体协作信任网络。”

  据了解,今年4月,IIFAA联盟推出业内首个智能体可信互连技术ASL(Agent Security Link),该技术可以在MCP等协议的基础之上,保障各个智能体协作中在权限、数据、隐私等方面的安全,为Agent互连提供安全、可信的协作保障。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500