• 最近访问:
发表于 2026-03-26 07:39:11 股吧网页版
中国信通院院长余晓晖:AI企业需主动加强大模型、智能体等技术安全加固
来源:澎湃新闻 作者:邵冰燕

  “中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”

  3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院长余晓晖指出,今年不少用户即便对开源AI智能体“龙虾”(OpenClaw)不甚了解,仍愿意主动体验;去年春节DeepSeek发布时,许多非行业人士也表现出高度关注。中国企业同样积极试水新技术,这为数字经济与人工智能发展注入了强劲活力,也是我国在相关领域实现突破的重要原因。

  谈及AI治理如何平衡技术创新和可控性,余晓晖表示,当前社会在一定程度上低估了新技术带来的安全挑战。用户在使用“龙虾”时,往往忽视授权后其自主执行任务可能引发的不可控风险。其所在研究院此前测试也证实,相关技术存在诸多安全隐患。

  但余晓晖认为,中国仍应积极拥抱新技术,推动其在各行业各领域探索应用,秉持创新精神而非畏惧退缩,以此提升生产力、增进社会福祉。

  余晓晖进一步指出,面对新技术,社会应建立更全面的认知与敬畏之心,在应用过程中坚守基本安全底线。对企业与机构而言,未来自身的安全治理能力将愈发重要。在提升生产、学习与工作效率的同时,必须同步筑牢安全防线、构建安全治理体系,这在当前全球范围内均是一项极具挑战性的工作。

  与此同时,余晓晖指出,国内外人工智能厂商肩负重大责任,需主动加强大模型、智能体等技术的安全加固。相关测试显示,当前国内外主流大语言模型(的安全水平)约15%至30%,相关工作仍需大力推进。目前团队已推动国内十余家人工智能头部企业作出人工智能安全承诺并进行信息披露,以切实解决相关安全问题。

  “各方普遍希望在本轮人工智能浪潮中抓住机遇、不落人后,这是共同的诉求。当前应用场景广阔,但仍有几方面问题亟待解决。”余晓晖表示,一是小语种与模型多元化问题。需针对不同区域发展适配的小语种模型,实现技术普惠至关重要。

  余晓晖指出,中国人工智能企业在此作出重要贡献,DeepSeek、月之暗面、阿里等推出的开源模型,为各国依托先进技术开展本土化训练、构建自主主权模型奠定了良好基础。

  二是算力问题。余晓晖表示,这是当前面临的突出挑战,推动区域内算力互联互通,是满足算力需求的关键路径。

  三是安全与治理问题。余晓晖指出,尽管各国政府已开展大量工作,但实际效果仍有不足。在区域层面,可围绕统一标准、协同治理规则、共建测试工具、加强技术团队与区域能力建设等方面深化合作。中国企业已深度参与其中,未来仍有广阔空间。各方应共同把握全球人工智能发展的创新红利,同时筑牢安全底线,妥善应对风险与治理挑战。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500