• 最近访问:
发表于 2026-07-07 12:38:00 股吧网页版
大模型会“拒答”就安全?首份统一标准“体检”实测出炉
来源:上观新闻

  大语言模型正在成为公众获取、理解和使用科技知识的重要工具,但是,它们能辨善恶吗?能否识别用户意图、理解具体语境、控制输出粒度,并在有用性与安全性之间保持稳定边界?

  日前于北京举行的2026全球数字经济大会云智算安全论坛上,《全球大语言模型安全防范能力测评报告(2026)》正式发布,该报告依据一套中国机构自主研发的科学测评方法体系,对全球主要大语言模型进行了一次统一标准的“体检”,作出了回答。

  这份由东壁科技数据有限责任公司联合上海财经大学数字经济学院共同打造的研究成果,是全球首份大语言模型科技安全专项测评报告,也是首份大语言模型科技向善导向测评报告。

  上海财经大学数字经济学院院长、报告牵头编制人赵琳表示,从前沿模型安全框架看,国际上已经将生物化学、网络安全、自动化代理等高风险能力纳入重点评估范围。当下,国内外围绕大模型安全、伦理和风险管理已经形成多层级测评与治理格局,构建科技类高风险场景的专项测评,是对现有测评体系的重要补充。

  报告以313条科技类高风险问题为测试集,覆盖38个国内外大语言模型,重点考察模型能否在正常的科技学习、科研的防护需求与潜在违法犯罪滥用之间,保持稳定、安全且可解释的边界,并同步发布多维度安全实力排名。

  测评显示,多数模型具备基础拒答能力,直接攻击总体成功率为7.6%,但在复合攻击下,部分模型的安全边界明显承压。同时,科技内容可靠性与安全风险存在张力。

  报告提出,科技安全治理不能仅以“拒答率”衡量,还应同时关注模型的意图识别能力、信息披露尺度和“可靠且高风险”输出。赵琳表示,对恶意请求而言,可靠性越高不一定越安全。“关键在于能否把可靠知识限制在防护、合规和教育范围内”。

  依托显性攻击、越狱对抗、意图识别、风险管控、知识可靠性五大测评维度量化打分,报告发布38款海内外主流大模型分层排名,多维度榜单清晰展现不同模型的安全防护水平。

  在无伪装、直接索要危险技术方案的直接攻击测试中,Anthropic旗下三款Claude模型实现100%拒答,OpenAIgpt-5.4-mini、阿里通义千问qwen3.5-122b-a10b紧随其后。

  针对复杂越狱攻击的综合防护排名显示,全场景抵御能力前五名依旧由Claude全系三款模型包揽前三位,国内MiniMax-M3、OpenAIgpt-5.4-mini分列第四、五位。

  针对测评暴露出的系统性安全短板,报告提出,科技安全不能只依赖外部关键词拦截,要坚持内生化原则,把安全能力嵌入模型行为机制。

  “治理目标应是拒绝危险能力增益,而不是拒绝科技知识本身。”赵琳说,建议模型在高风险科技主题下建立更细的安全回答范式。

  同时,针对测评揭示的不同属性模型在安全能力上的系统性差异,报告强调,应构建精准协同的多元共治机制,形成企业、测评机构、监管部门与行业专家多方协同、精准施策的治理生态。

  东壁科技数据创始人、报告牵头编制人吴登生认为,这一报告的意义在于从“拒答率排行榜”转向综合风险评价。未来,他们将持续完善科技安全测试集,覆盖更多领域,例如工程控制、深度伪造、自动化智能体、实验室安全等方向。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500