• 最近访问:
发表于 2026-05-29 19:18:20 股吧网页版
AI一本正经胡说八道 不能只当笑话看
来源:人民日报客户端

  日前,江苏一顾客用AI软件预约餐厅,到店后却被告知无预约记录,怒写差评,商家称不支持AI订座,AI软件平台也坦言无实际预约功能,部分用户误将模拟信息视为有效凭证。这起看似笑话的真实纠纷,正是AI幻觉的典型写照。

  所谓AI幻觉,是指AI生成看似真实合理却完全虚构或错误的信息。随着AI渗透到生活工作的方方面面,其“一本正经胡说八道”的幻觉问题日益凸显。当AI越来越“能干”,我们更需补上理性认知、风险规范的“常识课”。技术跑得再快,也不能把常识甩在身后。

  近年来,类似AI幻觉的事件频发。比如,有考生家属用AI平台查询高校报考信息,AI生成了不准确信息,还提出若生成内容有误将赔偿;有人在搜索自己的姓名和职务时,“AI智能回答”竟编造出他曾“被判三年有期徒刑”的虚假内容,并配有照片;AI编造不存在的论文引用、虚构名人信息等情况,更是屡见不鲜。这些AI生成内容与客观事实的严重错位,小则引发纠纷、闹出笑话,大则误导公众认知、扰乱社会秩序,致使人们做出错误决策,可能埋下法律与安全隐患。

  AI幻觉何以屡屡产生?技术层面而言,它源于AI开发与运行的底层逻辑。AI大模型的一个运行核心,是学习海量文本中的语言概率、语义搭配、句式逻辑等统计规律。同时,AI训练数据难以覆盖所有知识,一旦遇到错误、过时甚至故意“投毒”的信息,AI大概率只会“照单全收”,很难辨别真伪、剔除谬误。更重要的一点是,一些AI生成内容追求快速流畅而非严谨准确,有的AI软件更是将用户满意度最大化作为训练目标。在这种模型导向下,模型优先保证的是文本连贯自然和用户体验满意。当AI遇到“拿不准”的信息时,更倾向于编造出一个流畅合理而非真实准确的答案,就像网友调侃的那样,“做事瞎糊弄,被抓包就嬉皮笑脸道歉,情绪稳定且下次还敢”。

  面对AI幻觉产生的谬误和风险,平台、社会和用户都需补齐“常识课”。

  对于AI平台而言,当务之急是补上技术规范与责任边界的课程。一方面,优化模型架构,匹配检索增强生成技术,降低AI生成幻觉信息的概率。同时,净化语料池,建立事实核查机制,对金融、医疗、法律、政务等专业敏感领域内容进行重点校验。另一方面,明确责任边界,对生成内容强制标注来源和风险提醒,让用户清晰了解AI生成的局限性与风险。

  社会要补上AI素养与监管治理课。比如,加强全民AI素养教育,将AI基本原理、幻觉风险、核验方法等纳入科普范围。同时,完善监管规则,明确AI平台的责任义务,对故意夸大功能、放任幻觉蔓延的平台或软件依法追责。此外,鼓励AI行业共建可信数据源的白名单,推动AI技术以“准确优先、兼顾流畅”为目标,从源头降低幻觉风险。

  用户则要补上理性认知与信息核验的课程。面对AI的输出内容,心里那根“求证”的弦不能松。唯有平台守规矩、社会强治理、用户明认知,才能让AI技术行稳致远,真正成为社会发展的可靠助力。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500