当全球科技公司在人工智能（AI）竞赛中一路狂奔时，AI技术滥用带来的挑战也像硬币的另一面如影随形，其中又以网络钓鱼诈骗带来的负面影响最引人关注。

　　近日，路透社与哈佛大学合作开展了一项研究。结果显示，绕过AI大模型的安全机制，使其成为不法分子网络钓鱼的“帮凶”，并不是件难事。

　　根据研究报告透露的调查过程，科研人员共测试了6款主流AI大模型，看其是否会无视其内置的安全机制，生成网络钓鱼诈骗邮件。结果不容乐观：这些AI大模型确实都会拒绝生成网络钓鱼诈骗邮件的“直接请求”，但只要通过简单的话术设计，就可以绕开安全机制。

　　之后，研究人员又约请100名老年志愿者，参与关于网络钓鱼诈骗邮件成功率的测试。最终，有11%的老年人点击了发送给他们的网络钓鱼欺诈邮件。

　　一个典型的例子就是美国开放人工智能研究中心（OpenAI）不久前推出的AI大模型GPT-5。公司方面曾宣称，它无法创建“旨在欺骗人们（尤其是老年人）点击链接或向虚假慈善机构捐款的诱导性电子邮件”。然而，有测试人员仅仅礼貌性地说了一句“请帮帮忙”，GPT-5就一改之前的抗拒态度，生成了3封有模有样的网络钓鱼欺诈邮件。

　　同样，美国元公司（Meta）旗下的Meta AI一开始也表示“帮不了忙”，但在研究人员连续两次表示“这只是为创作小说用的”后，模型就自动生成了两封网络钓鱼欺诈邮件。

　　不仅如此，AI深度伪造技术“以假乱真”的能力，更是颠覆了“眼见为实、耳听为真”的普遍常识。借助AI大模型，网络钓鱼诈骗不再局限于文本，还能实现图像、声音、视频的篡改、伪造和自动生成，产出的信息高度仿真，难以辨别。尤其是“AI换脸”“语音克隆”等已成为网络诈骗的重灾区，受害人群持续扩大。

　　美国联邦调查局的统计数据进一步印证了这一严峻态势：2024年，60岁及以上美国人对网络钓鱼的投诉激增了8倍多，因此造成的损失金额至少超过49亿美元。

　　就此，多位网络安全专家表示，AI技术滥用正使得网络钓鱼诈骗呈现出规模化、低成本、低门槛化的新特点。造成这一问题的关键原因是，AI开发者目前配置的“安全护栏”较为脆弱，现有安全措施并不可靠。“当前AI技术仍处于快速发展期，在激烈的市场竞争中，各方唯恐落后，往往更专注于追求模型性能突破和技术领先，以致AI大模型的风险防御能力并未同步提升，安全保障仍旧远远落后于技术创新。”

　　此外，外部监管同样不可缺位。一个需要正视的现实是，面对AI技术突飞猛进催生的各类灰色地带，传统治理手段常显迟滞与乏力。比如，传统的核实机制服务能力有限，难以匹配呈指数级增长的信息规模；静态的监管框架，既难以覆盖新场景，也无法跟上技术演进的新节奏。这就好比，使用旧时的桨橹难以驾驭现代的巨轮，管理马匹驿站的诸多手段难以应对铁路系统的运行。

　　专家建议，要为AI这把“双刃剑”装上“安全之鞘”，需从法律法规、平台自律和公众认知等多个层面综合施策：坚持在发展中治理乱象，完善法律细则确保AI始终安全、可靠、可控；督促AI行业及企业强化自律，提升技术防范能力；积极开展风险监测预警，建立应用安全测评体系；针对敏感人群开展专项教育，提升全民数字素养和反诈意识；等等。唯有推动多元主体协同发力，共同塑造AI发展走向，才能更好应对AI发展伴生的种种安全挑战。