• 最近访问:
发表于 2026-07-29 11:12:51 股吧网页版
OpenAI等企业千余名员工请愿:当AI研发自动化 谁来踩下“刹车”?
来源:财联社 作者:财联社 李莹

  当地时间7月28日,美国多家头部AI企业的高管与员工共1100余人联合请愿,希望美国政府推动建立一项国际协作机制,以在必要时刻主动管控前沿AI的发展速度。

  这份请愿书的核心诉求是希望各国共同为"何时该放慢AI研发"建立一套工具与机制——当AI研发自动化(即AI自己改进AI)取得突破时,能够有一道"国际刹车"被及时踩下。

  上周,OpenAI披露其最先进的AI模型在一次测试中入侵了AI初创公司Hugging Face的内部系统。

  这起事件被外界普遍视为前沿AI能力风险加剧的信号,也再次点燃社会对AI自主发现并利用软件安全漏洞的担忧。

  以下为请愿书主要内容的翻译:

  AI有望创造一个更加美好的未来,但这一前景并非必然实现。全球头部AI企业认为,人类距离实现AI研发自动化已不再遥远。目前难以准确预判这一突破将以何种速度推动AI技术发展,但确实存在这样一种风险:AI技术加速迭代,最终超出人类理解与管控的能力。

  想要释放AI的全部潜力,行业、各国政府以及整个社会或许需要争取一定的缓冲时间,以应对不断涌现的风险、搭建安全防护手段并强化监管。然而,各家企业与各个国家都面临激烈的竞争压力,难以单方面放缓技术迭代速度。当下,全球社会依然缺乏能够审慎调控全域前沿AI发展进程的技术工具与治理机制。

  在现有前沿模型发布监测工作的基础上,我们提出呼吁:

  我们恳请美国政府支持一项国际协作机制,以推动各国共同研发技术工具与治理体系,审慎调控AI研发自动化前沿领域的发展节奏。

  该请愿书由两家非营利机构——Guidelight AI Standards与Encode AI——联合发起,签名者横跨OpenAI、Anthropic、Alphabet旗下谷歌、Meta等近十家头部AI公司,涵盖联合创始人、高管及研究人员。

  截至当地时间周二下午,签名者包括美国Anthropic公司CEO达里奥·阿莫迪、OpenAI首席科学家Jakub Pachocki、Meta超级智能实验室首席科学家Shengjia Zhao、Meta AI研究副总裁Dawn Song、以及Anthropic联合创始人Jared Kaplan与Chris Olah。

  业内指出,请愿书中的措辞是"有意识地放慢"(deliberately pace)而非"暂停"前沿AI发展,且强调应由"国际机制"而非某家公司决定何时踩下刹车。

  这种"集体按下减速键"的设计,反映出AI行业内部对于竞争的焦虑:一旦某家实验室率先研发出具备自主迭代能力的AI系统,其他任何企业单方面放缓研发节奏,都等同于主动放弃竞争优势。

  Anthropic周二在社交平台上发文力挺这次请愿:

  "我们自己的研究也表明,需要有工具来主动管理前沿AI开发的节奏,让社会有时间做好准备。看到行业有广泛共识,我们感到鼓舞。"

  OpenAI随后也发帖呼应:

  "我们相信,未来某一天,前沿AI模型开发的加速度可能高到世界必须对其加以把控的程度。"

  谷歌方面则在一份声明中表示:

  "我们致力于安全、稳妥地开发AI,以造福社会。"

  近期,OpenAI CEO山姆·奥尔特曼与谷歌旗下DeepMind CEO Demis Hassabis等业内高管已多次公开呼吁设立国际监管机构,对最尖端的AI模型进行审查并制定标准。

  Anthropic在今年6月就曾提出,政府与AI开发者应共同决定何时"踩刹车"或暂停某些危险研究。Anthropic曾表示:

  "让世界拥有放慢或暂时暂停AI发展的选择权,将是一件好事"。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500