美国国家标准与技术研究院周二宣布，谷歌、微软和xAI将与政府分享其人工智能模型的未发布版本，以遏制网络安全威胁。
新协议将授权美国商务部下属的人工智能标准与创新中心（CAISI）在人工智能模型正式发布前，对其进行评估，并分析其对美国国家安全和公共安全的潜在影响。该中心还将在人工智能模型部署后开展研究和测试，目前已完成超过40项人工智能模型评估。
这一政策更新发生在Anthropic发布强大但危险性极高的Mythos模型之后，此前，许多业内机构和华尔街人士表达了对Mythos的担忧，认为其将影响网络安全，并敦促白宫考虑对人工智能进行正式审查。
CAISI主任Chris Fall表示，独立、严谨的测量科学对于理解前沿人工智能以及其对美国国家安全的影响至关重要，与更多企业的合作有助于该机构造福公众。
白宫收紧AI监管政策？
美国总统特朗普曾承诺，将与科技公司合作，审查其人工智能模型是否存在威胁国家安全的风险。这也反映出美国政府对强大人工智能系统的日益担忧。
近几周来，包括Mythos在内的先进人工智能系统在全球范围内引起了轰动，因为这些系统可能会极大地增强黑客的能力。Anthropic也因此迟迟不公开发布Mythos模型，仅允许部分获批机构访问。
值得注意的是，Anthropic并未出现在CAISI的合作审查名单中，此前该公司曾与特朗普政府就人工智能在战争中的伦理和安全问题公开争论并进行法律诉讼。
不过，上个月，Anthropic首席执行官Dario Amodei会见了白宫幕僚长Susie Wiles，这可能标志着这家公司与白宫之间关系有所缓和。
周一达成的协议还与两年前拜登政府与Anthropic和OpenAI签署的协议类似。当时的协议规定，美国政府可以在商业AI模型公开发布前获取这些模型，以便评估并降低安全风险。
但有专家指出，美国政府并没有足够的资源来评估和测试模型。据报道，白宫目前正寻求组建专家团队，为政府审查的流程提供建议。此举将标志着特朗普政府迄今为止对人工智能监管采取的宽松态度发生转变。
