多国政府推行大模型发布前安全评估新机制

2026年05月26日 17:20
本文共计644个字,预计阅读时长3分钟。
来源/aibase 责编/爱力方

随着全球人工智能的爆发式发展,各国对大模型的监管正由早期的原则性宣言走向实质性落地。英国、美国和澳大利亚等多国政府近期相继推出新举措,要求前沿AI模型在正式公开发布前,必须通过由政府主导的安全漏洞与风险边界测试。

英国模式成为全球政策样板

在这场监管转型中,英国AI安全研究院(AISI)提出的红队测试与风险评估流程已成为各国的参考样板。日前,英国政府宣布与澳大利亚AI安全研究院达成正式合作,双方将联合跟踪前沿AI在网络攻击与防御领域的潜在风险,并共享核心的能力洞察。

这种新型监管模式彻底改变了过去仅依赖企业自愿承诺的被动局面,将政府力量直接引入到了模型的测试流程中。未来,AI大模型在面临市场竞争的同时,必须首先通过这一套类似于“上线前安检”的合规流程,安全测试能力正逐渐演变为产品核心竞争力的重要组成部分。

美系巨头签约加入国家级评估

与此同时,美国商务部下属的AI标准与创新中心(CAISI)也在加速推进类似的国家安全评估机制。目前,谷歌DeepMind、微软以及马斯克旗下的xAI等多家前沿AI巨头已与该中心达成关键协议,承诺在模型公开发布前提交相关材料并接受深度安全评估。

微软公司在此期间也明确表示,将同时深化与美国和英国测试机构的合作,共同降低前沿模型引发的大规模公共安全风险。这一系列密集的国际合作释放出明确信号,未来的AI监管将不再只是询问企业是否写下安全承诺,而是更加关注“是否真的有人亲自测试过”。

来源:拒绝空谈承诺!多国政府推行大模型“发布前安全评估”新机制 | AIbase

声明:本文来自aibase,版权归作者所有。文章内容仅代表作者独立观点,不代表A³·爱力方立场,转载目的在于传递更多信息。如有侵权,请联系 copyright#agent.ren。

相关图文

热门资讯

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/