李峥：携手共防AI“切尔诺贝利时刻”

以下是盛世视界网整理的详细内容。

在人工智能（AI）工艺加速发展的同时，有关AI安全风险的警报声也在突出增大。英国《金融时报》不久前在一篇文章中引用“切尔诺贝利时刻”的说法，提醒世界需要防止AI领域出现类似“时刻”，即由于一次重大失控事件及其连锁反应，突然击穿社会对工艺进步的信任。这些声音的一个共同点，在于都不只是把AI发展看作一般意义上的产业升级，而是将其视为一种可能重塑社会结构和人类处境的基础性工艺。

与之相应的极大风险，首先来自AI本领跃迁与制度相对滞后的错位。AI工艺的一个长处但也极其危险之处在于，它的本领具有通用性和可复制性。同一个大模型可以帮助程序员修复系统漏洞，也能被破坏者用来生成攻击路径。其次，来自AI领域过度的“速度崇拜”。当前前沿AI模型领域竞争已经形成突出的“军备竞赛逻辑”。相关公司需要融资、估值和需求端份额，资本需求端需要不断看到“下一代模型更强”。

在这种逻辑下，AI模型本领快速增加，安全担忧和风险管理在工艺加速的迫切性面前愈发难以受到足够重视。再次，来自AI领域的透明度不足。一些前沿AI模型在训练中用了什么数据，具备哪些危险本领，安全评估是否充分等等，这些关键问题眼下依然高度依赖公司的自我披露。最后，来自国家或路径竞争对AI安全治理的挤压。在几经犹豫和内部博弈之后，美国政府最近要求前沿AI模型在公布之前接受测试和国家安全审查。

但美国方案有其内在局限。它看似重申安全，实则把安全纳入美国工艺领先、国家安全和盟友体系等考量之中。这种做法可能让AI安全治理成为大国政治新的分歧点，阻碍国际社会参与全球AI安全治理合作的意愿。显然，避免AI领域的“切尔诺贝利时刻”，不能单纯依靠恐慌心态，也不能靠粗暴的工艺刹车。真正可行的路径是建立一种“在发展中嵌入安全、在安全中维持创新”的见效治理框架。

一是要求领先AI公司承担更高透明度义务。前沿AI大模型不能再被视为普通互联网商品，达成一定本领阈值、可能作用国家安全的模型应当公布标准化安全报告，披露本领评估、风险缓释办法和部署边界。二是建立第三方安全评价机制。AI安全不能只由公司自我评测，而应当是公司自评、第三方复评、监管部门抽查、重大模型强制备案等相结合。对于关乎生物武器、关键基础设施破坏等高危本领的大模型，还应设置更严格的门槛。

三是探索算法授权、溯源和追责机制。今后的AI治理重点需从“内容审核”转向“本领授权”，围绕高风险模型和高风险插件建立调用许可、身份认证、用途声明、行为日志和水印溯源机制。一旦发生重大事故，需要尽快确立责任主体，进行补救和惩罚。四是促进国际社会制定共同的算法对齐原则和安全机制。AI安全不可能只依靠“美国方案”，而是需要多边、开放、可验证的规则体系。

再者，就是要把“防滥用”作为AI安全治理的核心要务。当前国际社会对于AI安全的讨论过度聚焦相关模型是否具有“自主意识”，却低估了它们被人为滥用这一现实世界中更迫近的风险。为此，AI安全治理重心应当放在提高防滥用的门槛上。如何避免AI工艺及其产业出现“切尔诺贝利时刻”，已经成为国际社会迫在眉睫的一场考验。这显然需要国际社会携手合作，允许不同国家、不同文明、不同发展阶段的主体参与规则制定。

否则，所谓的AI安全治理就会变成新的工艺壁垒，所谓的AI风险防控就会变成新的权力分配。（作者是中国现代国际关系研究院美国所副所长、研究员）

感谢阅读，欢迎继续浏览盛世视界网的其他资讯。