WAKENEX觉醒联盟
系统研究短评

开源权重是一次收不回的发布:治理只能管部署,管不了权重本身。

一个背对镜头的人站在嵌入阳光绿色山坡的混凝土库门口,放出一串彩色纸飞机飞散到下方明亮的城市上空,再也收不回来。白色英文标题写着 'Open weights never come back',下面一行中文:开源权重,发出去就收不回。
一个背对镜头的人站在嵌入阳光绿色山坡的混凝土库门口,放出一串彩色纸飞机飞散到下方明亮的城市上空,再也收不回来。白色英文标题写着 'Open weights never come back',下面一行中文:开源权重,发出去就收不回。图片:WAKENEX

11 月 4 日,世界互联网大会乌镇峰会,DeepSeek、通义千问、MiniMax 三家中国开源大模型罕见同台,主题正是『开放』。但真正该留意的一句来自 DeepSeek 研究员陈德立:今天 AI 是『得力助手』,可未来 10 到 20 年它可能接管人类大部分工作,『届时科技公司需要充当防御者』。连放出权重的人都在提醒下行;DeepSeek-R1 安全报告也承认,开源『带来潜在的误用风险』。

拆到底:权重一旦公开就无法召回、无法打补丁,没有任何关停开关能触达已经下载的副本。于是所谓『治理』只能落在部署层:托管、接口、许可。而这恰好是开源权重让所有人绕开的那一层。权重层面的安全,物理上就够不着。

激励很清楚:实验室拿走分发、生态和话语权,而误用、被微调掉护栏、生成更脆弱代码这些代价,落在下游部署者身上。谁开得更快谁先占住生态,外部性越滚越大。这正是连 DeepSeek 都在呼吁『更谨慎』的原因。

最强的反方也成立:开源同时分发了防御,更多人审计、不绑定单一厂商、可复现,闭源只是把同样的风险藏在接口后面。但这救不了权重层治理:开放对攻防两边都放大,上行只归实验室,不可逆的部分由所有人分担。

对你的含义:如果你基于开源模型搭东西,就把它当成一旦采用就撤不回的基础设施,把安全预算放在你能控制的部署层。评测、沙箱、核查它写出的代码,因为上游不会有补丁发下来。

会推翻这个判断的是:某家实验室真拿出一套能约束『已放出去的权重』、且被大规模采用的机制;或独立审计显示开源部署并不比闭源更容易被误用。

来源

  1. 原始来源:pandaily.com/deepseek-qwen-minimax-wuzhen-dialogue-open-source-mode…pandaily.com ↗