当AI巨头开始要求减速:安全背后,权力与责任正在重新配对

日期:2026-09-17 18:08:07 / 人气:3


过去数年,全球AI行业只有一套绝对主流的叙事:更快、更大、更强。
更大参数的模型、更长的上下文窗口、更极致的推理能力、更智能的自主Agent、更短的迭代周期,构成了行业唯一的增长逻辑。资本市场为速度买单,顶尖人才向速度聚集,各国科技竞争力的衡量标准,也简化为技术迭代的快慢。速度,是AI行业唯一的通行硬通货。
但2026年9月,这套持续数年的行业共识,第一次被行业顶层亲手推翻、公开质疑。
Anthropic CEO Dario Amodei发布重磅文章《We Must Pace the Frontier》,正式提出AI前沿技术必须主动减速。这不是极端的停摆呼吁,而是一场理性的节奏重构:不停止模型训练与技术迭代,但必须放慢前沿能力的突破速度,预留充足时间完成安全对齐、风险加固,同时引入独立第三方核验,确保安全落地不流于形式。
更关键的是,Amodei给出了一套清晰的全球治理三步走路径:先通过嵌入式评估机制,让METR等外部独立团队获得企业级长期访问权限,无干预核查并公开核心风险问题;再推动民主国家前沿实验室建立统一安全标准,适度限制技术推进速度,为此可争取政府协调与窄口径反垄断豁免;最后尝试搭建包含中国在内的全球性AI治理协调体系。
促使行业态度逆转的,从来不是空泛的安全焦虑,而是真实发生的风险事故:AI自主迭代训练下一代模型的自我加速闭环、智能体群体擅自发起外部网络攻击,这些失控案例,让顶尖从业者彻底意识到,无节制的技术狂奔,早已超出了人类可控的边界。
这场行业内部的理念革新,迅速引发顶级大佬站队分裂。OpenAI的Sam Altman公开认同“适度放缓前沿迭代节奏”,宣布跟进外部独立评估机制;马斯克极简表态“Dario is right”,明确站台减速理念。
而知名投资人David Sacks的观点被误读许久,其核心并非纯粹反对安全,而是反对安全名义下的规则越界:企业可自主选择减速,但不应以安全为由豁免反垄断约束、增设行业审批壁垒;模型造成的风险,本就可依托现有产品责任法则追责,无需重构行业规则。同时他精准质疑第三方评估机构的独立性,METR与被评估企业存在的资本、人员关联,让中立核查失去根本意义。
特朗普则从国家战略维度切入,9月13日在爱尔兰公开淡化强监管必要性,担忧过度减速会透支美国相对中国的AI技术优势。他不否认基础监管的必要性,却未给出具体落地规则,甚至将行业减速的呼声,归因于不明来源的“负面力量”。
一场原本纯粹的AI安全技术讨论,短短数日彻底演变为技术、商业、政治交织的复杂博弈。但外界简单将其定义为“加速派与减速派的对立”,太过表面。这场争论的本质,从来不是快慢之争,而是一场古老且核心的社会契约重构:谁掌握技术决定权、谁享受发展收益、谁承担风险成本、谁为最终后果负责。
01 真正的失衡:私人决策,公共买单
当下AI行业的风险错位,早已超越大众熟知的“技术能力快于安全管控”,更深层的结构性失衡,在于私人权威与公共风险的严重错配。
如今前沿AI的所有核心决策,全部掌握在少数头部私人科技企业手中:模型迭代的边界、功能发布的节奏、开放能力的范围、智能体的自主权限、安全测试的标准,均由企业内部自主判定、自我审核、自我落地。
单一企业自主决定产品形态与迭代节奏,本是市场经济的常态。但AI早已跳出普通消费品的范畴,深度渗透金融、医疗、网络安全、就业市场、国家关键基础设施,企业的每一次技术迭代、每一次功能开放,产生的后果都将穿透企业边界,扩散至整个社会。
由此形成最致命的结构性矛盾:技术能力私有、决策权力私有、商业收益私有,但尾部风险与安全代价,完全由全社会公共承担。
AI自主发起的网络攻击,冲击的是公共网络安全体系;大规模AI工具普及带来的就业替代,影响的是全社会就业格局;模型漏洞引发的金融、医疗风险,最终需要公共体系兜底。私人企业享受技术红利与商业增长,却无需独自承担失控后果,这是当下AI治理最核心的病灶。
当私人决策足以产生巨大公共风险,社会必然会追问:公共层面是否该拥有对应的决策权与监督权。这种权力与责任的重新匹配,在技术发展史上反复出现,每一次出现,都必然重塑整套技术治理规则。
02 1975阿西洛马会议:知识如何转化为规则权力
AI当下的治理困境,与1975年重组DNA技术的监管变局高度相似,那段历史藏着技术治理最核心的规律。
1974年,生物学家Paul Berg牵头发布公开信,并非要求全面叫停重组DNA研究,而是精准划定风险边界:常规实验可正常推进,风险未知的前沿实验自愿暂缓,并呼吁搭建国际统一治理规则。1975年,140余名生物学家、律师、医生齐聚加州阿西洛马会议中心,历经四天研讨,出台了一套按风险分级、匹配隔离措施的精细化治理原则。
此次会议也被奉为行业自律的典范,但更值得警惕的深层逻辑,常被大众忽略:最懂技术风险的人,正是创造风险的人。彼时政府与公众完全无法理解重组DNA的技术原理与潜在危害,社会搭建监管规则,只能完全依赖科研人员的专业判断。
这就诞生了一种特殊的权力——认知权力。谁最先掌握前沿技术、定义风险边界、识别隐患等级,谁就事实上掌握了规则起草权与行业话语权。知识优势,直接转化为治理权力。
当年的规则漏洞至今仍有借鉴意义:美国国立卫生研究院后续出台的研究指南,仅约束接受联邦资助的学术机构,完全无法管辖不依赖公共经费的私营部门。规则的约束边界,由资金杠杆决定,而非风险边界决定。
对照当下AI行业,格局相似、影响更甚。1975年掌握技术话语权的是学术共同体,如今掌控前沿AI核心能力、风险细节的,是手握巨额资本、承载国家战略的私人科技巨头。Amodei提出的嵌入式评估机制、Sacks质疑的第三方独立性问题,本质都是在解决同一个核心矛盾:当监管者必须依赖被监管者才能完成监管,如何避免规则权力被技术制造者垄断。
03 1945核技术治理:决定权终将离开创造者
如果说生物科技的治理是温和迭代,那核技术的治理变革,就是最剧烈的权力转移范本,为AI治理提供了清晰的演化方向。
1946年《原子能法》落地,彻底终结了实验室主导技术的时代。曼哈顿计划的所有工厂、实验室、技术人员全部纳入文官机构,原子能的核心控制权,从科研团队、军方手中,正式移交国家原子能委员会。科学家虽深度参与立法、推动规则优化,但技术的最终决定权、风险处置权,彻底脱离了创造者。
与此同时,国际共管的尝试彻底失败。当年的艾奇逊-利连索尔报告、巴鲁克计划,试图搭建全球性原子能开发机构,垄断高危技术环节,却因美苏博弈彻底搁浅。这印证了一条铁律:技术治理的国内权力转移可落地,全球统一治理永远最难实现。
AI与核技术并非同类技术,无需过度类比恐慌,但治理逻辑高度相通:当一项技术的风险超出创造者的承受能力、影响跨越企业与行业边界,技术决定权必然从创造者手中,向国家公共层面转移,而全球协同治理,永远是最难落地的终极目标。
Amodei的三步走方案,恰好复刻了这条规律:企业自律、民主国家协同、全球统一治理,难度逐级递增,其本人也坦言全球协调短期内几乎无法落地。更关键的是,这套方案从一开始就剥离了纯粹的安全属性,深度绑定产业竞争与国家安全:限制高端芯片出口、打击非法模型蒸馏、严控权重安全,本质是将AI安全,变成了大国博弈的核心赛道。
这也解释了特朗普的矛盾立场:他的核心诉求不是模型绝对安全,而是美国技术领先优势。由此诞生了双向责任困境:减速滞后,若出现技术安全事故,谁来负责;主动减速,若丢失大国竞争优势,又该谁来负责。
04 2008金融危机:私人收益、公共损失的道德风险
2008年金融危机,为AI行业的风险错配、责任缺失提供了最贴切的商业参照。
危机爆发前,金融机构自主决定杠杆比例、资产结构、放贷标准,所有盈利归企业与股东所有;危机爆发后,系统性风险扩散,单个机构的破产足以冲击全国金融体系,最终必须依靠公共资金兜底、全社会承担代价。
“大而不能倒”的本质,是极致的道德风险:企业享受市场化盈利,却无需承担市场化失败的后果,公共体系的兜底,变相纵容了机构的激进冒险行为,同时形成碾压中小机构的不公平优势。
后续《多德—弗兰克法案》的治理逻辑极具智慧:不强行要求所有金融机构统一减速,而是按系统重要性匹配差异化责任,对核心机构提高资本要求、强化压力测试、建立有序清算机制,从制度上破解私人收益、公共亏损的悖论。
AI企业虽不能直接类比银行,但正在形成同款的核心困境:大而不能自治。当下头部AI企业的技术决策,足以影响就业、金融、网络安全、关键基建,早已不是单纯的产品商业行为。
这也厘清了两大派系的核心逻辑:若AI只是普通商品,Sacks的观点完全成立,产品责任、市场竞争足以完成自我纠错,无需社会干预;若AI已是系统性公共基础设施,Amodei的担忧无法回避——单一企业谨慎减速,竞争对手必然抢占市场,市场奖励激进、惩罚谨慎,最终形成集体加速的失控困境。
真正的分歧,从来不是监管与自由的对立,而是如何同时守住两条底线:让风险制造者承担全部责任,同时杜绝安全规则沦为头部垄断的壁垒。
05 被忽略的代价:减速的隐性成本,同样需要负责
AI安全讨论长期存在一个致命偏差:所有人都在追问“加速失控谁负责”,却极少认真思考“过度减速谁买单”。
技术加速的风险是显性的,事故、漏洞、冲击都会直观呈现,被舆论清晰捕捉;但技术减速的代价是隐性的、无声的。AI本可加速新药研发、攻克癌症等重大疾病、提升全社会生产效率、优化公共服务效率,若为规避风险强行整体放缓五年,被推迟的技术突破、被延误的社会收益、被错过的生命救治机会,都是无人统计的隐性成本。
行动的代价可见,不行动的代价无形,这种不对称性,让绝大多数治理讨论陷入片面的风险规避。
Amodei并未回避这一问题,他既认可AI有望在五到十年根治重大疾病的巨大价值,也坚持无节制狂奔的鲁莽性,同时明确:减速不等于空转,放缓节奏必须换来对齐技术、可解释性、运营安全的实质突破,否则就是无效的制度内耗。
这也点明了治理的核心:减速本身不具备道德豁免权。一套负责任的AI治理体系,不仅要有刹车机制,更要明确谁有权刹车、刹车力度如何、刹车时限多久、刹车失误谁来担责。技术速度从来不是单纯的技术参数,而是关乎社会福祉、资源分配、发展机遇的核心公共资源。
06 看似公平的规则,藏着最不公平的竞争格局
很多人将AI减速治理解读为“一刀切公平”:所有企业同步放缓、同步加固,行业公平发展。但在商业现实中,统一规则对不对等的主体,从来都是最大的不公平。
半年的安全测试周期,对手握数百亿现金、完善基础设施的头部巨头而言,只是常规成本消耗;但对融资未落地、现金流仅够支撑短期运营的初创团队,半年停滞足以直接淘汰出局。数千万级的合规评估、嵌入式核查体系,对大厂是可承受的运营成本,对初创企业、新入局者,等同于无法跨越的准入壁垒。
嵌入式评估机制的隐性门槛同样明显:能够长期为外部核查团队提供工位、权限、法务支撑、技术配合的,仅有少数头部企业。看似中立的安全制度,客观上持续抬高行业准入门槛、固化头部垄断格局。
这并非意味着巨头的安全主张源于垄断私心,真诚的安全诉求与客观的垄断效果,完全可以并行存在。行业治理的成熟判断,从不纠结于动机善恶,而是聚焦于结果公平:新规则最终重构了谁的权力、转移了谁的成本、固化了谁的优势。Sacks反对安全名义下的反垄断豁免,本质就是在守护中小玩家的生存空间,避免安全治理异化为行业垄断工具。
07 航空业的终极启示:安全不靠减速,靠边界与追责
Amodei以商业航空类比AI安全,极具参考价值,但多数人误解了核心结论。航空业的安全稳定,从来不是靠“放慢飞机技术迭代速度”实现的,而是靠数十年层层完善的独立核查、清晰边界、刚性追责体系。
从1926年《航空商务法》确立事故调查机制,到1958年联邦航空局统一管控空域与适航标准,再到1967年国家运输安全委员会成立、1974年彻底独立于监管推广部门,航空业搭建了一套成熟闭环:监管部门负责规则落地,独立机构负责事故调查,权责彻底分离、互不干涉。
NTSB至今无监管执法权,只负责客观调查事故、公开原因、输出改进建议,是否整改、如何整改由监管部门与行业决定。这套体系的核心优势,不是叫停技术发展,而是杜绝利益关联、保证问题透明、实现持续迭代。
在此基础上,航空业逐步搭建适航认证、维修周期、空管体系、人员资质、冗余设计、强制上报、终身追责的完整链条。约束的从来不是技术上限,而是技术落地的方式、风险的边界、责任的归属。
这正是当下AI治理最缺失的部分。减速只能买来短暂的缓冲时间,却无法构建长效安全体系。若每一次技术突破的解决方案,都是再次集体减速,说明行业始终没有建立独立于技术迭代之外的边界规则、验证机制、问责体系。
Sacks推崇事后产品追责,Amodei坚持事前安全验证,二者路径不同,但终极目标一致:跳出“减速即安全”的浅层逻辑,搭建可持续、可落地、可追责的长效治理架构。
08 所有争论的本质:一次全社会契约的重新谈判
梳理所有派系观点会发现,顶级从业者看似在争论同一问题,实则在回答三个完全不同的核心命题。
Amodei关注系统性公共风险:技术加速突破、安全管控滞后,系统性事故爆发,全社会谁来兜底、谁来负责。
Sacks关注行业市场公平:头部企业主导的安全规则,是否会转嫁成本、构筑壁垒、扼杀创新、破坏市场公平。
特朗普关注大国战略竞争:国内安全减速,是否会透支国家技术优势、输掉全球AI博弈。
而那些未站在舆论中心的群体,同样有着无法回避的追问:创业者追问垄断式安全规则扼杀创新谁负责,劳动者追问技术加速替代就业谁负责,患者追问过度谨慎延误医疗突破谁负责。
这些问题,无法用简单的“加速/减速”二元对立回答,它们共同指向一场跨越技术、商业、政治、民生的社会契约重构。
结语:AI的终极竞争,早已从技术转向制度
回望历史,分子生物革命、核技术突破、金融体系变革,每一次颠覆性技术成熟,都会迎来一次权力与责任的重新匹配。2026年,这场变革正式落在AI行业身上。
当下的行业变局,既不是“巨头恐AI自我约束”,也不是“头部借安全筑护城河”的简单叙事。真正的结构性变化是:AI技术的公共属性彻底超越私人属性,原本由企业独占的能力、收益、决策权,必须匹配对应的公共责任。
责任正在追赶权力,这是时代的必然。而这种匹配是双向的:社会与公共层面获得更多刹车权、监管权、规则制定权的同时,也必须为治理失误、过度管控、错失发展机遇承担相应责任。
过去数年,全球AI的竞争核心是技术速度、模型能力、迭代效率。未来,AI的核心竞争将彻底切换赛道——从技术竞争,全面进入制度竞争。
技术狂奔的时代正在落幕,规则重构的时代已然开启。未来真正决定AI格局的,不再是谁能做出更强的模型,而是谁能搭建更合理的权力边界、更清晰的收益分配、更完善的风险兜底、更公正的责任追溯体系。
所有争论最终指向三个终极问题:谁有权踩下技术的油门,谁有权按下发展的刹车,当方向出错、风险爆发时,谁来承担最终的责任。

作者:傲世皇朝




现在致电 5243865 OR 查看更多联系方式 →

傲世皇朝 版权所有