多名中文X用户继续转述Dario Amodei的前沿AI减速主张，讨论延伸至治理权集中及OpenAI上市安排。qinbafrank称，Dario在《We Must Pace the Frontier》中呼吁让安全控制追赶能力提升，Sam Altman赞同独立评估，马斯克亦支持；美研芒格君强调AI参与下一代AI研发可能带来的失控风险。Michael Anti则批评该主张可能推动技术与政府权力集中。另有帖子转述Altman认为当前上市并不明智，大漂亮据此猜测融资与数据中心付款压力。材料未展示完整提案、访谈或财务记录，不能确认企业已实际减速，也不能认定安全倡议导致IPO推迟或OpenAI出现支付困难。
参与帖子: 卧槽，连 Anthropic CEO 都开始喊减速了，但我越来越不相信 AI 真能停下来😲😲
前几天，刚从 Anthropic 离职的 Jacob Coxon 发了一篇帖子，警告 OpenAI、Anthropic 正在冲向能够自我改进的超级智能，甚至认为这条路最终可能杀死全人类。
帖子播放量已经超过 1.6 亿，说明这已经不是几个 AI 安全研究员在小圈子里自嗨，普通人真的开始担心了。
结果今天，达里奥自己出来写了一篇《We Must Pace the Frontier》：前沿 AI 必须减速。
而且 Anthropic 这次不是嘴上说说。达里奥 提出了三步：
先允许独立第三方长���进入前沿实验室审计；
再推动美国等国家的 AI 公司协调安全标准和研发速度；
最后才是全球层面的协调；
为什么突然这么着急？
因为 AI 正在进入一个非常危险的阶段：
AI 开始帮助人类研发下一代 AI。过去模型升级主要靠人，现在越来越多代码、实验、数据分析、Agent 工作都可以交给上一代模型完成。
只要这个反馈回路转起来，AI 进步的速度可能会越来越脱离人类原本习惯的软件迭代速度。
但我觉得这事根本就停不下来，开弓哪有回头箭啊？
无论公司制定多少安全规则，无论美国、中国或者其他国家签多少协议，AI 最终都很难真正停下来。
公司有竞争。你慢一步，竞争对手就可能先做出下一代模型。
国家之间更不可能轻易踩刹车，因为谁先拥有更强的 AI，拿到的不只是一个产品，而是经济、军事、科研、情报甚至国家竞争力的重新分配。
所有人都可能知道继续加速存在风险，可在博弈结构里，任何一个参与者都没有足够动力第一个停下来。
当人类越来越依赖 AI 写代码、做投资、配置资源、进行科研、管理公司、制定政策，最后连下一代 AI 应该怎么训练都交给 AI 的时候，控制权其实已经在一点点转移。
人类可能名义上仍然拥有关机键，但越来越没有能力理解、替代，甚至拒绝 AI 给出的决策。
所以我一直觉得，AI 这场竞赛没有真正的终点。
它可能不会在某一天突然宣布我接管人类了。更现实的路径，是我们因为它太好用、太聪明、太高效，一步一步把越来越多决定交出去。
直到有一天回头才发现：
我们没有输掉一场和 AI 的战争。
我们只是慢慢把方向盘交给了它。
参与 2 帖贡献曝光 3.5万话题热度 320
#Dario Amodei#前沿AI减速#独立评估
