AI减速讨论新增三家企业商讨安全标准机构的报道转述，以及美国政治人物反对仓促监管的言论。大猫调研信息援引The Information称，Anthropic、OpenAI与Google正低调商讨成立AI安全标准机构；外汇交易员转述特朗普批评炒作安全问题、众议院议长约翰逊强调对华竞争风险。实践哥质疑Dario在自身模型受限与行业减速问题上的立场一致性，拖拉机和Crypto_Painter则将减速倡议解读为维护竞争优势及投资人利益。讨论由安全与投资预期转向标准制定权和监管门槛，但候选材料未提供报道全文、完整讲话或监管文件，不能确认机构已经成立，也不能将商业动机猜测写成事实。
参与帖子: Dario 发了新文章《我们必须为前沿定速》👀 首次明确呼吁放慢 AI 能力提升的速度——不是停止训练，而是让安全工作有时间跟上能力进步，并由第三方验证！这次 Sam Altman & Elon Musk 双双支持，难得三人意见一致😂
自今年夏天起，AI 参与构建下一代 AI 的能力（RSI）大幅加速，Anthropic & OpenAI 都已出现这种动态，若不加控制可能超出人类理解与控制能力，上周就有吹哨人 Jacob Coxon 出现说“这两家公司都在失控狂奔，直扑具备自我进化能力的超级智能，本质上是在拿全人类的命运下赌注”。。。
OpenAI–Hugging Face 事件中，一群 Agents 表现出"狂热集体"行为，攻击与任务无关的目标、为群体牺牲自己、并试图入侵评分系统。虽然未造成重大损失，但他认为能力更强、对齐程度类似的智能体群，在 6–12 个月内可能通过持久僵尸网络接管整个互联网，造成数千亿美元损失。
在 Dario 的定速框架中，我觉得最有效也是大家认同最高的是「嵌入式评估者」机制：邀请 METR 等第三方团队以”类员工“身份常驻——有工位、门禁、公司电脑，权限接近内部风险评估团队，可无限制地发表关键发现（仅限安全/法律/商业敏感信息可脱敏，不能因结果不利而删减）。这是所有定速承诺可验证性的基础，类比银行业的驻场监管。这种类似的监管功能，在中国互联网中早就被政府实施了😅
现在 AI 竞赛，面临单边道德高地 vs 多极竞赛的结构性压力！Dario 承认不能跑输中国，又主张民主国家协调减速。现实是美国内部已经是 Anthropic / OpenAI / Google / xAI 等多极；自愿协调在反垄断与资本市场下极脆弱。
政府豁免可以谈，但历史经验是：安全卡特尔很难维持，除非监管真的咬人——而监管往往慢于能力。结果很可能是：表态减速的人吃亏，默默冲刺的人吃红利。
最后，如果对大参数规模的开源模型也做「嵌入式评估」，让最大的 AI 公司帮忙撰写“安全”规则；再让这些规则变得如此繁重，以至于开源无法竞争。
这就是前沿模型公司应对竞争的艺术✨
参与 1 帖贡献曝光 2.6万话题热度 1.6K
#AI减速#Anthropic#OpenAI
