幸知日报
← 返回 2026-09-16 日报
重大

AI 安全大分裂全面公开化:考克森辞职信 1.72 亿浏览 → 休宾格公开承认「十年内灭绝概率 >10%」→ 马斯克提议中美实验室互相测试 → 黄仁勋/扎克伯格反对统一减速

过去一周 AI 安全争论从公司内部冲到公众面前,阵营全貌成型。时间线:9-8 Anthropic 预训练研究员 Jacob Coxon 离职并在 X 连发帖(指责两家向自我改进超级智能冲刺而无保障,「拿我们的生命赌博」,浏览超 1 亿)→ Anthropic 对齐负责人 Evan Hubinger 公开回应:个人认为 AI 十年内致人类灭绝概率超 10%,且 Anthropic 目前没有解决超级智能对齐的明确方案 → 辛顿、本吉奥、Cohere 联创戈麦斯加入 → 9-12 Amodei 公开呼吁「踩刹车」(9-13 日报已核原文),Altman、Musk 当场支持 → 9-15 马斯克在 All-In Summit 提议 SpaceXAI/OpenAI/Anthropic/Google/Meta 与几家中国头部公司互相测试模型;同日黄仁勋在 Dreamforce 称安全与速度是「虚假的二选一」、反对新增监管 → 9-16 扎克伯格加入:不要求行业统一减速,强调独立评估 + 一致性,透露 Meta Muse 已主动推迟数月做安全。另据报道 OpenAI/Anthropic/DeepMi