重大
国会两党同步推进“看见并关停 AI 代理”:Stop Rogue AI Act 与 AI Kill Switch Act 进入同一叙事
半岛电视台把这条线放到“人类灭绝警告”背景下:Anthropic 研究员 Jacob Coxon 本周辞职并称“造 AI 的人真诚相信它可能在这个十年末杀死我们所有人”,Anthropic 对齐科学负责人 Evan Hubinger 跟帖称“我个人认为是未来十年内 >10%”。国会侧,两条一手源已核实:
① Gottheimer 与 Lawler 9 月 9 日引入两党《Stop Rogue AI Act》,要求 NIST 制定发现、验证、控制 AI 代理的国家标准:持续可读的清点、可验证身份与来源、实时监测提示注入/数据窃取/越界行为、可随时允许/拒绝/撤销代理访问,并要求联邦机构与承包商把这些 safeguard 纳入采购与部署,NIST 与 CISA 将其折入现有联邦网络安全指南;
② Lieu 与 Moran 7 月 23 日引入《AI Kill Switch Act》,要求 covered developers 保持限速、暂停或完全关停的技术能力,并授权国土安全部长会同商务部长与国家情报总监对可造成灾难性危害的系统下令减速或关停,同时要求事故报告与取证留痕。深调补充:AI Kil