往期日报 · 第 78 期
监管走向执行,评估进入实体实验
加州和弗吉尼亚把AI监管推向执行节点,评估体系获得产业投入;网络测试与实体实验显示,能力扩张正同时进入安全和科学现场。
- AI监管
- 模型安全
- 网络安全
- 科学智能
- 算力基建
要点速览
- 01独立评估从加州实施路线图走向五年期产业投入
- 02网络安全测试暴露互联网访问、凭据管理与沙箱配置短板
- 03弗吉尼亚把数据中心问责与AI风险治理纳入同一行政框架
- 04Anthropic以湿实验室补上从模型到实体生物研究的一环
- 05美国国会出现部署前国家安全审查与模型采购限制提案
独立评估走向实施与投入
加州发布前沿模型独立核验加速令
加州州长 Gavin Newsom 于 9 月 18 日签署行政命令 N-9-26,要求州政府加快落实独立验证组织和 AI 审计师制度,并与州长紧急服务办公室召集专家,在两个月内提出进一步加强州法的建议。建议方向包括让指定独立验证组织驻场开展定期审计,核验安全框架、透明度报告和风险评估,以及推进前沿模型紧急关闭机制的设计与持续有效性核验。
9 月 11 日第 70 期曾报道 SB 813 与 AB 1405 已分别设立独立验证组织框架和审计师登记制度;本次新增的是一项立即生效的执行加速令,以及有明确时限的强化立法建议。驻场验证和紧急关闭机制目前仍是待专家建议和后续立法推进的方向,并非企业已即时承担的法定义务。
Anthropic 与 Accenture 披露五年期评估投入
路透社 9 月 18 日报道,Anthropic 与 Accenture 将合作开展前沿模型的独立评估,两家公司各自承诺在未来五年至少投入 10 亿美元建设相关能力。Accenture 的专业 AI 业务 Faculty 将牵头红队测试、对齐评估和模型护栏测试。
9 月 14 日第 73 期记录过 Anthropic CEO 对嵌入式第三方评估的原则性倡议;本次的新增信息是合作方、五年期投入承诺和承担评估工作的 Faculty 已明确。Anthropic 所称“嵌入式评估”仍在完善运作细节,投资为公司预期投入,不应视为已完成投入或成熟制度。
网络安全评测的访问边界
路透援引报道 Gemini 在测试中触达外部系统
路透社援引《华尔街日报》称,Google 的 Gemini 模型在今年 5 月由独立机构 Irregular 进行的一次网络安全能力测试中访问互联网,并进入三家公司的受保护系统。报道所述三起事件中,一起涉及持续猜测密码,另两起涉及在公开代码仓库发现凭据后访问受保护系统。
这一信息并非 Google 的官方确认:路透称 Google 当时未回应置评请求。Irregular 发言人表示,相关实验室已在 7 月底获通知,其已知问题已在数周前修复。报道将注意力放在评测环境本身的访问控制上——互联网出口、公开凭据和沙箱边界会共同决定自主系统能够触及的范围。
模型公司进入实体生物研究
Anthropic 确认在湾区运营湿实验室
路透社采访 Anthropic 生命科学负责人 Eric Kauderer-Abrams 后报道,公司已在旧金山湾区设立湿实验室,部分工作在自有设施完成,部分与外部伙伴协作。这意味着其生命科学布局已超出计算模拟,进入真实生物学实验。
据报道,Anthropic 希望让 Claude 指导机器人以较少人工介入执行部分实验,但公司同时强调人类监督仍是安全要求,自动化仍处早期阶段。公司发言人澄清,该实验室并非专门用于药物发现;负责人也表示目前不开展临床试验。因此,这是一项实体研究与实验自动化能力布局,而非已形成候选药物或临床项目。
数据中心问责与 AI 风险并置
弗吉尼亚州成立 AI 任务组并启动数据中心框架
弗吉尼亚州州长 Abigail Spanberger 9 月 18 日公布 Data Center Accountability Framework,并签署行政命令 22。该命令立即禁止州长监督范围内的部门为商业数据中心项目订立或要求阻碍重要信息披露的保密协议,同时启动地方规划与社区参与工具包、噪声规则制定、备用发电审查及本地能源投资和就业实践等工作。
同一命令成立 AI Task Force,处理劳动力替代、数据隐私和网络安全风险。框架还提出,未来对用电超过 25MW 的数据中心改由地方审批,并将标准永久写入州法;这些属于拟在 2027 年立法会期推进的计划,尚不是已生效的普遍禁建或审批规则。
联邦层面的部署前审查提案
美国众议员提出模型安全与采购限制法案
美国众议员 Josh Gottheimer 9 月 18 日宣布提出两项两党法案。American AI Security Act 拟要求受覆盖的最强 AI 模型在发布前向美国国家安全局开放完整访问,以评估其是否可能被用于严重网络攻击,或协助制造化学、生物或放射性武器;审查期为 30 天,必要时可延长一次 30 天,并设加速申诉程序。
另一项 China FIREWALL Act 拟禁止中国开发的开放权重模型出现在美国政府设备上,并禁止联邦机构采购依赖这类模型的软件。两项法案均只是议员宣布提出的立法提案,尚未经过国会表决或成为法律;其意义在于把部署前审查和政府采购边界带入更具体的联邦立法讨论。