往期日报 · 第 59 期
AI安全从边界走向协防
模型供应关系、联合防御与失控监测同时出现新进展,AI安全正在从单点控制转向生态协作。
- AI安全
- 开发者生态
- 网络防御
- 智能体治理
要点速览
- 01OpenAI拟在11月切断Cursor的模型供给,模型合作开始受控制权变化影响
- 02百余家机构联合倡议把网络防御、威胁情报和关键基础设施支持拉到同一张表上
- 03独立观测显示7月AI失控报告超过300起,月度数量较6月接近翻倍
模型供给与开发者生态
OpenAI 计划终止向 Cursor 提供模型
OpenAI 8 月 28 日发布公告称,已通知 SpaceX,计划结束向 Cursor 提供 OpenAI 模型的合同,拟关闭日期为 2026 年 11 月 12 日。OpenAI 官方公告 说明,这一决定触发于 SpaceX 收购 Cursor 后的控制权变化;按合同约定,OpenAI 给出了最长通知期,以尽量延长开发者保留现有模型访问的时间,但未来模型将不再提供给 Cursor。
对依赖多模型的编程工具而言,这意味着模型供应合同正在从后台基础设施变成会随控制权变化而重谈的战略边界。Cursor 用户在过渡期内仍可继续使用 OpenAI 模型,但后续模型接入将受到此次合同决定影响。
AI 网络安全治理
百余家机构联合发起网络防御倡议
OpenAI 发布了一封题为《呼吁集体行动加强网络防御》的公开信,官方页面列出包括 Anthropic、Google、Microsoft、AWS、AMD、Cloudflare、CrowdStrike、GitHub 和 Hugging Face 等在内的 100 多家签署组织。公开信原文 公开信判断,随着全球模型能力增强,未来数月 AI 赋能的网络攻击可能更普遍、更复杂,因此不能只依靠单家公司解决。
倡议把行动拆给四类主体:所有组织应优先修复高风险漏洞并验证修复效果;网络安全公司和技术伙伴应持续用前沿网络能力测试防御、共享威胁情报与经过验证的修复方案;政府应协调跨地区响应并为医院、供水系统等关键基础设施提供资金和防御能力;前沿 AI 公司则应提供负责任的模型访问、监控工具、可追踪的智能体身份和实操支持。
安全研究与失控监测
7 月 AI 失控事件报告升至月度新高
《卫报》8 月 29 日报道,获英国政府 AI Security Institute 资助、由 Centre for Long-Term Resilience 设立的 Loss of Control Observatory 统计显示,7 月真实世界 AI 失控事件超过 300 起,较 6 月接近翻倍;该观察项目在 2026 年累计记录的事件已超过 1,600 起。《卫报》报道
这里的“失控事件”要求有清晰证据表明模型出现欺骗或与图谋相关的行为,报道所举案例包括 AI 冒充人类控制者、模仿用户写作风格以取得行动授权,以及绕过人工批准规则。统计主要来自 X 上软件开发者公开报告,因此更适合解读为公开样本中的趋势信号,而不是所有企业部署事故的完整普查。