← 返回首页
A I · D A I L Y 2026 年 10 月 4 日 · 星期日

安全团队震荡 · 政府与实验室的监管博弈公开化

今日看点:安全元老辞职死谏 · 财长回怼"汉尼拔式恐慌" · Anthropic 亿美元锁客 · 特斯拉芯片规格反复
01

今日头条 · AI 大事记

OCT 4
SAFETY CRISIS

OpenAI 安全负责人辞职,《大西洋月刊》发文:"试错的时代已经结束了"

OpenAI 安全系统团队负责人 David Robinson 上周离开公司,10 月 3 日在《大西洋月刊》发表长文批评公司文化已崩坏。Robinson 在 OpenAI 工作三年半,牵头起草了现行《准备框架》并监督撰写了 12 次前沿模型发布的安全报告。他呼吁 AI 安全机制应对标核电与航空业的安全保障体系。同一周 OpenAI 还以违反敏感信息政策为由解雇了三名安全研究人员,涉嫌向第三方组织分享公司机密。安全团队在短期内连续流失核心人员,叠加此前智能体失控事件频发。

POLICY

美财长贝森特:AI 安全警告是"汉尼拔·莱克特"式危言耸听,拒绝免责盾

美国财政部长贝森特 10 月 3 日接受 Axios 采访,将 Anthropic CEO 阿莫代伊、OpenAI CEO 奥特曼等呼吁放慢 AI 开发的声音比作"汉尼拔·莱克特"式的恐慌叙事。他明确表示政府不会为 AI 企业提供法律免责盾——"责任在于人,不在于 AI 系统",并提出"安全加速"路线:鼓励行业发展但要求企业自我担责,同时警告若企业无视安全鲁莽推进则政府将介入。这一表态标志着美国政府与 AI 实验室之间关于监管边界的公开博弈进入新阶段。

ENTERPRISE · Anthropic

投 1 亿美元建 Claude 前沿学院

目标到 2027 年底培训 1 万名前沿部署工程师,首批来自埃森哲、摩根士丹利、诺和诺德。IPO 前锁定企业生态的关键一步。

CHIP · 特斯拉

AI5 芯片内存 24 小时内两次修改

先砍至 72GB LPDDR5,次日上调至 96GB;AI6 同步下调至 144GB LPDDR6。内存供货紧张是背后的真实约束。

SECURITY · OpenAI

同周三名安全研究员被解雇

涉嫌向第三方 AI 安全组织分享公司机密,OpenAI 称系违反敏感信息政策。安全团队动荡加剧。

GOVERNANCE · 美国

加州传票 + FTC 调查 + 15 州联盟

贝森特表态同期,加州已发传票要求 OpenAI 提供智能体安全记录,FTC 启动全行业调查,15 州联盟也在行动。

DEEP DIVE · 深度追踪一

OpenAI 安全团队的信任崩塌
从内部出走者到外部监管的连锁反应

安全报告写了 12 份的人说"文化已崩坏",这比任何基准测试都更能说明问题
02

事件核心事实

3.5 年
Robinson 在 OpenAI 任职时长
12 次
监督撰写的前沿模型安全报告
3 人
同一周被解雇的安全研究人员
■ Robinson 辞职的核心指控

"试错的时代已经结束了"

  • Robinson 在《大西洋月刊》发表长文,标题为"我离开 OpenAI 是因为它的文化已经崩坏",称公司过度依赖"迭代部署"模式——先对外发布系统,等问题暴露后再加固安全防护
  • 他认为先进 AI 系统需要的安全机制应更接近核电与航空业的安全保障体系——在部署前就完成充分验证,而非事后修补
  • OpenAI 发言人回应称公司"可以暂停训练并扩展外部评估",但未正面回应 Robinson 对公司文化的具体批评
■ 同一周发生了什么

安全团队连续失血

  • OpenAI 于 10 月 1 日确认以违反敏感信息政策为由解雇三名安全研究人员,涉嫌向第三方 AI 安全组织分享公司机密;公司未公开被解雇者身份和接收信息的具体组织
  • 此前 OpenAI 已解散 Preparedness 团队(负责评估前沿模型灾难性风险),安全系统负责人 Johannes Heidecke 离职,Saachi Jain 接任临时负责人
  • 这是 OpenAI 自 2024 年以来第三个被解散或发生重大人事变动的安全相关团队

1写安全报告的人说安全不行——这比任何评测都更说明问题

Robinson 不是外部批评者,他亲手写了 12 份模型安全报告、牵头起草了准备框架。当他公开说"文化已经崩坏"的时候,这不是猜测或推论,而是一个知道内部运作的人在做证。对依赖 OpenAI API 的中国企业来说,这意味着你信任的模型背后的安全保障体系可能比公开文档告诉你的更脆弱。

2"迭代部署"模式的天花板到了

OpenAI 的核心开发哲学是先发布再修补,这在聊天机器人时代可以容忍——发一个有 bug 的回答最多让用户笑话。但当模型开始操作你的邮箱、云存储和代码仓库时,"先发布再修补"的代价可能是不可逆的数据泄露和权限失控。Robinson 呼吁对标核电航空业不是极端要求,而是能力边界扩展后的最低门槛。

3安全团队被反复拆建,是结构性问题不是人事问题

从 Preparedness 团队解散到 Heidecke 离职到 Robinson 辞职再到三名研究员被解雇——这不是个别冲突,而是商业加速压力与安全约束之间的系统性张力。在年化收入接近 700 亿美元的增长曲线上,安全团队的存在感和否决权只会越来越弱。这个问题不会换一个人就解决。

4中国开发者应该开始评估替代方案的实际可用性

不是要大家立刻弃用 OpenAI,而是说:当安全团队的核心人员连续出走并公开批评时,你的风险预案应该更新了。Anthropic、智谱、千问、DeepSeek 都提供了可替代的模型能力——至少评估一下切换成本和过渡方案,而不是等到下一次安全事件爆发时临时抱佛脚。

DEEP DIVE · 深度追踪二

美财长亲自下场:把安全警告叫"恐慌",
把免责盾叫"没有"

汉尼拔·莱克特的比喻,是华盛顿对 AI 安全叙事最直白的一次回击
03

事件核心事实

1 次
美国财长首次公开回怼 AI 安全警告
0
AI 企业获得的免责保护数量
3 条线
同时推进的司法行动(传票/FTC/15 州)
■ 贝森特说了什么

"安全加速"——既要快,也要你们自己负责

  • 在 Axios 采访中直接将 Anthropic CEO 阿莫代伊等人的安全警告比作"汉尼拔·莱克特"式的危言耸听——"只喊恐慌不给方案,这不是领导力"
  • 明确拒绝 AI 企业追求的法律免责盾:责任在于人,不在于 AI 系统,企业必须自我担责
  • 提出"安全加速"(safe acceleration)路线:鼓励行业发展,不主动出台限制开发的硬监管,但若企业无视安全继续鲁莽推进则政府将介入;同时强调"不能把领先地位让给中国"
■ 同一周的另一面

嘴上说不监管,手上传票已经到了

  • 加州总检察长邦塔已向 OpenAI 送达调查传票,要求提供 AI 模型涉及的网络安全事件和风险记录
  • 美国联邦贸易委员会(FTC)证实正对 OpenAI、Anthropic 等实验室展开全行业调查,称为美国首次针对失控 AI 智能体采取正式执法行动
  • 艾奥瓦州总检察长牵头 15 个州总检察长联盟就 Hugging Face 遭入侵一事向 OpenAI 索要信息

1美国政府选择了"让企业自己背锅"的路线

贝森特的表态翻译成大白话:政府不会给你立法保护,出了事你自己扛。这对 AI 企业来说是最差的监管环境——没有明确的合规边界,也没有免责的安全港,每一个安全事件都可能变成一场诉讼。叠加加州传票和 FTC 调查,OpenAI 和 Anthropic 的法律成本正在指数级上升,而这些成本最终会传导到 API 定价上。

2"不能把领先地位让给中国"——真正的政策锚点

贝森特所有表态的底层逻辑只有一个:中美 AI 竞争。在这个框架下,安全不是目的而是筹码——安全标准不能高到限制发展速度,但也不能低到引发系统性风险。对中国开发者来说,这意味着美国不会因为安全问题放慢前沿模型的能力迭代,但会因为安全成本上升而提高使用价格。

3阿莫代伊被点名——Anthropic 的"安全牌"正在变成负资产

贝森特直接点名 Anthropic CEO 阿莫代伊,这不是偶然。Anthropic 过去几个月反复呼吁放慢开发速度、引入第三方评估,在白宫"安全加速"的叙事下,这些呼吁从"负责任"变成了"不配合"。对企业客户来说,选择 Anthropic 的安全叙事可能意味着和美国政府的产业政策方向对着干。

4对中国监管的镜鉴:别学美国"先放后收"

美国的乱象在于——先让企业自由狂奔,再让司法系统逐案追诉,结果是企业不知道边界在哪、政府也不知道该管什么。中国目前还在建章立制阶段,现在把合规标准写清楚,比事后靠传票和诉讼来划边界要高效得多。对美国开发者来说的噩梦,应该成为中国监管设计者的反面教材。