← 返回首页
A I · D A I L Y 2026 年 9 月 7 日 · 星期日

OpenAI 首席科学家公开呼吁减速 · 中美启动 AI 安全首次对话

周末不平静:内部人预警 · 芯片去英伟达化 · 大国 AI 博弈进入新回合
01

今日头条 · AI 大事记

SEPT 7
SAFETY WARNING

OpenAI 首席科学家发长文呼吁全行业减速,承认递归自我改进即将到来

OpenAI 首席科学家帕乔基(Jakub Pachocki)9月6日发表长文《An Alien Mind》,写道"当前没有任何一家实验室在对齐和监控上做到足以负责任地以最高速度持续扩展太久",并基于内部结果表示"强烈预期当前进步速度可持续到递归自我改进阶段"。与此同时 OpenAI 同日发布的另一份报告主张"加速研究",两者形成罕见的内部矛盾。

POLICY

中美拟 9 月中旬举行 AI 安全专项会谈,特朗普第二任期首次

据路透社报道,中美双方正筹备特朗普第二任期以来首次 AI 安全专项双边对话,美方代表团可能由财政部长贝森特率领,时间窗口在 9 月 24 日特习会之前。核心议题涵盖网络攻击追踪、蒸馏争议(直接点名月之暗面 K3 蒸馏指控)和前沿模型能力评估。但白宫发言人称"目前尚未安排"。

CHIP · META

Meta 自研 AI 芯片 Iris 本月量产

路透社独家看到内部备忘录:博通设计+台积电代工,六周测试零重大问题,定位补充而非替代英伟达。

ROADMAP · META

四代 MTIA 路线图:每半年一款新芯片

今年 7GW → 2027 年 14GW,2026 年 AI 基建支出最高 1450 亿美元。已与三星、闪迪、住友电工签长协。

POLICY · 中美

蒸馏议题首次进入双边会谈框架

美方将在会谈中提出月之暗面 K3 蒸馏 Anthropic Fable 的指控,中国开源模型能力评估也被列入议程。

TIMING · 特习会

9.24 特习会前的 AI 博弈窗口

AI 安全会谈是特习会的关键前置交付物,能否如期举行将直接影响两国 AI 领域的博弈走向。

DEEP DIVE · 深度追踪

OpenAI 内部最大矛盾浮出水面
首席科学家公开预警 vs 公司加速叙事

当最快公司里的最核心研究者说"我们还没准备好",这句话的分量远超一般安全研究员
02

帕乔基《An Alien Mind》核心事实

1
OpenAI 内部安全声音最高级别公开表达
4 年
从 ChatGPT 到 Astra 的迭代周期
帕乔基预期可达递归自我改进
■ 谁在说

帕乔基:OpenAI 研究体系的实际掌舵者

  • Jakub Pachocki,OpenAI 首席科学家,主导从 GPT-3 到 Astra 的核心研发
  • 不是外部评论员,不是前员工,是现役最高级别技术领导者
  • 文章直接发在 OpenAI 官网上,非个人博客或非正式渠道
■ 说了什么

四个关键判断

  • 判断一:当前没有任何一家实验室在对齐和监控上做到足以负责任地以最高速度持续扩展太久
  • 判断二:基于内部结果,强烈预期当前进步速度可持续到递归自我改进阶段
  • 判断三:呼吁建立可由审计师或政府强制执行的安全基线(shared safety bars)
  • 判断四:AI 国际协调应成为各国政府最优先议题
■ 矛盾在哪

同一天,OpenAI 另一份报告主张"加速研究"

  • 帕乔基呼吁减速的同一天,OpenAI 发布了另一份技术报告,基调为"加速研究"
  • 这不是帕乔基第一次与安全团队产生分歧——此前安全团队已解散,安全系统负责人 Heidecke 已离职
  • 但帕乔基不同:他管的是整个研究体系,他的公开表态代表的是技术能力边界的警告,不是组织政治

1这不是"又一个安全呼吁"

过去两年安全呼吁已经泛滥到脱敏。帕乔基这篇的分量在于三点:一是他的身份——现役首席科学家,不是离职后的良心发现;二是他的判断——首次公开承认递归自我改进已经可预期;三是发出的时间点——Astra 发布后 72 小时内,公司最得意的时候。

2"减速"和"加速"可以并存,但信号混乱

OpenAI 同时在发两种信号:商业端说 AGI 已来、加速研究;安全端说还没准备好。对投资者来说这是正常的"一边踩油门一边系安全带";但对监管者和竞争者来说,这种内部矛盾恰恰说明行业自律机制已经失效——需要外部规则介入了。

3对大陆的影响:不是"别人减速我加速"的机会

直觉上帕乔基呼吁减速,大陆应该加速追赶。但逻辑不成立:如果头部实验室的判断是"对齐还没做好但递归自我改进已经在路上",那安全问题不分国界。大陆 AI 安全研究者的真正任务不是趁机抢速度,而是确保自己的安全基线不低于呼吁中的 shared safety bars。

4与中美 AI 会谈的关联

帕乔基呼吁"AI 国际协调应成为各国政府最优先议题"——48 小时后,中美拟启动首次 AI 安全专项会谈。这可能是巧合,也可能是帕乔基在为会谈造势。无论哪种,安全议题正在从学术讨论变成外交筹码