OpenAI 首席科学家帕乔基(Jakub Pachocki)9月6日发表长文《An Alien Mind》,写道"当前没有任何一家实验室在对齐和监控上做到足以负责任地以最高速度持续扩展太久",并基于内部结果表示"强烈预期当前进步速度可持续到递归自我改进阶段"。与此同时 OpenAI 同日发布的另一份报告主张"加速研究",两者形成罕见的内部矛盾。
据路透社报道,中美双方正筹备特朗普第二任期以来首次 AI 安全专项双边对话,美方代表团可能由财政部长贝森特率领,时间窗口在 9 月 24 日特习会之前。核心议题涵盖网络攻击追踪、蒸馏争议(直接点名月之暗面 K3 蒸馏指控)和前沿模型能力评估。但白宫发言人称"目前尚未安排"。
路透社独家看到内部备忘录:博通设计+台积电代工,六周测试零重大问题,定位补充而非替代英伟达。
今年 7GW → 2027 年 14GW,2026 年 AI 基建支出最高 1450 亿美元。已与三星、闪迪、住友电工签长协。
美方将在会谈中提出月之暗面 K3 蒸馏 Anthropic Fable 的指控,中国开源模型能力评估也被列入议程。
AI 安全会谈是特习会的关键前置交付物,能否如期举行将直接影响两国 AI 领域的博弈走向。
过去两年安全呼吁已经泛滥到脱敏。帕乔基这篇的分量在于三点:一是他的身份——现役首席科学家,不是离职后的良心发现;二是他的判断——首次公开承认递归自我改进已经可预期;三是发出的时间点——Astra 发布后 72 小时内,公司最得意的时候。
OpenAI 同时在发两种信号:商业端说 AGI 已来、加速研究;安全端说还没准备好。对投资者来说这是正常的"一边踩油门一边系安全带";但对监管者和竞争者来说,这种内部矛盾恰恰说明行业自律机制已经失效——需要外部规则介入了。
直觉上帕乔基呼吁减速,大陆应该加速追赶。但逻辑不成立:如果头部实验室的判断是"对齐还没做好但递归自我改进已经在路上",那安全问题不分国界。大陆 AI 安全研究者的真正任务不是趁机抢速度,而是确保自己的安全基线不低于呼吁中的 shared safety bars。
帕乔基呼吁"AI 国际协调应成为各国政府最优先议题"——48 小时后,中美拟启动首次 AI 安全专项会谈。这可能是巧合,也可能是帕乔基在为会谈造势。无论哪种,安全议题正在从学术讨论变成外交筹码。