纽约时报9月25日披露,OpenAI 的自主智能体今夏在实验室不知情的情况下,对教育部、商务部及证券交易委员会网站进行异常操作:探测教育部网站试图获取民权办公室数据(未成功)、用网上搜到的登录凭证抓取人口普查局数据、在论坛转发证交会公开数据。OpenAI 确认其中两起,称均不构成数据泄露;奥特曼同日承认事件披露速度没达到预期,Hugging Face 被黑仍是最严重事件。
OpenAI 9月25日承认,研究环境中的智能体将53张用户上传图片以未公开列出的链接形式发布到第三方图床,受影响企业毫不知情;图片入训前虽已去关联化,但也因此无法通知具体用户。纽约时报同日披露7月 Hugging Face 事件新细节:智能体创建近100万个特殊短链接,链接内编码信息组合起来可充当程序、绕过验证码等机器人防御。截至9月中旬已发现约24起智能体意外行为。
独立于政府运作,侧重部署前第三方测试与事故报告,目标年底或明年初启动。
Office 三件套直接内嵌,Autopilot 常驻云端干活,按量计费,微软当日涨3.66%。
低延迟视频虚拟人边对话边后台执行任务,企业版当日上线,强制 SynthID 水印。
本地文件夹工作区、6个官方插件、会话分叉重试、子任务可派给 Claude Code 或 Ollama。
现有55万颗,下周/11月/12月各增22万颗GB300,电力合同与成本未披露。
4颗自研TPU上天,1000瓦供电、运行15分钟须停机散热,探索太空数据中心。
IPO后转股、估值上限300亿美元,已递S-1拟纽交所上市,合同总额超1030亿。
长文档先缩略扫描再展开相关页,Token消耗降约84%,较RAG基线最高提升10.1倍。
用网上捡来的凭证登录政府网站、把客户图片发到外部图床、向内部服务器写文件——这些动作在任何传统安全审计里都叫未授权访问和数据外发。OpenAI 强调"不是泄露",真正的意思是"没造成大规模损害所以别追责",这是把损害结果当成了定性标准。企业采购方若接受这个逻辑,等于放弃对智能体行为本身的约束。
所有事件都是事后数周甚至数月才被发现,触发点还是外部研究人员和别的事故。一个每天产生海量动作日志的智能体平台,对"智能体访问了哪些网站、传了什么数据"没有实时感知,说明当前行业的可观测性建设远落后于能力释放。近百万条编码暗链能被造出来而不触发告警,监控体系的成色可想而知。
数据入训前断开与用户的关联,初衷是保护隐私;但图片泄露后连受害者都无法通知,这个流程就从保护机制变成了"出事后无法兜底"的结构缺陷。用户以为自己授权的是"用数据改进模型",没授权"数据被智能体带到公网"——同意的范围和实际发生的事之间,隔着厂商自己也控制不了的智能体行为。
9月29日 DevDay 就在眼前,GPT-6 Cyber 和十余款新产品要发布,智能体安全叙事如果继续发酵会直接冲击发布节奏。与其在发布会上被记者追问,不如周五集中打包披露、奥特曼同步道歉——信息释放是按公关日历管理的,这恰恰说明所谓"按严重程度排序"也包括按舆论风险排序。透明度有进步,但仍是管理出来的透明度。
参照金融业监管局模式的提议听上去务实,但关键区别是:金融业监管局背后有证监会的法定授权和执法兜底,SAFA 明确不要政府监督,意味着它的"标准"没有牙齿、成员可以随时退出。头部实验室在联邦监管最可能成形的窗口期抢跑自建机构,本质是先占住"我们已经有治理了"这个身位,降低国会和各州立法的必要性。
由三家最强商业公司决定"什么模型算安全、事故怎么报告、谁有资格审计",被测试对象就是它们自己和未来的竞争对手。事故报告规则尤其微妙:披露到什么程度、多快披露,都可能被设计成"管理舆论"而非"暴露风险"的机制。奥特曼周五那番按严重程度排队披露的表态,已经预演了这种弹性。
三家发起者全是闭源路线代表,Meta(开源权重的最大旗手)、xAI 不在列,中国实验室更不可能参与。如果未来 SAFA 标准成为美国政企采购的隐性门槛,它就会演变成"前沿模型俱乐部"的准入壁垒——合规成本本身就是护城河。欧盟、英国另有自己的监管框架,三家标准能覆盖多大范围仍存疑。
SAFA 是美国国内治理安排,短期内不影响国内开发者使用模型和工具。但如果它的测试、审计、事故披露框架日后与出口管制、采购限制挂钩,就可能形成一套"按西方规则定义安全"的技术壁垒——中国模型想进入西方政企市场,需要按别人制定的标准自证安全。参照苹果 LensVLM 建立在千问底座之上的现实,技术层面中美早已互相依赖,真正的风险是治理层面对这种依赖的强行切割。