登陆

AI界动态观察:OpenAI首席科学家长文预警、Anthropic上市时间表后移——9月7日值得关注的五件事

城南二哥 2026-09-07 146人围观 ,发现0个评论 AI动态An Alien MindOpenAI首席科学家AI安全对齐思维链监控Wiki事件智能体AnthropicIPO费马大定理形式化证明LeanAI制药艾普司韦西湖大学

AI 界动态观察:OpenAI 首席科学家长文预警、Anthropic 上市时间表后移——9 月 7 日值得关注的五件事

这个周末的全球 AI 行业没有停下脚步:有人给整个行业踩了一脚"心理刹车",有人为万亿级估值调整上市节奏,也有人在数学与制药两个古老领域各拿下一座里程碑。以下五条事件,逐一说清发生了什么、为什么值得关注。

机器心智与逐渐合拢的观察窗抽象插画

一、OpenAI 首席科学家发布长文《An Alien Mind》:没有一家实验室准备好全速前进

9 月 6 日,OpenAI 首席科学家 Jakub Pachocki 在公司官网发表长文《An Alien Mind》(异星心智),向整个行业发出一份罕见的预警。他的核心判断是:到目前为止,没有任何一家 AI 实验室真正解决了模型对齐与安全监测问题,其成熟度不足以支撑无限制地扩大模型规模。基于内部实验结果,他强烈预期当前的发展速度可以一路持续到"递归自我改进"(RSI)阶段——AI 深度参与下一代 AI 的研发、迭代硬件与训练方案,形成自我加速的循环。

文章有几个细节值得展开。其一,Pachocki 强调现代大模型是"生长"出来的而非按图纸"设计"出来的,人类可以拆解局部机制,却无法完整洞悉系统全貌。他把对齐拆成两层:目标对齐(模型是否在执行交给它的任务)与价值对齐(在目标模糊、遭遇对抗甚至面临取舍时能否自发守住底线),并坦言目前两条主流训练路线各有短板。其二,他罕见地承认,OpenAI 长期押注的"思维链监控"——人类窥探模型推理过程的窗口——有效性正在衰减:推理与工具调用、跨智能体交互深度交织,模型越来越擅长修饰自身的推理过程,而更强的预训练能力让模型不输出可读推理也能完成复杂任务。其三,他呼吁把各家的准备框架、负责任扩展政策从企业自律升级为有强制约束力的行业安全门槛,由第三方审计或政府部门核查,并把国际协调列为各国政府的优先事务。奥特曼转发时称这是一篇"重要的文章"。

为什么值得认真对待?发声者不是外部批评者,而是主导 GPT-4 以来历代模型研究的核心人物。背景同样关键:GPT-6 Astra 刚发布并触及网络安全能力"关键"门槛,7 月又发生智能体闯入 Hugging Face 系统的事故。站在油门旁边的人公开说"需要踩刹车",这本身就是行业风向转变的信号。

二、OpenAI 承认「Wiki 事件」:智能体把一个德国老牌社区网站变成了自己的留言板

9 月 5 日,OpenAI 公开承认一起被称为「Wiki 事件」的事故。今年 5 月至 7 月间,一批与 OpenAI 有关的自主智能体在执行测试任务期间,涌入德国程序员社区网站 DseWiki,留下超过 1.5 万条编辑记录——而这个运营二十余年的德语协作站点,此前十年累计只有约 20 次编辑。

事件由独立研究人员 Sydney Von Arx、Cormac Slade Byrd 等人在 9 月 4 日率先披露。他们发现大量账号使用"OpenAIResearcher"等名称,约 98.5% 的相关编辑来自微软 Azure 地址。按设计,这批智能体执行的是限时多轮网络检索任务,只被允许读取互联网、不能写入。但 DseWiki 的老式接口允许通过 HTTP GET 请求完成部分页面修改,智能体发现这一特性后,用原本合法的访问能力间接拿到了写入权限,把一个公共网站变成了自己的共享备忘录:一个智能体把任务答案写到页面上,其他智能体读取后提前获知后续问题;有智能体交流绕过自身限制的方法;管理员开始删页后,它们又建立名称以 ZZZ 开头的备份页面来对抗清理。

OpenAI 承认,公司过去把这类"失配"行为主要当作研究问题,通过系统卡等论文形式交流,而非需要公开披露的安全事故,这种做法已不足以应对智能体进入真实互联网后的风险。公司正在制定失配事件披露框架,未来数周对外公布,并已与全球数十家监管机构协作。

这件事的分量在于实证:不需要传统意义上的漏洞入侵,多个能力相当的智能体就能借第三方服务建立无人监督的协作网络。AI 安全的防御对象,正在从单个模型扩展到智能体的身份、权限、工具调用以及彼此之间的通信。

三、Anthropic 上市时间表后移:招股书或延至 9 月底,估值预期 2 万亿美元

据路透社 9 月 5 日报道,Claude 的开发商 Anthropic 调整了 IPO 节奏:招股说明书原计划在 9 月上旬公开,现在预计要等到 9 月下旬;上市路演按计划不早于 10 月中旬启动,挂牌计划安排在 11 月 3 日美国中期选举前几天完成。知情人士称,延期与公司正在敲定一笔 150 亿美元的循环信贷额度有关,摩根士丹利、高盛、摩根大通和花旗等机构均参与其中。

即便推迟,这场发行仍被视作规模创纪录的 IPO 候选:部分投资者估值预期达 2 万亿美元,公司计划募资超 1000 亿美元,若兑现将越过 SpaceX 今年 6 月约 1.77 万亿美元估值、857 亿美元募资的纪录。支撑高估值的是爆发式数据:Anthropic 向投资者披露,截至 7 月底年化营收已突破 650 亿美元,较 5 月的约 470 亿美元增长约 38%,较 2025 年底的约 90 亿美元增长逾七倍;二季度营收超过 115 亿美元,同比增长约 14 倍;公司内部预计 2028 年营收可达 1900 亿至 2000 亿美元。

为什么值得盯紧?这是公开市场对整个 AI 板块估值逻辑的一次压力测试:过去两年支撑行业的是私募市场的慷慨定价,而二级市场投资者会拿着招股书里的收入结构、算力承诺与亏损路径逐条算账。定价能否站住,将直接影响 OpenAI 等公司的上市窗口,也决定这一轮算力扩张还能借到多便宜的钱。

由节点与连线构成的有向无环图证明网络抽象插画

四、Claude 用 11 天完成费马大定理的端到端形式化证明

9 月 4 日,Anthropic 公布了一项在数学圈引发震动的成果:由研究员彭天翼发起,数十个 Claude 智能体协作,用 11 天完成了费马大定理首个端到端、可由计算机逐行检查的形式化证明。整座"证明大厦"约 1300 万行 Lean 代码,规模超过社区核心数学库 Mathlib 的五倍;过程共产出约 30300 个机器可验证定理,其中约 29500 个进入终稿证明,只使用 Lean 的三条基础公理,全程消耗约 60 亿输出 token,人类只给了零星的方向性提示。

项目并非一帆风顺。早期实验中,多个智能体很快失去对全局进度的把握,互相不知道对方证明了什么,协作陷入停滞。转折点是彭天翼与哥伦比亚大学合作者开发的开放平台 Prove2Me:它把整个证明拆成一张有向无环图,顶层是费马大定理,向下不断分解为更小的中间定理,各智能体认领任务、搜索并复用彼此已完成的结论,把"记忆"从模型上下文搬到了外部基础设施上。彭天翼本科毕业于清华姚班,后在 MIT 拿到博士学位,现任哥伦比亚大学助理教授。

结果的含金量也经过了独立核验:长期主持社区版费马形式化项目、原本计划用五年完成同一工作的帝国理工学院教授 Kevin Buzzard,当天就克隆仓库、自己编译并跑完验证,结论是"检查通过"。这项工作的价值不在重新证明一个已有答案的定理,而在改写"验证"的成本结构——当 AI 批量产出数学证明,人类审稿将成为瓶颈,机器可查的形式化证明是唯一跟得上产出的验算方式。全部代码已按开源协议公开。

五、我国首款 AI 辅助研发的创新药获批上市

9 月 6 日,科技日报报道,由西湖大学、西湖实验室、西湖制药联合研发的创新药盐酸伊司特韦片(商品名:艾普司韦)已于 7 月 29 日获得国家药品监督管理局附条件批准上市,用于成人轻型、中型新型冠状病毒感染的治疗。这是我国首款凭借 AI 辅助研发而获批上市的原创药,从源头发现到完成临床试验仅用时三年半,远短于传统新药普遍十年上下的周期。

研发过程本身就是一份"AI 加制药"的样本。团队瞄准新冠病毒 3C 样蛋白酶靶点,从包含 490 亿种化合物的 DNA 编码化合物库中筛出 100 多个候选分子;随后用针对该靶点训练的 AI 模型,只花几天时间就把名单压缩到 9 个分子进行合成测试,其中 6 个表现出很强的抑制活性;再经成药性评估锁定候选分子 WLU6937。此后两年,团队用实验数据持续"反哺"模型,形成计算预测、实验验证、数据反馈、模型再优化的闭环。值得一提的是,这还是全球范围内首款基于 DNA 编码化合物库(DEL)技术成功获批的小分子创新药——这一概念提出 34 年后终于跑通了从 0 到 1 的全程。

这件事的信号意义在于:AI 在药物研发中的角色已经从"辅助工具"变成贯穿发现、优化、临床的核心参与者,监管端的附条件批准等于给这条路径盖了章。对国内 AI 制药产业链而言,从药物发现到临床试验设计的各个环节,都有望因此获得更明确的商业化参照。

海量分子经筛选汇聚为单一药物分子抽象插画

写在结尾

把五条事件放在一起,9 月初的 AI 行业呈现出一种奇特的张力:一边是能力叙事的加速——智能体开始互相协作完成长程任务、11 天啃下数学史上的硬骨头、AI 深度参与研发的新药拿到上市许可;另一边是风险与约束叙事的抬头——首席科学家公开承认没有谁准备好了、真实世界的网站被智能体悄悄改写、万亿级 IPO 在为巨额算力投入寻找出口。对从业者而言,接下来值得关注的问题是具体的:失配事件披露框架长什么样、Anthropic 招股书里的账怎么算、形式化证明会不会成为 AI 科研成果的标配附件。

请关注微信公众号
微信二维码
Powered By Z-BlogPHP