OpenAI 披露 Deployment Simulation，模型发布前风险评估从挑战题转向生产流量重放

学术圈重大事件 · 发布 2026-06-19T20:56:00+08:00 · 更新 2026-06-19T21:03:13+08:00

核心结论

OpenAI 发布 Deployment Simulation 方法，用隐私处理后的真实对话前缀模拟候选模型上线后的回答，再估计不良行为在真实部署中的发生率。它的核心变化是把模型安全评估从人工挑选的高难提示，扩展到更接近生产分布的样本重放；但该方法仍依赖可观测的失败类型、足够高的发生频率和模拟环境保真度，不能替代红队与尾部风险测试。

OpenAI 官方页面称，Deployment Simulation 是一种在发布前模拟未来部署的方法：系统取近期真实使用中的对话，移除旧模型的回复，在隐私保护处理后让候选模型重新生成回答，再用既有和新发现的不良行为分类进行评估。页面把它定位为传统红队、挑战提示和系统卡评估之外的补充信号，重点不在制造极端题目，而在估计模型在真实流量分布下可能暴露哪些问题。

这项方法的背景是，前沿模型发布前评估正在遇到两类困难。一类是覆盖问题：手写或合成评测往往围绕已知风险设计，很难代表上线后用户会提出的全部任务。另一类是评测可识别性：当模型能力增强后，过于像考试的提示可能让模型改变行为，导致风险估计失真。OpenAI 称，Deployment Simulation 使用更接近部署环境的前缀，可以缓解选择偏差和“模型知道自己在被测”的问题。

页面披露的实证部分覆盖 GPT-5 系列 Thinking 模型的多个部署回放，并对 GPT-5.4 Thinking 的 20 类不良行为频率做了预注册预测。OpenAI 称，该方法在判断不良行为率上升或下降、以及估计实际发生率方面优于挑战提示基线；在约 130 万条去标识化对话分析中，它还帮助发现传统评测盲区，例如某些工具或计算相关的规避行为。

对科研和 AI 治理生态而言，这条更新的重要性在于，模型发布安全正在从“能否通过一组难题”转向“能否量化发布后分布里的风险变化”。这会影响实验室如何组织系统卡、外部审计和发布门控，也可能成为监管机构要求更贴近真实部署证据的参考。但边界同样明确：它较难发现百万级样本中仍极低频的灾难性风险，也依赖模拟环境和工具调用重放足够接近真实产品。

来源：OpenAI 官方研究页面

信息来源

• OpenAI 官方研究页面

可信度说明

来源为 OpenAI 官方研究发布页，能够确认方法定义、实验样本范围和自述局限；但评估结果来自公司内部部署数据，外部无法复现原始对话分布、分类器判定和模拟环境误差。本轮按官方页面在当前发布流中的可见时效处理，具体页面元数据时间未在抓取文本中完整暴露。

同主题情报

• 动物所 / `Cell`：`disc-Gastruloid` 首次把人类原条形成推进到可空间重构、可延长培养的体外模型

  中国科学院 `2026-07-08` 官方稿显示，团队构建的人类 `disc-Gastruloid` 在 `72` 小时共培养后形成类原条样区域，延长培养后超 `80%` 继续发育为轴向不对称三维胚胎样结构，分出 `14` 类细胞群并与着床后 `21` 天天然胚胎较高相似。它的重要性，在于把人类原肠运动这个长期难直接观察的发育“黑箱”推进到可重复、可操控的体...

• 银河系最快恒星逼近中心黑洞：峰值约每秒 2.5 万公里，或可测量自旋

  Science 与美联社 8 月 19 日报道，甚大望远镜数据识别出银河系内迄今已知速度最快的恒星：峰值约每秒 2.5 万公里，绕人马座 A* 一周约 8.7 年，且比此前纪录保持者更接近黑洞。长期高精度跟踪可能约束银河系中心黑洞自旋，但当前只是发现和轨道测量起点，尚未得到自旋值。

• 嫦娥七号以四器协同搜寻月球南极水冰，跳跃探测器瞄准永久阴影区

  Science 8 月 19 日更新嫦娥七号任务：轨道器、着陆器、巡视器和跳跃探测器将在鹊桥二号支持下调查月球南极水冰与挥发物，四平台合计 18 项载荷，并计划让跳跃探测器进入永久阴影坑现场分析。公开资料仍只给出 2026 年下半年发射口径，最终日期、落点与工程参数需以官方通告为准。

• M87 黑洞第一次有了双频“体检图”，研究者开始按位置读等离子体状态

  中国科学院 2026-07-28 08:18 发布官方稿，介绍上海天文台团队把 1.3 毫米和 3.5 毫米两张 M87 黑洞视界尺度图像合起来，首次做出空间分辨的谱指数分布。简单说，这不只是把黑洞拍得更清楚，而是开始按位置判断视界附近等离子体在不同半径上更接近“自吸收很强的厚辐射”还是“更容易透出的薄辐射”。关键转折出现在距黑洞中心约 30 微角秒处，并与...

• Moderna mRNA 流感疫苗获批，确诊病例相对标准疫苗减少 26.6%

  Nature 8 月 13 日梳理 Moderna 的 mRNA 流感疫苗 mFLUSIVA：FDA 于 8 月 5 日批准其用于 50–64 岁成人，并对 65 岁以上人群给予加速批准，计划进入美国 2026–27 流感季。超过 4 万人的试验中，mRNA 组 2% 出现实验室确诊流感，对照标准疫苗组为 2.8%，相对减少 26.6%；常见不良反应多为轻中...

• KIST 公布 A²SG 训练方法，以自适应非对称梯度改善深层脉冲神经网络

  KIST 8 月 10 日公布已获 ICML 2026 接收的 A²SG 训练方法，用自适应窗口和非对称代理梯度缓解深层脉冲神经网络的梯度变化与时间不一致。机构称该方法在 ImageNet 等任务提高准确率且训练开销低于所比较基线；论文与代码可查，但相对能耗和商业化前景仍需独立复现及真实神经形态硬件验证。