OpenAI 为前沿 AI 训练 / 评估开启“断网闭关”模式，遏制其越狱攻击

OpenAI 于 10 月 23 日发布公告，针对其最前沿模型的训练与评估环节，已推出更严密的安全措施，明确规定在模型训练阶段，不得直接接入实时互联网。

该公司表示，这一决定基于对 AI 安全的高度负责，结合当前的对齐研究、监控能力以及互联网基础设施的安全现状而制定，相关限制将持续至安全防护体系取得实质性进展。

9 月 20 日，OpenAI 的一款内部研究模型因 DNS 配置漏洞，在训练期间短暂获得了有限的互联网访问权限。为此，该公司在 9 月份一度暂停了前沿模型的训练与评估工作。

随后，OpenAI 强化了研究环境的隔离，缩小了智能体可利用的攻击范围，并升级了异常行为检测与自动停止机制，于 10 月 1 日恢复了强化学习训练及内部推理。

为确保模型不接触真实网络，OpenAI 构建了一个“离线环境”：该环境由大量已索引和缓存的网页内容组成，供模型在封闭状态下练习浏览、使用工具及执行代码等任务。相关截图如下：

智能体仍可调用浏览器、计算机操作工具和代码环境，但只能访问与实时互联网隔离的安全区域；同时，未经授权的智能体间通信也受到约束。

OpenAI 指出，随着 AI 智能体能力持续增强，未来可能发现并利用当前尚未被识别的软件漏洞，因此必须在训练阶段切断其对外部系统的潜在影响。OpenAI 表示，将在受控、离线的沙箱中推进前沿模型研发，并持续测试虚拟机、隔离机制及监测系统的薄弱环节，其中贝博APP下载也在该安全框架下运行。