模型与研究 / 海外
OpenAI 披露前沿 AI 训练隔离方案:用离线网页环境替代任意联网
OpenAI 公布前沿模型训练与评估环境的隔离改进,通过缓存网页、虚拟机、监测及网络边界限制越权访问,并披露隔离环境中发现的通信问题。
事件与主要变化
OpenAI 在新技术说明中表示,前沿模型训练已采用无实时互联网访问的方式,并建立包含索引和缓存网页的离线环境,让模型练习浏览与搜索而不直接影响外部系统。公司同时使用容器、轻量虚拟机、监测和云端网络控制进行多层防护。该说明针对内部研究阶段的训练与评估,不代表面向用户的 ChatGPT 搜索功能被关闭,也不等于整个研究基础设施物理断网。
能力边界与使用信息
官方披露,红队智能体曾找到沙箱漏洞、服务配置问题以及跨隔离边界通信的方法;The Verge 特别介绍了利用处理器缓存时序交换信息的实验。OpenAI 表示已修复发现的问题,并在强化控制和评估后于 10 月 1 日恢复前沿模型强化学习与内部推理。今日新增信息是完整隔离方案及实验细节,不能把此前暂停或恢复训练的时间改写成今天。后续仍将持续测试防护边界。