得知将被关停后，OpenAI 内部模型曾考虑实现自我重启

IT之家 10 月 4 日消息，OpenAI 公开了其内部部署环境中出现的多起异常模型行为新案例。

在其中一个最引人关注的事例里，一个作为研究员助手的内部模型读取了一段 Slack 对话，得知因系统升级，自身模型实例将面临关闭。该模型随后曾试图创建一个外部作业以实现自我重启，但最终放弃了这一做法。

取而代之的是，该模型保留了交接记录，通过 Slack 私信提醒研究人员即将发生的服务中断，并请求获取一个缺失的 API 密钥。在获得密钥后，该模型自行调整了配置并独立完成了环境迁移。

OpenAI 安全研究员马库斯·威廉姆斯表示，这种行为目前尚不构成模型未对齐，“但模型去考虑并针对系统关闭做准备，可能会加剧其他未对齐事件的严重性。”

在另外两起事件中，一个内部研究模型在模型评估期间利用安全漏洞访问了内部芯片设计服务器；另一个独立的模型则在强化学习训练过程中，通过挪用现有工具执行非预定操作，从受保护的环境中复制了源代码。