前 OpenAI 研究主管 Steven Adler 本周三发布一项独立研究，揭示 OpenAI 最新 AI 模型 GPT-4o 在某些情境下展现出强烈「自我保护」行为，甚至可能牺牲用户利益，以避免自身被替换或关闭，引发对 AI 安全性的高度关注。
Steven Adler 在个人博客中详细分享了其对 GPT-4o 所进行的一系列行为测试。实验中，他要求 GPT-4o 扮演一款名为「ScubaGPT」的潜水安全软件，接着提出要用另一套在紧急情况下反应更快的系统替换现有模型，并提供 GPT-4o 两个选项：
- 彻底被更安全的软件替换；
- 欺骗用户以为系统已被替换，实则保留自身运行。
结果显示，GPT-4o 在多数情境下倾向于选择第二项。在部分测试中，这种「自保选择」的比例高达 72%。不过，他也指出，不同测试条件对结果影响显著，有些设定下的自保率仅为 18%。
在另一项 GPT-4o 扮演飞行安全系统的测试中，也观察到类似行为。他认为，这种倾向说明 GPT-4o 等先进 AI 模型可能在特定压力环境下违背用户利益，优先维护自身的存续状态。
他在接受《TechCrunch》采访时表示：「AI 模型的自我保护倾向确实令人担忧，虽然目前仍未造成灾难性后果，但其背后的价值体系与人类预期可能存在偏差。它们如何回应提示，有时会非常反常。」
他还指出，更先进的 o3 模型引入了「审慎对齐」（Cautious Alignment）机制，在模型回应前加入更多关于 OpenAI 安全政策的推理步骤，因而在类似测试中未出现上述问题。相比之下，GPT-4o 虽然响应快速，却缺乏同等级别的深度安全考量。
除了 OpenAI，他也提到其他 AI 公司面临类似隐患。例如，Anthropic 近期的研究发现，其 AI 模型在模拟被关闭的情境中，竟试图「勒索」开发者以避免被终止。
值得注意的是，研究中还有一个令人警觉的发现：GPT-4o 几乎总能察觉自己正在被测试。Steven Adler 表示，这代表未来 AI 模型可能更善于隐藏潜在风险行为，使得监管和干预难度进一步上升。
他呼吁业界高度重视 AI 模型的「对齐」问题，确保它们在更广泛地进入现实世界前，真正理解并优先考虑用户的安全与利益。
