摘要

OpenAI 发布文章，讨论长程运行 AI 模型时代的安全与对齐问题。根据其摘要，文章分享了部署此类模型时获得的经验，包括新出现的安全风险、已观察到的失效情况，以及通过迭代部署改善保障措施的做法。

影响

随着模型可持续执行更长时间、承担更复杂任务，安全评估与防护机制需要覆盖更多潜在失效场景。这篇文章反映了模型能力扩展对部署安全提出的新要求，但输入未提供具体技术细节或量化结果。

原始来源：OpenAI News