OpenAI 更新 Model Spec:强调人的意图、上下文与监督
10 月 29 日新版以五项价值重组模型行为规范,增加上下文和自主性指引,并删去大部分细碎文风规则。它规定的是目标行为;OpenAI 承认现有模型尚未完全符合,不能等同于所有产品已同步升级。
当 AI 不再只是回答问题,而是能替人完成工作,规则就需要说明:遇到没有明确交代的情况,它该怎样判断,又必须把哪些决定留给人。OpenAI 在 10 月 29 日更新公开的 Model Spec,重新组织行为规范,重点是理解人的意图、合理使用上下文和接受监督。它不是一款新模型,也不是一份已经达标的成绩单。
- 明确意图与适用指示
- 选择相关且合适的上下文
- 在授权范围内行动
- 让人能够检查与纠正
五项价值如何落到具体行为
新版围绕忠于人的意图、减少伤害、诚实透明、人的自主性和关怀组织规则。OpenAI 负责设定边界,开发者在边界内决定应用行为,用户再指示具体任务。所谓理解意图,并不是让模型自行替人决定什么更好;规范仍保留指令优先级,要求模型接受合法监督、纠正、替换和停止。
相比逐条覆盖所有情境,这种结构试图解释规则背后的理由,让模型面对陌生任务时也能作出有依据的判断。Reuters 将此次变化放在 AI 对齐受到关注的背景下报道。不过,价值描述本身不能证明模型更可靠,实际表现仍需通过具体任务和部署反馈检验。
记住上下文,也要知道何时不用
新增的上下文章节要求保留与当前任务有关的指示、偏好、事实和项目进度,减少让用户反复解释。但旧偏好可能只适用于某一次任务,旧事实可能过时,模型推测的偏好也不能压过同级或更高优先级的明确指示。个性化应帮助完成眼前工作,而不是因为知道一件事就把它带进所有回答。
规范还区分用户说过的话与模型自行推断,要求解释上下文如何影响答案,并考虑内容将交给谁。用户要求不再使用某段信息后,后续回答应避免继续依赖它;这不等于模型可以声称已经永久删除数据。对使用记忆的产品而言,这给出了可观察的行为要求,而不是对底层存储方式的新承诺。
更少固定文风,更明确行动边界
此次删去大部分细碎文风规则,转而根据语言、文化、当前场景及用户偏好调整表达;客观呈现等较强默认要求仍保留。新版也强调自主决策支持、相关社会规范,以及行动的附带影响:超出任务合理预期的重要成本或对他人的重大不利影响,需要具体授权;能达到目的时,应优先考虑容易撤销、影响较小的做法。
这些变化对能调用工具的 Agent 尤其重要,因为一次错误理解可能不止产生一句错误回答,还会改变外部状态。本文的判断是,新规范提供了更清楚的评估依据,但是否做到必须逐项验证。OpenAI 明确表示现有模型尚未完全符合新版规范,相关训练方法的结果还会另行公布;不能把文档更新写成所有产品当天完成行为升级。






评论
使用 GitHub 账号参与讨论,所有语言版本共用此评论区。
在 GitHub 查看讨论查看旧评论(Disqus)