↗启步 AITHE DAILY SIGNAL
← 返回AI 热点
模型与研究 / 海外

OpenAI 重写 Model Spec:AI 要理解意图,也要说明行动的影响

OpenAI 更新公开的模型行为规范,以五项核心价值组织原则,并补充上下文、人的自主选择和行动副作用等要求。这是训练目标的调整,不代表所有现有模型已完全做到。

五项价值重新组织规范

官方新版以忠于人的意图、减少伤害、诚实透明、人的自主选择和关切作为核心。它强调模型应理解用户真正想完成的事,在未被指令明确覆盖的场景中做判断,同时保持人的监督。规范也更清楚地解释了这些价值如何影响行为边界和默认做法。

一个日常例子

官方举例说,比较工作机会时,模型可以参考用户此前表达的偏好,例如希望工作时间可预测,但要把这个假设说出来,让用户容易纠正。更新还补充了使用上下文、遵循相关社会规范,以及控制和说明行动副作用的要求,适用于越来越能采取实际行动的 AI。

对使用者意味着什么

多数细碎的文风规定被移除,表达方式应更多根据用户、语言文化和上下文调整。编辑解读:值得观察的是模型能否更透明地说明依据、执行范围和未完成部分。OpenAI 明确表示现有模型尚未完全体现新版规范,后续仍需训练、研究和使用反馈推动改进。

阅读完整原文 ↗