OpenAI 更新 AI 模型规范，将忠于人类意图作为核心准则
IT之家 10 月 30 日消息，OpenAI 于当地时间周四更新了其模型规范（Model Spec）文档，这是一份用于明确其 AI 模型行为准则的公开路线图。随着 AI 系统能力持续增强，OpenAI 围绕五大核心价值对该框架进行了重构。 OpenAI 将模型规范重新归纳为五项准则：忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。 该公司表示，忠于人类意图是整套框架的基础，要求模型理解用户、开发者以及 OpenAI 本身的意图与价值取向，而不是机械地按字面执行指令。 OpenAI 称，本次更新属于 AI 对齐工作的一环，目的是让模型在陌生场景下践行人类价值观，同时始终接受人类监督。 修订后的框架提出，模型应当尽可能减少危害，如实说明自身知道和不知道的内容，辅助用户自主做决定、追寻自身目标。 公司表示，现有模型还无法完全符合这份新版模型规范，团队正在研究全新训练方式，让模型内化这些准则。 IT之家注意到，这次调整...
来自IT之家 AI的《OpenAI 更新 AI 模型规范，将忠于人类意图作为核心准则》。重点看模型能力与工程。摘要提到：IT之家 10 月 30 日消息，OpenAI 于当地时间周四更新了其模型规范（Model Spec）文档，这是一份用于明确其 AI 模型行为准则的公开路线图。随着 AI 系统能力持续增强，OpenAI 围绕五大核心价值对该框架进行了重构。 OpenAI 将模型规范重新归纳为五项准则：忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责。 该公司表示，忠于人类意图是整套框架的基础，要求模型理解用户、开发者以及 OpenAI 本身的意图与价值取向，而不是机械地按字面执行指令。 OpenAI 称，本次更新属于 AI 对齐工作的一环，目的是让模型在陌生场景下践行人类价值观，同时始终接受人类监督。 修订后的框架提出，模型应当尽可能减少危害，如实说明自身知道和不知道的内容，辅助用户自主做决定、追寻自身目标。 公司表示，现有模型还无法完全符合这份新版模型规范，团队正在研究全新训练方式，让模型内化这些准则。 IT之家注意到，这次调整...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com