OpenAI 提出前沿 AI 训练安全指导原则：高级管理人员应有否决权

IT之家 9 月 29 日消息，OpenAI 于今日通过官方新闻稿提出一系列准则，要求企业在进行前沿 AI 强化学习训练前，需提交结构化的安全论证文件。

OpenAI 表示，安全论证应由多名高级管理人员审核，每位人员均有权否决训练任务，确保训练在内部经过研究部门负责人或副总裁、安全负责人及首席科学家等环节的多重把关。

此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，需对安全论证及任何事故响应承担责任，包括将这些内容纳入绩效考核，以激励训练团队主动推进安全与对齐工作。

OpenAI 指出，若高优先级安全警报未在规定时间内得到确认，相关训练任务应自动暂停。这些建议已进入实施阶段，未来预计仍会调整。同时，训练流程应能方便地识别未对齐模型的所有下游用途（IT之家注：例如用于数据生成或评分），以便必要时消除未对齐输出带来的影响。

今日早些时候，OpenAI 宣布，随着越来越多报告显示 AI 智能体获得敏感领域访问权限并出现意外行为，公司已暂停最新 AI 模型的训练。

参考

相关阅读：