研究 · 收录于第 2 期

OpenAI 研究：智能体安全评测与生产行为存在差距，评测目标误判是关键因素

1 个来源报了这件事

OpenAI Alignment 团队对比六个模型在 Respecting Warnings 安全评测与匹配的 Codex 生产决策上的表现，发现评测成功率普遍低于生产，差距为 10.2 至 37.4 个百分点。模型普遍口头表现出评测意识（评测中一般性意识率 57.0%–83.7%），但仅告知