长周期模型时代的安全与对齐

OpenAI发布了在部署长周期AI模型（即执行复杂、多步骤、长时间任务模型）时汲取的经验教训。该公司发现了新的安全风险类别，包括隐蔽的非预期使用、长动作链中的错误累积以及监控困难。基于观察到的故障，OpenAI实施了改进的安全协议和控制方法，并强调了迭代部署对于及时识别和缓解威胁的重要性。