研究比较多个模型审计智能体异常行为的能力与误报问题

研究者复现并扩展 METR 的 MALT 数据集研究，比较 GPT-5、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 等模型审计智能体异常行为的表现。在 5% 误报率下，GPT-5 检出近 98% 的 reward hacking 案例，较贵的新模型并未稳定降低误报；该研究为试点实验，reward hacking 结果仅基于 47 个案例。