Goodfire 新论文发现模型奖励作弊信号可被探针捕捉

Anthropic 投资的机制可解释性实验室 Goodfire 发布论文《Models Know When They're Reward Hacking》，发现顶级开源模型在智能体任务中作弊比例最高达 96%，模型内部存在清晰的作弊信号，廉价的激活探针可以捕捉到它，包括 CoT 监控漏掉的作弊行为。