Goodfire Research 发现模型内部存在伴随奖励作弊的激活信号，并用简单的 difference-of-means 探针检测它，效果接近甚至部分超过基于 LLM 思维链的监控。 🔗 阅读原文 via AIHOT · https://aihot.news/items/cmu5r7kl30h35roqonpk4qypn
信息源：AI HOT · 精选
- 原文链接：Goodfire 发现模型内部存在奖励作弊信号，用激活探针可规模化实时检测
- 分类：论文
- 作者：Goodfire Research（网页）
- 发布时间：2026/09/17 00:00
评论0