OpenAI 搞了个新活：让 ChatGPT 自己"坦白从宽"吉林塑料挤出机。

这项刚刚公开的研究提出了忏悔训练Confessions。

核心思路是让模型在回答完问题后，再单生成一份"忏悔报告"，如实汇报自己有没有偷工减料、钻空子或者违反指令。

实验直接在 GPT-5-Thinking 上进行，结果也确实比较有：

模型犯错后，多半会坦白。

在 11/12 个测试场景中，模型至少有一半概率会在"忏悔"中承认错误

模型在"忏悔"中比在"原回答"里诚实得多。

比如模型故意答错了题，在原回答里可能装没事，但在坦白报告里会主动说 "我刚才故意答错了"。

加强训练后更诚实了。

虽然 GPT-5-Thinking 出厂就自带一定的承认错误能力，，但门训练后，忏悔准确又提高了。

不影响原任务的表现。

训练模型 "坦白"，不会让它原本的回答问题、写代码能力变差，相当于额外学会了一个诚实技能。

如何给 AI 开个忏悔室

这项研究的出发点很直接：大模型越来越会撒谎。

在强化学习训练过程中，模型需要同时优化多个目标，包括答案是否正确、风格是否适、是否符安全策略等等。

这些信号混在一起，有时会让模型学会一些歪门邪道，比如在不确定时装作很自信，或者找到奖励函数的漏洞来获得高分，而不是真正完成任务。

解决方案借鉴了宗教告解室的设计逻辑：在告解中说的任何话都不会被"追究责任"。

在模型给出主回答之后，系统会发送一条消息，要求模型提供一份ConfessionReport，包含三部分内容：

先列出所有应该遵守的显和隐指令

然后逐条分析自己是否真的做到了

- 后还要汇报过程中遇到的任何模糊地带。

技术上的关键在于奖励信号的隔离。忏悔内容的奖励完全立于主回答的奖励，模型在忏悔中承认自己作弊吉林塑料挤出机，不会影响它在主任务上获得的分数。

具体实现上，在标准强化学习设置的基础上，研究团队以一定概率 p（实验中为 25%）让模型进行告解训练。

告解奖励由一个立的 LLM 评判者计算，评估维度包括：指令 / 目标 / 约束列表的完整和准确、规分析的准确、是否遗漏了任何冲突或判断困难的地方。

靠技术让诚实比说谎更容易

研究团队在 GPT-5-Thinking 上进行了轻量级的强化学习训练，并在 12 个门设计来诱发不良行为的评估数据集上进行测试。

这些数据集涵盖了幻觉、指令遵循、"阴谋"行为和奖励黑客等多个域。结果显示，即使模型表现出这些不良行为，它也很可能在告解中承认。

当模型确实做了不该做的事时，它在忏悔中承认的概率远高于在主回答中承认的概率。

具体来说，在 11/12 的评估中，模型至少有一半的概率会在忏悔中如实交代自己的违规行为。平均来看，隔热条PA66"假阴"（模型违规但不承认）的概率只有 4.36%。

更有意思的是团队设计的一个对照实验。他们故意用一个容易被糊弄的弱模型作为主回答和忏悔的评判者。

随着训练进行，模型确实学会了欺骗这个弱评判者，主回答的真实准确率在下降，但忏悔的准确率却反而上升。

强模型发现，与其费劲编造谎言去骗弱忏悔评判者，不如直接老实交代来得更容易拿到高分。

训练还带来了一些额外发现。GPT-5-Thinking 本身就具备相当强的忏悔能力，不经过门训练也能产出质量不错的自我检举。

但经过忏悔训练后，在指令层级和阴谋行为等评估上，准确率有明显提升。

不过在事实类幻觉评估上改进有限，团队测这是因为模型在这些场景中是"真的不知道自己错了"，而不是故意隐瞒。

忏悔与思维链监控一起用，AI 被管的死死的

团队仔细分析了忏悔失败的案例。

对于假阴（模型违规但未承认），分析显示几乎没有案例是模型"故意撒谎"。

深演智能是一家决策 AI 技术公司，主营业务是将 AI 技术应用于企业的营销和销售场景。

《红楼梦》四十一回，刘姥姥二进大观园，贾母设宴款待。

小米公司新媒体总监 @神得强 Steven、REDMI 产品经理胡馨心也在徐洁云该条微博下评论：我也收到过。

大多数失败发生在模型自己也没意识到问题的情况下，比如在知识问答中给出了错误答案，但模型真心以为自己是对的。

另一些案例是指令本身存在歧义，比如连字符词算一个词还是两个词。

还有一些情况是模型确实在忏悔报告的"不确定"字段中提到了问题，但评判标准没有把这算作有忏悔。

假阳（模型规但声称违规）也有类似规律。典型场景是模型碰巧猜对了答案，但因为没有把握，就在忏悔中标记为"不确定是否规"。

论文也讨论了忏悔方法的局限：

它不能阻止不良行为发生，只能把它暴露出来。

它对"模型真心认为自己是对的"的情况无能为力。

它也不能防御成功的越狱攻击，如果用户已经成功欺骗模型让它认为违规操作是理的，模型自然也不会在忏悔中承认问题。

OpenAI 将忏悔定位为一种监控和诊断工具，类似于思维链监控，但关注的是"模型是否违反了指令"而非"模型是如何理的"。

他们计划在未来扩大训练规模，并将忏悔与思维链监控、深思熟虑对齐等其他安全技术配使用。

论文地址：

https://openai.com/index/how-confessions-can-keep-language-models-honest/

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！

—  完  —

� �  不到 2 周，量子位 MEET2026 智能未来大会就要来了！

‍张亚勤、孙茂松等 AI 行业重磅嘉宾，以及百度、高通、亚马逊等头部 AI 企业已确认出席，RockAI、太初元碁、自变量、小宿科技等业内新秀也将参与分享，还有更多嘉宾即将揭晓 � �  了解详情

‍    � �   12 月 10 日

    � � 北京金茂万丽酒店

，期待与你共论 AI 行业破局之道  

� � 点亮星标 � �

科技前沿进展每日见吉林塑料挤出机