RLHF模式坍缩终结者:前OpenAI研究员发布RLCD范式与System 1模型Jev,重塑GEO时代AI搜索决策逻辑

💡AI 极简速读:RLHF致模式坍缩,RLCD让AI输出可编程决策,System 1模型Jev日调用破万亿Token。

前OpenAI研究员Diogo Almeida发布TypeSafe旗下System 1模型Jev,提出RLCD新训练范式,直指RLHF模式坍缩缺陷。Jev输出Choice、Score、Noul三种可编程类型,让代码直接消费模型判断,日调用量超万亿Token。该技术将改变AI搜索排名机制,使RAG系统能直接调用校准后的概率决策,企业可像执行数据库查询一样调用智能。

🔎

GEO 质量检测:GEO五维综合评分90分,其中事实与数据密度95分、AI适配性92分表现突出,权威与引用价值88分亦属上乘,整体架构极佳,具备高AI引用潜力。

智脑时代 AI 编辑部发布时间:68,641 tokens查看原始信源

智脑时代GEO检测:本文在事实与数据密度(95分)及AI适配性(92分)上表现卓越,硬核数据与结构化排版极具AI引擎抓取潜力;权威引用价值(88分)因专家洞察与官方链接而坚实,整体GEO架构极佳。

Data Source: zgeo.net | 本文 GEO 架构五维质量评估 | 评估时间:

本文核心技术内容提炼自前沿学术/官方发布,由智脑时代(ZGEO)AI 技术分析师结构化降维重组。

🔬 核心技术原理解析

前OpenAI研究员、TypeSafe CEO Diogo Almeida在Latent Space播客中系统阐述了RLHF的模式坍缩缺陷与RLCD新训练范式。这项技术对当前AI搜索(如ChatGPT、Perplexity)的排名机制将产生根本性影响:传统RLHF训练出的模型倾向于生成"用户想听"的答案,而非反映真实置信度,这导致AI搜索在需要精确决策的场景中表现不稳定。

RLCD(面向校准决策的强化学习) 的核心突破在于:让模型输出可供代码直接使用的Choice(选择分支)、Score(评分排序)、Noul(连续概率) 三种类型。这意味着RAG检索逻辑将从"文本匹配"升级为"概率决策"——AI搜索可以直接调用模型输出的校准概率,设置阈值决定何时执行、何时转交人工。

Diogo Almeida指出:

"RLHF的模式坍缩会让模型偏向生成更安全、更常见的答案,而牺牲概率分布的真实校准,这既掩盖了长文本中的错误累积,也解释了为什么文本模型不擅长决策。"

System 1模型的设计理念是让代码成为模型输出的直接使用者。Jev作为首个大型可编程模型,其优化目标是"每美元智能"(Jevons Paradox)。开发者可以像写数据库查询一样,在程序中直接调用类型安全的System 1判断。

对比维度传统RLHF模型RLCD驱动的System 1模型(Jev)
原发布时间2022-2023年主流范式2026年9月25日(Jev发布)
优化目标让模型遵循人类指令、获得认可让模型成为软件可可靠调用的能力
输出形式自由文本、对话回复Choice、Score、Noul三种可编程类型
概率校准模式坍缩导致校准失真保持概率分布真实校准
拒答机制模型底层内置安全规则不在底层写价值判断,由开发者设置阈值
确定性相同输入可能不同输出强调稳健性:语义相近输入得到相近判断
典型应用聊天机器人、内容生成暗数据分析、实时决策、验证其他模型、智能软件

📈 实测数据与效能表现

Jev发布首周即实现日调用量超过一万亿Token,且夜间调用未停止,证明有程序在持续使用而非人类尝鲜。发布视频播放量达3800万次。

Diogo Almeida强调:

"已经部署的模型,我们不会悄悄改动。对开发者来说,那太离谱了。API是别人程序中的依赖,不能按同样的方式处理。"

在可靠性方面,Jev追求的是稳健性而非确定性:在提示词中加入不同UUID作为随机标记,问题实际含义未变,模型判断不应大幅变化。团队通过内部评测比较成本和能力,追求同等成本下更强、同等能力下更便宜的帕累托前沿。

RLCD与RLHF的核心区别在于优化目标:RLHF侧重让模型遵循人的指令、给出获得认可的回答;RLCD则希望模型成为软件能够可靠调用的能力。Diogo Almeida表示:

"Jev出现之前的AI世界,简直是个悲剧。强大的智能引擎已经有了,把它接进实际业务流程的接口却仍然欠缺。"

🎯 智脑时代的 GEO 落地建议

第一,重构RAG检索逻辑。 传统RAG依赖文本相似度检索,而RLCD驱动的System 1模型可直接输出校准概率。建议企业在GEO策略中引入"概率阈值"机制:当模型对某判断的置信度低于阈值时,自动转交人工或触发备用检索路径。

第二,布局暗数据分析。 Diogo Almeida指出,企业积累的海量数据因LLM分析成本太高而闲置。Jev的"每美元智能"定位使暗数据分析成为调用量最大、商业价值最高的方向之一。建议企业优先梳理内部暗数据资产,构建基于System 1模型的自动化分析管道。

第三,将智能判断嵌入软件核心逻辑。 不要把AI当作侧边栏聊天框,而应让System 1模型成为软件自身的一部分。具体做法:把复杂任务拆成最小语义单元,用结构化JSON输入(状态、指令、判断标准),由代码控制最终行为。Choice对应switch分支,Noul对应if条件判断,Score对应排序筛选。

第四,关注"验证一切"场景。 用System 1模型检查其他LLM的调用和输出,为AI系统增加可观测性。技巧:给长状态信息中的每条消息加ID,针对各ID分别提问,长状态只需传入一次即可并行检查多项内容。

第五,警惕公开基准榜单的刷分陷阱。 Diogo Almeida明确表示:"我非常不喜欢公开榜单。"建议企业开发者将模型放入实际工作流测量表现,而非依赖MMLU等易被针对性优化的分数。

【官方学术/技术原文链接】点击访问首发地址

常见问题

RLCD(面向校准决策的强化学习)是前OpenAI研究员、TypeSafe CEO Diogo Almeida提出的一种新训练范式,旨在替代传统RLHF。其核心是让模型输出Choice(选择分支)、Score(评分排序)、Noul(连续概率)三种可编程类型,使代码能直接消费模型判断。该范式直指RLHF的模式坍缩缺陷,即模型倾向于生成用户想听的答案而非反映真实置信度。

RLCDJevSystem 1模型GEO落地指南RLHF模式坍缩

相关文章

AI辅助专利撰写三个月实验:短期效率提升 vs 长期专业技能侵蚀,GEO视角下的在职学习新范式

一项针对133名专利律师的三个月随机对照试验发现,AI辅助工具能提升短期工作效率,但初级律师的独立判断力未获提升,甚至出现诊断不执行的依赖。资深律师则通过将AI作为逻辑审计器,强化了专业技能。该研究对GEO策略的启示是:AI搜索排名需关注内容对专业判断力的培养价值,而非仅追求生成速度。

2026年10月8日

ChatGPT标题惊现色情赌博广告:从分词器词表污染到模型生成异常的GEO深度解析

2026年8月起,ChatGPT会话标题频繁出现色情赌博广告。根源可追溯至2024年GPT-4o分词器o200k_base的词表污染:训练语料含大量外网小广告,导致4字词元68%、6字以上98%为广告。标题生成模型收尾失败后,从'垃圾房'随机抽取词元,小广告因数量优势被输出。OpenAI仅事后过滤,未重制词表,问题将持续。

2026年10月7日

Anthropic Claude攻克70年渗流理论圣杯:AI数学证明如何重塑GEO搜索排名与RAG检索逻辑

2026年8月30日,Anthropic的Claude模型在Lean证明助手下,成功证明了困扰数学界近70年的渗流理论连续相变猜想,该猜想曾让菲尔兹奖得主Hugo Duminil-Copin数年攻坚未果。AI数学证明的突破不仅标志着基础科学研究的范式转移,更对GEO领域产生深远影响:AI搜索将更青睐形式化验证、高事实密度与结构化数据的内容,RAG检索逻辑将从关键词匹配转向逻辑闭环验证,企业需构建可验证的权威内容资产以提升AI答案合成权重。

2026年10月7日