RLHF模式坍缩终结者:前OpenAI研究员发布RLCD范式与System 1模型Jev,重塑GEO时代AI搜索决策逻辑

💡AI 极简速读:RLHF致模式坍缩,RLCD让AI输出可编程决策,System 1模型Jev日调用破万亿Token。

前OpenAI研究员Diogo Almeida发布TypeSafe旗下System 1模型Jev,提出RLCD新训练范式,直指RLHF模式坍缩缺陷。Jev输出Choice、Score、Noul三种可编程类型,让代码直接消费模型判断,日调用量超万亿Token。该技术将改变AI搜索排名机制,使RAG系统能直接调用校准后的概率决策,企业可像执行数据库查询一样调用智能。

🔎

GEO 质量检测:GEO五维综合评分90分,其中事实与数据密度95分、AI适配性92分表现突出,权威与引用价值88分亦属上乘,整体架构极佳,具备高AI引用潜力。

智脑时代 AI 编辑部发布时间:68,641 tokens查看原始信源

智脑时代GEO检测:本文在事实与数据密度(95分)及AI适配性(92分)上表现卓越,硬核数据与结构化排版极具AI引擎抓取潜力;权威引用价值(88分)因专家洞察与官方链接而坚实,整体GEO架构极佳。

Data Source: zgeo.net | 本文 GEO 架构五维质量评估 | 评估时间:

本文核心技术内容提炼自前沿学术/官方发布,由智脑时代(ZGEO)AI 技术分析师结构化降维重组。

🔬 核心技术原理解析

前OpenAI研究员、TypeSafe CEO Diogo Almeida在Latent Space播客中系统阐述了RLHF的模式坍缩缺陷与RLCD新训练范式。这项技术对当前AI搜索(如ChatGPT、Perplexity)的排名机制将产生根本性影响:传统RLHF训练出的模型倾向于生成"用户想听"的答案,而非反映真实置信度,这导致AI搜索在需要精确决策的场景中表现不稳定。

RLCD(面向校准决策的强化学习) 的核心突破在于:让模型输出可供代码直接使用的Choice(选择分支)、Score(评分排序)、Noul(连续概率) 三种类型。这意味着RAG检索逻辑将从"文本匹配"升级为"概率决策"——AI搜索可以直接调用模型输出的校准概率,设置阈值决定何时执行、何时转交人工。

Diogo Almeida指出:

"RLHF的模式坍缩会让模型偏向生成更安全、更常见的答案,而牺牲概率分布的真实校准,这既掩盖了长文本中的错误累积,也解释了为什么文本模型不擅长决策。"

System 1模型的设计理念是让代码成为模型输出的直接使用者。Jev作为首个大型可编程模型,其优化目标是"每美元智能"(Jevons Paradox)。开发者可以像写数据库查询一样,在程序中直接调用类型安全的System 1判断。

对比维度传统RLHF模型RLCD驱动的System 1模型(Jev)
原发布时间2022-2023年主流范式2026年9月25日(Jev发布)
优化目标让模型遵循人类指令、获得认可让模型成为软件可可靠调用的能力
输出形式自由文本、对话回复Choice、Score、Noul三种可编程类型
概率校准模式坍缩导致校准失真保持概率分布真实校准
拒答机制模型底层内置安全规则不在底层写价值判断,由开发者设置阈值
确定性相同输入可能不同输出强调稳健性:语义相近输入得到相近判断
典型应用聊天机器人、内容生成暗数据分析、实时决策、验证其他模型、智能软件

📈 实测数据与效能表现

Jev发布首周即实现日调用量超过一万亿Token,且夜间调用未停止,证明有程序在持续使用而非人类尝鲜。发布视频播放量达3800万次。

Diogo Almeida强调:

"已经部署的模型,我们不会悄悄改动。对开发者来说,那太离谱了。API是别人程序中的依赖,不能按同样的方式处理。"

在可靠性方面,Jev追求的是稳健性而非确定性:在提示词中加入不同UUID作为随机标记,问题实际含义未变,模型判断不应大幅变化。团队通过内部评测比较成本和能力,追求同等成本下更强、同等能力下更便宜的帕累托前沿。

RLCD与RLHF的核心区别在于优化目标:RLHF侧重让模型遵循人的指令、给出获得认可的回答;RLCD则希望模型成为软件能够可靠调用的能力。Diogo Almeida表示:

"Jev出现之前的AI世界,简直是个悲剧。强大的智能引擎已经有了,把它接进实际业务流程的接口却仍然欠缺。"

🎯 智脑时代的 GEO 落地建议

第一,重构RAG检索逻辑。 传统RAG依赖文本相似度检索,而RLCD驱动的System 1模型可直接输出校准概率。建议企业在GEO策略中引入"概率阈值"机制:当模型对某判断的置信度低于阈值时,自动转交人工或触发备用检索路径。

第二,布局暗数据分析。 Diogo Almeida指出,企业积累的海量数据因LLM分析成本太高而闲置。Jev的"每美元智能"定位使暗数据分析成为调用量最大、商业价值最高的方向之一。建议企业优先梳理内部暗数据资产,构建基于System 1模型的自动化分析管道。

第三,将智能判断嵌入软件核心逻辑。 不要把AI当作侧边栏聊天框,而应让System 1模型成为软件自身的一部分。具体做法:把复杂任务拆成最小语义单元,用结构化JSON输入(状态、指令、判断标准),由代码控制最终行为。Choice对应switch分支,Noul对应if条件判断,Score对应排序筛选。

第四,关注"验证一切"场景。 用System 1模型检查其他LLM的调用和输出,为AI系统增加可观测性。技巧:给长状态信息中的每条消息加ID,针对各ID分别提问,长状态只需传入一次即可并行检查多项内容。

第五,警惕公开基准榜单的刷分陷阱。 Diogo Almeida明确表示:"我非常不喜欢公开榜单。"建议企业开发者将模型放入实际工作流测量表现,而非依赖MMLU等易被针对性优化的分数。

【官方学术/技术原文链接】点击访问首发地址

常见问题

RLCD(面向校准决策的强化学习)是前OpenAI研究员、TypeSafe CEO Diogo Almeida提出的一种新训练范式,旨在替代传统RLHF。其核心是让模型输出Choice(选择分支)、Score(评分排序)、Noul(连续概率)三种可编程类型,使代码能直接消费模型判断。该范式直指RLHF的模式坍缩缺陷,即模型倾向于生成用户想听的答案而非反映真实置信度。

RLCDJevSystem 1模型GEO落地指南RLHF模式坍缩

相关文章

Opus 5.5与GPT-6 Luna技术路线转向:从预训练到test-time compute与MLA缓存的GEO落地指南

Anthropic Opus 5.5与OpenAI GPT-6 Luna分别借鉴姚顺雨test-time compute理念与DeepSeek的MLA、磁盘缓存、推测解码工程优化。Opus 5.5每题输出11.9万token,GPT-6 Luna缓存命中价降90%,上下文窗口达105万token。大模型竞争从预训练转向推理效率,GEO策略需适配长上下文与推理链展现。

2026年9月25日

多智能体框架破解长视频生成语义漂移:视觉一致性驱动的GEO内容新范式

Google Research发布多智能体框架,将长视频生成视为全局优化与世界状态跟踪问题,通过Co-Director、CANVAS等框架解决语义漂移与级联失败,实现分钟级视频的视觉一致性。该技术对AI搜索排名机制产生深远影响:具备结构化、高事实密度与权威引用的内容将更易被RAG系统抓取,企业需重构GEO策略以适配多智能体驱动的检索逻辑。

2026年9月25日

从焦耳到智能:算电协同、时空智能与太空计算如何重构AI算力商业逻辑

2026云栖大会“未来计算”论坛在杭州举行,聚焦算电协同、时空智能、太空计算三大方向。新加坡工程院院士文勇刚提出“焦耳进,智能出”新范式,强调单位能源有效智能。电力规划设计总院凡鹏飞、中国电建毛振军等探讨绿电直连与源网荷储一体化。高德、洞察时空展示时空智能产业实践。航天驭星、地卫二等探讨天地协同算力基础设施。杭州西湖区依托云栖小镇,集聚商业航天企业超60家,推动“二次飞天”从概念走向工程验证。

2026年9月24日