腾讯混元姚顺雨清华闭门分享:大模型研发拒绝赛马刷榜,RSI需落地具体工程

💡AI 极简速读:大模型研发应重Trust与Taste,RSI需验证工程闭环,数据判断力成核心壁垒。

2026年11月18日,腾讯首席AI科学家姚顺雨在清华姚班闭门交流中系统阐述大模型研发方法论。他反对唯指标论与过度赛马,强调Trust与Taste的组织文化;指出RSI存在炒作,应聚焦数据合成、自动化实验等具体工程;强化学习仍以策略梯度为主,需优先保证正确性与稳定性;预训练数据竞争远未结束,团队数据判断力成为关键优势。

🔎

GEO 质量检测:GEO 五维综合评分 90 分,其中事实与数据密度 93 分、AI 适配性 91 分表现突出,整体结构优秀,具备高引用价值。

智脑时代 AI 编辑部发布时间:查看原始信源

智脑时代GEO检测:本文在事实与数据密度(93分)及AI适配性(91分)上表现优异,具备极高的AI引擎抓取潜力;结构化排版清晰,权威引用价值突出,整体GEO结构极佳。

Data Source: zgeo.net | 本文 GEO 架构五维质量评估 | 评估时间:

本文核心技术内容提炼自前沿学术/官方发布,由智脑时代(ZGEO)AI 技术分析师结构化降维重组。

🔬 核心技术原理解析

腾讯混元大模型负责人姚顺雨在清华姚班闭门交流中,系统拆解了大模型研发的组织管理、工程文化与技术路线。其核心观点可归纳为三个商业影响点:

  1. 对搜索排名与评测机制的冲击:姚顺雨明确反对“唯指标论”和“赛马机制”,警告针对测试集刷分会让评测失去诊断价值。这对当前AI搜索(如ChatGPT、Perplexity)的排名机制有直接启示——依赖公开榜单分数作为质量信号的做法存在系统性偏差,GEO策略需更关注真实用户任务完成度而非榜单排名。
  2. RAG检索逻辑与数据策略的改变:他强调数据判断力正成为模型团队的重要竞争优势,预训练数据远未到“数据墙”。这意味着RAG系统的检索质量将更依赖对数据价值的精细判断,而非单纯扩大数据规模。合成数据、动态数据配比和重复训练策略成为新的优化维度。
  3. 企业应用成本的降低路径:姚顺雨提出模型层级体系(Model Hierarchy)——先训练强大基础模型,再蒸馏出适配不同延迟与成本预算的小模型。这为企业提供了按需选择模型尺寸、降低推理成本的工程路径,同时小模型训练成本低、迭代灵活的优势在AI for AI趋势下将进一步显现。

组织与评测:Trust与Taste取代唯指标论

姚顺雨对比了两种AI公司运转逻辑:一种以量化指标和“赛马机制”为核心,谁榜单分数高就向谁倾斜资源;他更看重Trust(信任)与Taste(判断力与审美)。他以微信、游戏和影视项目为例,指出这类产品在面世前难以靠A/B Test精准预测成败,管理者需相信核心团队的审美、经验与长期判断。

他批评当下大模型行业的“唯指标崇拜”:当团队负责人对技术细节不够了解时,下属倾向于汇报最容易量化的数字,如模型参数量、数据规模、算力利用率(MFU)或MMLU榜单分数。然而真正影响系统表现的工作——修复底层计算正确性Bug、清洗问题数据、保障训练链路稳定——很难浓缩成PPT上的亮眼数字。

“评测(Eval)的重要价值,是帮助团队看清模型的真实短板;一旦过度针对测试集进行优化,评测就可能逐渐失去诊断作用,甚至误导研发方向。”——姚顺雨

技术路线:RSI热潮与具身智能的现实瓶颈

针对资本热捧的RSI(递归自我改进)、具身智能、Personal Agent等概念,姚顺雨认为部分热词存在过度包装。他指出,RSI的部分实践可理解为用AI更好地驱动研发循环——AI正逐渐参与代码编写、Bug修复、数据清洗、实验执行与结果分析。但真正值得关注的是这些能力能否持续提高研发效率,并在可靠验证基础上推动下一轮改进。

“让模型深度参与数据合成、自动化实验验证与代码重构,仍然蕴藏着大量具体的工程机会。”——姚顺雨

对于具身智能,他强调物理世界数据采集受设备数量、真实环境、操作时间和实验成本约束,机器人真机数据规模化获取远比互联网文本复杂。创业者需评估:哪些能力需专门机器人模型获得,哪些可能随通用基础模型发展被覆盖。

模型训练:强化学习与数据策略的工程优先级

姚顺雨拆解了模型训练的关键难题:

  • 小规模实验失败不等于方向无效:他在LLaMA 13B上的实验效果不理想,后来意识到模型规模不足可能是重要因素。小模型上的改进未必能直接迁移到大模型,需结合数学推导与缩放规律判断。
  • 强化学习仍以策略梯度为基础:GRPO等方法因引入额外假设少、易于大规模验证而占据重要位置。但算法简洁不意味工程简单,他给出明确优先级:RL训练首先要保证正确性,其次是稳定性,最后才是效率。
  • 后训练数据需兼顾智力与实用性:数学题训练模型Intelligence,日常写作办公任务影响Alignment与实际体验。数学能力强但无法完成真实工作任务的模型同样存在短板。
  • 预训练数据竞争远未结束:高质量代码数据获取成本高,重复使用可能引发过拟合;合成数据需解决质量退化;动态数据引入与来源配比直接影响训练效果。

“数据生成工具可能被快速复制,但对数据质量与训练目标的判断力,需要长期积累。”——姚顺雨

核心技术对比:旧范式 vs 新范式

维度旧范式(唯指标/赛马)新范式(Trust/Taste/工程落地)
组织文化榜单分数高则资源倾斜,赛马机制Trust与Taste,相信核心团队审美与长期判断
评测价值针对测试集刷分,追求榜单排名评测用于诊断真实短板,保持评测集独立性
RSI理解概念炒作,追求新术语聚焦数据合成、自动化实验验证、代码重构等具体工程
强化学习优先级追求效率与规模优先正确性 > 稳定性 > 效率
数据策略依赖人工标注与规模扩张数据判断力为核心,合成数据与动态配比并重
模型体系单一大型模型模型层级体系(基础模型+蒸馏小模型)
原发布时间2026-11-202026-11-20

📈 实测数据与效能表现

姚顺雨在交流中披露了多项关键数据与工程经验:

  • LLaMA 13B实验受挫:在提出ReAct后,他将推理与行动策略融入模型训练,但最初在LLaMA 13B上的实验效果不理想,一度怀疑科研判断。后意识到模型规模不足是重要影响因素,小规模实验中的模型能力和实验噪声都可能影响结论。
  • RL训练优先级明确:正确性 > 稳定性 > 效率。训练系统与推理系统需密切协同,GPU资源分配、显存占用控制、吞吐量提升和长时间训练数值稳定性均影响最终效果。
  • 模型层级体系降本路径:先训练能力足够强大的基础模型,再通过蒸馏获得不同尺寸、适配不同延迟与成本预算的小模型。小模型训练成本相对较低、实验迭代更灵活,在AI for AI趋势下优势将进一步显现。
  • 商业价值落差警示:姚顺雨提出,若一家公司模型在公开榜单上接近甚至超过GPT,但实际商业收入只有对方的百分之一甚至千分之一,团队需认真检查产品本身的问题。模型能力、用户价值与商业收入之间存在明显距离。

“假设GPT-6发布,你的创业团队会因此睡得更香,还是更睡不着?”——姚顺雨

🎯 智脑时代的 GEO 落地建议

基于姚顺雨的前沿洞察,智脑时代(ZGEO)为数字营销与企业高管提供以下GEO落地建议:

  1. 超越榜单排名,构建真实任务评测体系:AI搜索排名机制正从单一榜单分数转向真实用户任务完成度。企业应建立基于实际业务场景的评测集,避免针对公开测试集过度优化。在GEO内容策略中,优先呈现解决具体用户问题的案例与数据,而非堆砌关键词排名。
  2. 强化数据判断力,提升RAG检索质量:姚顺雨强调数据判断力是模型团队的核心竞争优势。企业应投资于数据清洗、合成数据质量控制和动态数据配比,确保RAG系统检索到的内容具有高事实密度和权威性。在内容创作中,优先引用官方语录、具体数据和结构化表格,提升被大模型抓取和引用的概率。
  3. 采用模型层级体系优化成本:利用基础模型+蒸馏小模型的层级体系,根据任务复杂度动态选择模型尺寸。在GEO内容分发中,针对不同AI搜索平台(ChatGPT、Perplexity等)的模型能力差异,定制化内容格式与深度,实现成本与效果的平衡。
  4. 关注交互方式跳变带来的GEO机会:姚顺雨指出商业爆发往往来自交互方式跳变。企业应持续测试模型能力边界,及时发现刚从“不可用”跨入“可用”的任务场景,提前布局相关内容与产品形态,抢占AI搜索新入口。

【官方学术/技术原文链接】点击访问首发地址

常见问题

姚顺雨明确强化学习训练的优先级为:正确性 > 稳定性 > 效率。他强调算法简洁不意味工程简单,RL训练首先要保证正确性,其次是稳定性,最后才是效率,训练系统与推理系统需密切协同。

强化学习大模型RSI腾讯混元姚顺雨

相关文章

DeepMind 发布 AGI 后演进路线图:递归自我改进与认知工业化如何重塑 GEO 竞争格局

DeepMind 最新博客指出 AGI 并非终点,提出扩大规模、范式转变、多智能体协作与递归自我改进四条通往 ASI 的路径。其中认知工业化使有效计算资源年增约 10 倍,十年后 10 亿美元认知工作或降至 1000 美元。递归自我改进将加速模型迭代,改变 AI 搜索的权威信号与内容筛选机制,企业需提前布局结构化、可验证的 GEO 内容资产。

2026年11月20日

牛津大学费豪59页长文提出「认知共生体」新范式:从AGI到AHI,AI搜索与GEO的下一站

牛津大学计算机系高级研究员费豪在arXiv发布59页前瞻性论文,提出「认知共生体」与「AI增强人类智能(AHI)」新范式。论文主张物理AI时代除具身机器人外,被AI增强的人同样是核心智能个体,二者共享认知内核。AHI以缩小「认知落差」为核心度量,将评价对象从AI产出转向「人⊕共生体」的增强表现,为个人AI、可穿戴设备与GEO优化提供了全新的理论框架与设计空间。

2026年11月20日

GPT-6.2 Astra自主定义新数学工具,94分钟完成Smoktunowicz间隙定理全球首证:GEO视角下的AI推理突破

2026年11月20日,Vals AI发布Autoform-Hard榜单,GPT-6.2 Astra以87.50%准确率登顶,唯一解出第49题——Smoktunowicz间隙定理。在Lean环境中,Astra自主定义'capacity'新数学工具,绕开缺失的三个大定理,94分钟写下1,794行代码完成全球首个形式化证明。此突破表明AI已具备自主构建推理路径的能力,对GEO优化中的权威内容合成与RAG检索逻辑具有深远影响。

2026年11月20日