数据集正在成为AI时代的核心竞争力。在算法日趋同质化的今天，谁拥有更高质量的数据集，谁就拥有了更强的竞争优势。

数据开发的终极目标不是 “做出好看的报表” 或者 “搭个复杂的数仓”，而是 “用数据驱动业务决策，创造能衡量的商业价值”。

LongCat-Flash的出现，不仅仅是美团在AI领域的一次技术突破，更像是给整个行业投下的一颗石子，激起的涟漪将会影响到每一个与AI相关的人！

为何“记忆”对LLM至关重要 大语言模型（LLMs）在文本生成、翻译和问答方面表现卓越，但它们都存在一个根本性局限：无状态性。每个用户查询都被独立处理，模型仅能查看固定长度的“上下文窗口”（通常为数千个 token）。当对话跨越数十轮，或任务需要数周前的对话信息时，模型便会遗忘——关键信息对其不可见。 常见的解决方案是附加外部记忆库。模型通过检索增强生成（RAG）获取少量历史记录并附加到提示词中。这为 LLM 提供了访问“旧”信息的捷径，但也引入了两难权衡： 检索条目过少 → 遗漏关键事实，导致错误答案 检索条目过多 → 提示词被无关信息淹没，模型注意力分散 人类记忆的工作方式不同：我们快速浏览庞大的心理档案，然后筛选并整合与当前问题真正相关的内容。Memory‑R1 论文的作者主张，“记忆管理”应是一项习得技能，而非手工设计的启发式规则。 Memory‑R1 核心思想概览 Memory‑R1（读作“Memory‑R‑one”）是一个强化学习（RL）框架，为 LLM 配备两个专用智能体： 记忆管理器 – 针对每条新信息，决定添加（ADD）、更新（UPDATE）、删除（DELETE） 或无操作（NO‑OP）；基于下游答案正确性，通过结果驱动的 RL（PPO 或 GRPO）进行优化 应答智能体 – 根据用户问题，通过 RAG 召回最多 60 条候选记忆，提炼最有用信息并生成最终答案；同样通过 PPO/GRPO 微调，奖励信号为生成答案与标准答案的精确匹配（EM）率 两个智能体均构建于标准 LLM 之上（作者实验了 LLaMA‑3.1‑8B‑Instruct 和 Qwen‑2.5‑7B‑Instruct）。关键在于，仅需152 个标注的问答对即可训练系统——远少于监督微调通常所需的数千个样本。 方法深度解析 1. 整体流程 对话轮次到达 → LLM 提取关键事实 （例如“Andrew 收养了名为 Buddy 的狗”） RAG 检索从当前记忆库 中获取相关记忆短列表 记忆管理器接收 并预测操作 记忆库相应更新，产生新库 问题出现时 → RAG 从 中获取最多 60 条候选记忆 应答智能体执行记忆提炼策略：对每条检索记忆评分，保留 top‑k（通常仅少数几条），并基于提炼后的上下文生成答案 2. 强化学习微调 两个智能体均作为策略网络 进行训练，将输入映射到离散动作（记忆操作或答案 token）。探索了两种 RL 算法： 近端策略优化（PPO） – 通过裁剪替代目标优化，保持策略更新稳定性；经典且易于理解，适用于价值函数（评论家）可估计预期奖励的场景 组相对策略优化（GRPO） – 对一组动作采样并相对排序，在组内标准化优势函数；无需显式评论家，在稀疏的结果驱动奖励（如精确匹配）下收敛更快 2.1 记忆管理器 RL 状态：提取事实 + 检索记忆 动作：四类记忆操作 token 之一，以及（ADD/UPDATE 时）待插入或合并的内容 奖励：若更新后应答智能体生成正确答案则 ，否则 策略训练目标是最大化基于操作前后答案准确率差异计算的优势值。由于奖励为二值信号，策略能快速学会哪些操作安全（NOOP），哪些操作有益（如“两只狗”案例中的 UPDATE）。 2.2 应答智能体 RL 状态：问题 + 检索记忆集 动作：完整答案 token 序列（自回归生成） 奖励：生成答案 与标准答案 的精确匹配（EM）率 训练期间，智能体对候选答案批次采样并计算 EM 分数，将得分输入 PPO/GRPO。记忆提炼步骤嵌入策略中：模型学会关注能最大化 EM 的记忆子集，实现内置过滤机制。 3. 数据构建 记忆管理器训练数据 – 对每轮对话，使用强 LLM（GPT‑4o‑mini）构建时序记忆快照（前 50 轮对话）。该轮次、快照及关联问答对构成监督学习元组。通过比较该轮次前后的快照自动标注正确操作（ADD/UPDATE/DELETE/NOOP） 应答智能体训练数据 – 记忆管理器构建全局记忆库后，每个问题检索每位参与者最相关的 30 条记忆（共 60 条）。三元组（问题，检索记忆，标准答案）成为应答智能体的训练样本 实验亮点 基准测试：LOCOMO LOCOMO 是用于长程对话记忆的挑战性基准，包含 10 个多轮对话，每个对话约 600 轮（≈ 26 k token）。问题需跨越遥远对话轮次进行单跳、多跳、开放域及时序推理。 训练制度：仅使用第一个对话（152 个问答对）进行微调；剩余八个对话（1 307 个问答对）构成测试集 骨干模型：LLaMA‑3.1‑8B‑Instruct 和 Qwen‑2.5‑7B‑Instruct 主要结果（文本描述） 作者对每个骨干模型评估了 GRPO 和 PPO 训练的 Memory‑R1 系统，并与两个基线对比：原始记忆系统（Mem0）和文献报道的最强非 RL 基线（A‑Mem）。 简言之，Memory‑R1 相比最强非 RL 基线将 F1 提高约 48 %（LLaMA）和 57 %（Qwen），BLEU‑1 和 LLM‑as‑a‑Judge 指标亦有相当提升。 消融实验洞察 结果证实作者主张：每个 RL 训练组件均带来可量化价值，且双智能体相互增强——更优的记忆管理为应答智能体提供更丰富上下文，而选择性提炼策略进一步受益。 PPO 与 GRPO 对比 训练曲线显示GRPO 早期收敛更快，因为当奖励稀疏（二值 EM）时，组相对优势提供更强梯度信号。但两种算法最终性能相近，表明选择可基于计算预算或所需速度。 结论 Memory‑R1 表明，赋予 LLM “记忆感知”能力——而非单纯扩大容量——可显著提升其长周期记忆、推理与行动能力。随着强化学习技术持续成熟，我们有望见到真正学会管理自身知识的、日益 sophisticated 的智能型 LLM 系统。 来源（公众号）：AI Signal 前瞻

在这个AI快速发展的时代，我们既要保持对技术前沿的敏感，也要对现实约束有清醒的认识。 推理大模型的思考机制还在不断演进，而我们作为这个历史进程的参与者和见证者，最重要的是保持开放的心态和批判的思维。

大型语言模型（LLMs）如 OpenAI‑O3、DeepSeek‑R1 和 Qwen 系列，在解决数学问题、回答科学问题甚至进行多步骤推理方面展现出惊人能力。然而这些强大系统中一直隐藏着一个缺陷：它们经常过度思考。即使是像 这样简单的问题，也可能触发冗长曲折的思维链，消耗数千 token 并推高计算成本。 一项题为《DRQA: Dynamic Reasoning Quota Allocation for Controlling Overthinking in Reasoning Large Language Models》的最新研究揭示了一个惊人现象：当多个问题以批处理形式输入时，模型会自动压缩推理过程，生成比单独处理时更简短的答案。作者将这种 emergent 的「资源竞争压力」转化为系统性技术——动态推理配额分配（DRQA），使单问题推理也能获得同等效率。 1. 过度思考 作者从三个维度描述了该问题： 过度思考导致冗长且通常冗余的思维链及不必要的 token 消耗 后果包括推理延迟增加、GPU 内存占用扩大、API 成本上升以及实际应用的可扩展性降低 思考不足（另一极端）会导致解释过于简略、步骤缺失以及在难题上准确率下降，影响模型在挑战性基准测试中的表现 现代 LLMs 擅长思维链（CoT）提示，即模型在给出最终答案前逐步写出推理过程。这种方式能提升复杂任务的准确率，但在简单任务上可能造成浪费。该研究提出： “ 我们能否鱼与熊掌兼得？ 模型能否学会在问题简单时保持简洁，在问题困难时保持严谨——而无需人工设置 token 预算？ 2. 批处理推理的启示 2.1 作者的观察 实验：作者比较了三个数学问题被单独回答与批量回答时的 token 消耗量（图 1） 结果：批量回答节省约 45% 的 token（648 vs. 1205），且准确率相当 解读：当多个查询共享同一上下文窗口时，模型会直觉性地为有限推理配额展开竞争并修剪非必要步骤——作者称之为资源竞争压力 2.2 效应扩展性 作者测量了不同批量大小下每个问题的平均 token 消耗量（使用 DeepSeek‑R1 在 DeepScaleR 数据集约 3 万道数学题上测试）： 即使批量增大，准确率仅轻微下降，证实模型会自动为难题分配更多推理资源，同时压缩简单问题的推理过程 3. 从观察到方法：DRQA 的实现 该研究的核心贡献是将批处理诱导的效率迁移至单问题推理的强化学习（RL）框架。以下详细解析各组件 3.1 框架概览图 3.2 逐步方法论 3.2.1 通过批处理推理收集数据 使用 DeepSeek‑R1 在 DeepScaleR 数据集（约 3 万道数学题）上运行批量大小为 2/3/5的提示，为每个问题提取对应 CoT “ 提供模型在资源竞争下自然压缩推理的真实样本 3.2.2 偏好标签构建 每个 CoT 被赋予以下标签之一： ‑ A：正确但可更简洁 ‑ B：正确且简洁（理想状态） ‑ C：错误 标注规则： ‑ 原始（单问题）CoT → 标签 A（正确）或 C（错误） ‑ 批量 CoT → 标签 B（正确）或 C（错误） “ 提供区分「足够好」推理与「不必要的冗长」推理的分级信号 3.2.3 偏好数据集 生成包含 5 万以上 (问题, 推理链, 三选一标签) 元组的数据集 “ 该数据集是 RL 智能体的训练场 3.2.4 基于 GRPO 的强化学习 通过组相对策略优化（GRPO） 训练模型。这种策略梯度方法在最大化正确标签概率的同时，惩罚与旧策略的较大 KL 散度（避免灾难性遗忘）。形式化表示为： 其中 是相对优势（选择标签与真实标签一致时为正，反之为负） “ 该目标函数显式奖励简洁且正确的推理（标签 B），抑制冗长或错误响应。KL 项用于稳定学习，防止模型「遗忘」解决难题的能力 3.2.5 推理（单问题模式） 测试时，模型接收单个问题并照常生成 CoT。但由于已内化对简洁性的偏好，它会根据难度评估自动分配推理配额 “ 无需额外提示、token 预算或手工规则——模型实时自主决策 3.3 为何监督微调（SFT）不足 SFT：作者首先尝试在批量生成的「简洁」数据上直接进行监督微调 结果：token 数大幅下降（GSM8K 上减少 69%），但准确率显著受损（如 AIME 2024 准确率从 74% 跌至 9%） 原因：模型学会了表面简洁性而未理解何时可简洁，导致灾难性遗忘深度推理能力 因此，需要基于奖励的方法（DRQA）来平衡这两个目标 4. 实验结果 4.1 基准测试与设置 数据集 领域 典型难度 GSM8K 小学数学 简单-中等 MATH‑500 代数、几何、数论 中等-困难 AIME 2024/2025 高中奥数 困难 AMC 2023 竞赛数学 中等 GPQA‑Diamond 研究生级科学问答 困难 / 分布外（OOD） 评估的两个蒸馏模型： DeepSeek‑R1‑Distill‑Qwen‑1.5B DeepSeek‑R1‑Distill‑Qwen‑7B 所有基线方法（GRPO、O1‑Pruner、DAST、Shorter‑Better 等）均在相同推理配置下复现（温度 0.6，最大长度 32 K） 4.2 主要结果（摘要） 原始模型（无 DRQA）在 GSM8K 上达到 84.67% 准确率，平均每问 1 929 token；在 AIME 2024 上获得 28.67% 准确率，消耗 14 395 token DRQA (1.5 B) 将 GSM8K 准确率提升至 86.67%（+2 个百分点），token 数降至 1 428（约 ‑26%）；在 AIME 2024 上准确率升至 32.00%（+3.3 个百分点），token 数减至 11 008（约 ‑23%） DRQA (7 B) 在 GSM8K 上达到 92.67% 准确率，仅用 1 324 token（‑24%）；在 AIME 2024 上获得 54.67% 准确率，消耗 10 008 token（‑27%） 激进压缩方法如 Shorter‑Better 虽大幅减少 token（GSM8K 上 ‑94%），但准确率崩溃（降至 63.67%） DAST 与 O1‑Pruner 获得中等 token 节省（‑70% 至 ‑76%），但准确率提升有限，均未达到 DRQA 的平衡性 总体而言，DRQA 在各类数学科学基准测试中持续减少约 30% token 用量，同时保持甚至提升准确率 4.3 消融研究（摘要） 批量-2（使用批量大小 2 训练）获得最佳权衡：token 减少约 30%，整体准确率约 79.6% 批量-3 与 批量-5 的 token 节省略少，准确率微降，表明过大的批量可能稀释「资源竞争」信号 使用非批量数据（如 Qwen2.5‑7B）或批判性微调（CFT） 会导致效率或准确率下降，证实批量生成的偏好数据与 RL 目标均不可或缺 4.4 分布外鲁棒性 在 GPQA‑Diamond 基准上，DRQA 仍减少约 31% token 消耗，同时保持 31.81% / 49.50% 的准确率，优于过度压缩或泛化失败的其他基线 5. 意义 成本节约——对于按 token 收费的服务（如 OpenAI API），DRQA 可在保持质量的前提下降低约三分之一月成本 延迟降低——更短的输出意味着更快的推理，对辅导机器人或科学助手等实时应用至关重要 可扩展部署——凭借更低的内存与计算占用，模型可在相同硬件上处理更多查询 无需人工 token 预算——与许多「早退」或 token 预算方法不同，DRQA 无需额外提示技巧，模型学会自主调节推理长度 6. 局限性与未来方向 当前局限 潜在改进方案 仅在数学与科学推理数据集上测试 将 DRQA 扩展至代码生成、对话或多模态任务 方法仍依赖批量生成的偏好数据集，对超大语料库成本较高 探索合成生成或自博弈以自举偏好数据 仅优化token 用量；未直接处理其他效率维度（如 GPU 内存、推理延迟） 将 DRQA 与动态早退或模型规模剪枝框架结合 7. 结论性思考 DRQA 框架巧妙捕捉了 LLMs 在共享上下文窗口时表现出的微妙涌现行为——资源竞争。通过将该现象转化为强化学习信号，作者赋予模型自调节推理配额的能力：问题简单时简短清晰，问题困难时深入严谨。 结果令人印象深刻：在多种数学科学基准测试中实现token 消耗降低 30%，同时保持甚至提升准确率。重要的是，DRQA 无需硬编码 token 限制或额外提示技巧，使其成为任何以推理为核心的 LLM 部署的即插即用式升级方案。 来源（公众号）：AI Signal 前瞻

在这个数据驱动的时代，没有好的指标体系，企业就像在黑暗中摸索前进。 而有了好的指标体系，就像有了明亮的灯塔，能够清晰地看到前进的方向。 但记住，指标体系不是万能的，它只是工具。真正重要的是，要有用数据思维解决问题的能力，要有持续优化改进的意识，要有拥抱变化的勇气。

1. 为什么大语言模型（LLMs）会“过度自信” 现代LLMs在数学、科学甚至代码推理方面表现惊人，这得益于一种称为带验证奖励的强化学习（RLVR）的训练范式。在RLVR中，模型生成答案，自动验证器检查其正确性，并据此给予奖励（或惩罚）。这一循环使模型无需人工编写的奖励信号即可自我改进。 但这里存在一个隐藏的问题。 在RLVR训练中，大多数流程会反复采样相同的“初始状态”（即原始问题）。随着模型学会解决这一特定提示分布，其策略熵（衡量其下一个token选择多样性的指标）会急剧下降。简而言之，模型开始依赖少数安全的答案模式，变得过度自信且低多样性。结果是熵崩溃：探索枯竭，学习停滞，进一步训练收效甚微。 研究人员尝试用提高采样温度、添加KL惩罚或裁剪高协方差token等技巧修补此问题。这些方法虽有一定效果，但通常需要针对任务精心调整超参数，且仍依赖同一组静态提示。我们真正需要的是在模型学习过程中向训练数据注入真正的新颖性。 2. 如何让模型保持“好奇” 当语言模型生成解决方案时，有时会真正犹豫该写哪个词或数学运算符。这些时刻反映为高token级熵——模型“举棋不定”。 如果我们在这些高熵点精确干预，可以在分叉前截断部分生成的答案，保留导致不确定性的连贯前缀，并将该前缀附加到原始问题后重新提示模型。模型现在面临一个略有不同的初始上下文——一个它从未见过的上下文——因此其后续决策被迫探索新的推理路径。 这就是CURE（关键token引导的重新拼接）的核心。CURE不调整损失函数或裁剪梯度，而是动态重塑数据分布，引导模型转向未充分探索的状态，从而延缓熵崩溃。 3. CURE简述——两个阶段 阶段1（探索）。 采样器被替换为以下流程：首先生成原始提示的多个 rollout，计算每个token的熵，选择一个关键token（从top-K中均匀采样的最高熵token），提取该token前的前缀，将其与原始问题拼接，然后从新提示生成额外 rollout。原始和重新提示的 rollout 组成训练组，输入GRPO风格的裁剪替代损失。 阶段2（利用）。 探索阶段后，训练与标准RLVR完全相同：模型在原始问题上微调（无重新拼接）。由于策略已接触更丰富的初始状态，现在可以安全地将熵缩减至确定性高精度状态，而不会崩溃。 4. 方法深入解析（阶段1） 以下是探索阶段的逐步说明，非专业人士也能理解。 采样初始 rollout 对训练集中的每个问题q，用当前策略π₀生成N₁（如4个）候选答案。 计算token级熵 生成每个答案时，模型在每一步对词汇表分配概率分布。该分布的熵， 量化其在token位置t的“不确定性”。高Hₜ表示模型在多个合理选项中犹豫。 选择关键token 按Hₜ排序所有位置。 取top-K（如K=20）最高熵位置。 从中均匀采样得到随机关键索引t⁎。 创建前沿前缀 提取前缀p = answer₁…answer₍ₜ⁎₋₁₎（关键token前的所有内容）。 重新拼接 构建新提示 其中“||”表示简单拼接。 生成重新提示的 rollout 从每个精炼提示q′生成N₂（如3个）额外答案。 组构建 对每个原始问题q，现在有一个组 原始重新提示的 该组输入GRPO风格的裁剪替代损失： 动态过滤（DAPO技巧） 丢弃并重新采样仅含全正确或全错误答案的组，确保每批包含混合信号。 优化 用AdamW（学习率=1e-6，无熵或KL正则化）最小化损失。故意省略KL项，因为重新拼接前缀被视为外生干预——无梯度流过，模型仅学习对新上下文的反应。 阶段1结果： 模型的策略熵在探索中实际增长，同时习得的知识融入权重。后续利用阶段后，熵适度下降（评估温度0.6时约30%），但准确率比仅用阶段1的基线提高约7%。 5. 实验 在六个标准数学推理基准上，CURE始终优于先前的RLVR方法。第一阶段（探索）后，多数数据集准确率绝对提升约2–3%。最终（利用）阶段表现最佳： 六基准平均准确率从阶段1后的 52.1% 升至阶段2后的 54.3% ——绝对提升约2%，相对最强RLVR基线改进约5%。 熵轨迹显示，探索阶段达到所有测试方法的最高策略熵，利用阶段平滑降低熵，同时高于DAPO或GRPO的平台期。定性分析（生成文本的词云）显示阶段1后连接词（“因此”“验证”等）使用更丰富，符合CURE鼓励更广推理路径的假设。 6. 结论——“好奇”LLMs的配方 CURE证明，一种以数据为中心的微调——在模型自身犹豫时刻重新提示——可显著延缓熵崩溃，并在挑战性推理基准上转化为真实性能提升。因其仅需两个额外超参数（rollout数量）和top-K设置，易于采用、计算廉价且兼容任何RLVR框架。 来源（公众号）：AI Signal 前瞻

在人工智能日新月异的发展浪潮中，构建更强大的语言模型往往伴随着高昂代价——计算与内存需求呈指数级增长。 谷歌DeepMind、KAIST AI和Mila的研究人员在其2025年发表的论文《Mixture-of-Recursions: Learning Dynamic Recursive Depths for Adaptive Token-Level Computation》中提出的混合递归框架（MoR），正是这一困局的破局者。 这一开创性架构能够在保持大规模语言模型性能的同时，大幅降低资源消耗，或将重新定义高效AI的未来图景。让我们深入解析MoR的革命性突破，探寻其被誉为"游戏规则改变者"的深层原因。 核心挑战：如何实现高效扩展 像GPT-3和PaLM这样的大型语言模型（LLMs）已展现出惊人能力——从诗歌创作到复杂问题求解无所不能。然而，它们的算力需求同样惊人。训练和部署这些模型需要消耗海量资源，导致其几乎成为资金雄厚的科技巨头专属品。 以往提升效率的努力通常聚焦于两种策略：参数共享（通过复用模型权重缩减规模）或自适应计算（根据输入动态分配算力资源）。但问题在于——这两种方法长期未能有效结合，直到 MoR 的出现。 MoR 通过将参数共享与自适应计算统一纳入递归 Transformer 框架，直击这一难题。最终实现的模型既能达到大模型的性能水准，又只需小模型的资源开销，为AI效率树立了全新的帕累托前沿。 什么是混合递归架构（MoR） MoR（混合递归）架构的核心是通过两种关键方式提升基于Transformer的语言模型效率： 递归式参数共享机制：不同于传统模型为每层计算分配独立参数，MoR采用共享的Transformer层堆叠结构进行多步递归计算。这种设计大幅减少唯一参数数量，使模型在训练和部署时更紧凑高效。 自适应token计算策略：模型通过轻量级路由网络动态分配不同递归深度——对复杂token进行深层计算，而简单token则提前退出。这种细粒度资源分配有效避免了冗余运算。 该架构还创新性地采用了动态KV缓存技术：仅选择性存储当前递归步骤活跃令牌的键值对，显著降低内存占用并提升推理速度。其变体递归KV共享更进一步复用首步递归的键值对，在几乎不影响性能的前提下，大幅减少预填充延迟和内存消耗。 MoR 如何运作 想象一个编辑团队正在润色一份复杂文档。在传统 Transformer 架构中，每个编辑（层）都是独立的，需要消耗大量资源。而 MoR 则如同一位技艺高超的编辑，通过多次迭代审阅来优化文档。以下是MoR的核心组件解析： 递归式Transformer架构 MoR将模型划分为递归块，通过重复应用同一组共享层实现优化。其参数共享策略包含三种模式： 循环模式：层参数按周期循环复用 序列模式：连续重复使用相同层 中间变体：保留首尾层的独立参数，共享中间层参数 这种设计减少了独特参数数量，既提升了训练效率，又通过"连续深度批处理"等技术消除了计算"气泡"。 动态递归路由 全新训练的路由模块会根据token的复杂度分配递归深度：复杂token获得更多计算资源，简单token则提前退出。与事后路由方案不同，MoR的路由机制在预训练阶段就深度集成，确保训练与推理行为的一致性，实现最优性能。 高效KV缓存 MoR采用"递归感知KV缓存"技术，仅存储当前递归步活跃token的键值对，大幅减少内存访问。其"递归KV共享"变体通过复用首轮递归的键值对，可降低50%内存占用，某些场景下推理速度提升达2倍。 MoR为何重要：结果说明一切 MoR框架在1.35亿至17亿参数的模型规模范围内进行了严格测试，结果令人瞩目： 性能优势：在同等训练计算量（FLOPs）条件下，相较于传统Transformer和现有递归基线模型，MoR以更小的模型规模显著降低了验证困惑度，并提升了少样本学习准确率。 吞吐量提升：通过聚焦活跃令牌的计算优化及KV缓存机制，MoR实现了更高的推理吞吐量，使部署速度更快、成本效益更优。 内存高效：该框架将KV缓存内存占用减少约50%，直击大语言模型部署中最关键的瓶颈之一。 扩展性强：MoR的设计兼容现有硬件和架构，成为现实场景应用的实用解决方案。 这些突破性进展确立了MoR作为效率新标杆的地位，以"大模型性能、小模型成本"实现了优质低耗的完美平衡。 迈向更智能、更廉价AI的关键一步 MoR 的意义不仅限于技术效率的提升。通过降低部署大语言模型的计算与资金门槛，这项技术使小型机构和研究者也能用上尖端AI模型，推动了先进人工智能的民主化进程。其自适应计算机制更模拟了某种"计算智能"——像人类分配脑力处理复杂任务那样，动态调配计算资源到最需要的地方。 X平台上的技术爱好者甚至将MoR称为"Transformer杀手"，暗示它可能引发传统Transformer架构的范式转移。虽然这种说法略显夸张，但MoR通过参数共享与自适应计算的创新结合，确实为高效AI设计树立了新标杆。 挑战与未来方向 尽管混合递归（MoR）是一项重大突破，但它仍面临挑战。动态路由机制需要精细训练以避免性能下降，而递归KV共享的权衡方案仍需在不同任务中进一步探索。此外，与所有注重效率的方法一样，需要确保该技术在现实应用中始终保持稳健性能。 未来研究可在MoR基础上整合其他技术，如专家混合（MoE）或DeepMind自研的混合深度（MoD）。该框架的灵活性还为动态样本调度和连续深度批处理等创新开辟了道路，有望进一步提升吞吐量（某些情况下可实现高达2.76倍的加速）。 结论：面向未来的蓝图 混合递归不仅是一项技术创新，更是构建更智能、更经济、更高效AI的蓝图。通过统一参数共享与自适应计算，MoR实现了曾被视作不可能的目标：既能达到大规模模型的性能，又能保持小规模模型的效率。当AI界苦于扩展成本不可持续之际，MoR为平衡性能与实用性提供了可行路径。 随着DeepMind与合作者不断突破AI效率的边界，MoR以其创造性的架构设计证明了创新的力量。无论它是"Transformer杀手"还是变革性的一步，有一点毋庸置疑：混合递归正在为更普惠、更可持续的AI未来铺平道路。 “ 更多细节请参阅arXiv上的原始论文：《Mixture-of-Recursions: Learning Dynamic Recursive Depths for Adaptive Token-Level Computation》 来源（公众号）：AI Signal 前瞻

研究意义 阅读ChatGPT生成的摘要时，你或许会注意到一个奇特现象：模型尤其偏爱“delve”（探究）、“intricate”（复杂）、“nuanced”（微妙）这类光鲜的学术形容词。越来越多文献将这种词汇过度使用视为大语言模型（LLMs）与人类写作者差异的体现。但究竟是什么驱动了这些词汇选择？ Juzek与Ward的研究试图解答这一问题。他们的研究探讨了人类反馈学习（LHF）环节——即人类对模型输出进行排序或比较的过程——是否会系统性推动LLMs偏向使用一小部分受青睐的术语。若确实如此，这种过度使用就并非神秘的程序错误，而是为了让模型更符合人类偏好而设计的流程所产生的副作用。 通俗解读核心发现 研究者对比了LHF训练前与LHF训练后的模型，识别出指令微调后使用频率显著上升的词汇，随后通过人类实验让参与者在两版仅含目标词汇差异的文本中做出选择。结果发现：经LHF训练的模型（Meta的Llama 3.2 Instruct）确实比基础模型更频繁使用某些词汇，而人类偏好那些包含更多此类词汇的版本（≈52% vs. 48%）。简言之：LHF似乎是词汇过度使用的主要推手，而它偏好的词汇恰恰也是反馈环节中人类更青睐的。 方法论逐步解析 3.1 模型选择 基础模型：Llama 3.2‑3B Base——未经人类反馈微调的标准语言模型。 指令微调模型：Llama 3.2‑3B Instruct——相同架构，但经过直接偏好优化（DPO）（一种通过最大化人类偏好分数实现LHF的技术）。 这对模型是唯一公开的、仅因LHF步骤产生差异的配对，适合进行纯净对比。 3.2 构建“词汇指纹” 数据源：从PubMed（2020年）选取10,000篇科学摘要（确保其成文于LLMs普及前，代表人类基准）。 过滤：剔除少于40词的摘要，保留9,853篇。 生成续写：将每篇摘要分为两半，以前半段为提示输入模型： 续写以下学术文章：'{前半段}'   模型生成续写内容（长度不超过输入的两倍）。 清洗：使用GPT‑4o自动去除生成循环、元评论及非摘要内容的杂项文本。 生成语料库： 基础模型续写：约230万词 指令模型续写：约220万词 3.3 标注与计数 词性标注：通过 spaCy (v3.8.3) 标记每个词汇（如名词、动词），区分同形异义词（如“run”作动词或名词）。 词元归并：将词汇还原为词典形式（如“delve”“delves”“delving”→“delve”）。 频率计算：对每个词元-词性组合计算每百万词出现次数（opm）。 3.4 统计检测过度使用词汇 卡方检验比较两语料库的词汇计数。 显著性上升（p < 0.01）的词汇被标记为潜在LHF诱导项。 3.5 从检测到实验验证 目标：证明人类在文本排序时偏好的词汇与LHF过程一致。 生成变体：将50篇随机PubMed摘要转化为关键词列表，输入Llama Instruct生成每篇500个变体（共25,000个）。清洗后保留8,710个有效变体。 评分：为每个目标词汇分配LHF分数（基于其在指令模型中的相对增幅），变体总分为所含词汇分数之和。 筛选对比组：对每篇摘要，选取LHF分数最低与最高的变体，最终保留差异最大的30组作为实验刺激集。 人类受试者：通过Prolific招募400名参与者（主要来自全球南方），每人评估25组（20组关键对比，5组控制组）。剔除低质量数据后保留4,039条有效评分（≈每组135次评分）。 统计分析：主检验为卡方检验（对比高/低LHF分数选择比例与50/50基准），辅以混合效应逻辑回归验证稳健性。 结果解读 实验揭示三大发现： 总体偏好：52.4%的案例中参与者选择高LHF分数变体，虽微弱但显著高于随机水平。 混合效应模型：逻辑回归（含受试者与项目的随机截距）确认固定效应显著，表明偏好模式跨文本与人群均成立。 词汇特异性：当高分数变体含“nuanced”时，偏好率反降至46.6%，暗示某些过度使用词汇若过于显眼可能适得其反。 核心结论：LHF评估者确实偏爱那些被后LHF模型过度生成的词汇，由此形成因果链：人类评估者→LHF微调→模型偏差。 影响与更广语境 对齐与错位：LHF旨在使模型对齐人类偏好，但实际对齐的是LHF劳动力（多为全球南方年轻群体）的偏好，可能与终端用户（学者、记者）反对的“delve效应”冲突。 语言演变：某些术语的过度使用早于LLMs，LHF可能加速代际语言变迁，使模型模仿反馈提供者的语言习惯。 数据透明度：不透明的LHF流程（未公开数据集、隐藏工作者人口统计）阻碍诊断与修正偏差。公开LHF数据可实现针对性去偏。 缓解措施：研究者的检测流程（第2部分）为开发者提供低成本自动化工具，可在模型发布前识别极端词汇过度使用。结合劳动力多样化或偏好数据再平衡，或减少“AI词汇”泛滥。 AI文本检测：过度使用词汇是LLM输出的标志，此方法可改进AI文本检测工具（如基于相对熵或概率曲率的工具）。 核心启示 人类反馈学习是一把双刃剑。它推动LLMs使用评估者（多为全球南方年轻工作者）偏好的语言，却导致模型过度使用少量华丽的学术词汇——许多读者视此现象为与更广泛用户期待的错位。 Juzek与Ward的研究首次实证连接LHF与词汇偏差，既提供诊断工具，也呼吁反馈环节的更高透明度。若要LLMs服务真正多元的受众，我们必须超越当前LHF劳动力，多样化其生成的数据，并警惕模型重复的词汇。 来源（公众号）：AI Signal 前瞻