小米公开MiMo-V2.6大模型训练进程 实时直播展示过程、指标、成本等信息

  【天极网人工智能频道】大模型训练对用户而言长期处于近似“黑箱”的状态，外界只能等成品上桌。9月17日凌晨，小米MiMo团队把这一过程做成了一场直播：mimo.xiaomi.com/rl页面直接读取训练器日志，把MiMo-V2.6强化学习阶段的指标、Token消耗与账单实时摊开，截至9月18日上午，累计成本已达192万美元。

  MiMo-V2.6目前展示中的步骤叫强化学习后训练，相当于把它送进训练场反复做题、调用工具、接受评分。页面显示，每个训练步要处理约20亿个Token，一次放出1568个任务，每个任务独立尝试16次，合计25088条解题轨迹完全异步地运行。截至9月18日上午，两条线累计训练轨迹超过100万条，消耗约968亿Token，调用沙箱环境约829万次。

  以成本计算，Pro线每小时花费约2.06万美元，Flash线约1.03万美元。同一个任务让模型试 16 次，是因为它每次选的解法都可能不同，要把这些差异结果采集起来，判断哪些做法值得奖励。MiMo团队称，这半年只想回答一个问题：强化学习到底能扩展多远，细节将在未来几周逐步开源。

  页面上的公告栏同样值得一看。9月17日凌晨4点，一条公告写着Pro线因某个节点显存问题正在重启；上午10点，Flash线从第15步重跑，原因是有一类基础设施错误在三小时里没被正确检测出来；晚8点，Pro线训练集群与评测部署之间出现网络连通问题再次重启，同时把cyber数据集从下一次运行中移除，因为轨迹日志里出现了一些错误模式。截至9月18日上午，两条线累计重启11次，Pro线占9次，相当于将强化训练中踩的“坑”也展示了出来。

  我们如何从训练直播中看到模型能力的提升呢？页面Benchmark板块展示了同一批任务重复采样的平均通过率，Pro线从0.565升到0.636，Flash线从0.514升到0.615。官方还公布了DeepSWE v1.1的离线成绩，要求模型进入真实代码仓库定位并修复问题，Flash从48.67 分爬到63.86分，Pro到65.97分。但两条线目前都只跑到十几步，曲线仍在爬坡。

  值得一提的是，直播训练过程和账目本身不等于完全开源。MiMo团队负责人罗福莉发文称，团队将在接下来几周内将逐步开源本次强化学习训练的多项过程，MiMo-V2.6模型本身则没有更多相关信息，我们仍需等待其正式推出。

  小结

  大模型训练=烧钱，业内早已通过各式各样的官宣和报道传递了这一信息，但此前几乎没人把它挂在网页上让所有人实时了解。比3万美元/小时的强化训练成本更重要的是，当一条训练线的费率、步数与重启次数可以被外部实时了解，模型竞赛中便多了一条独特的赛道。

  在波折中增长的跑分表现之外，公告栏中呈现的错误信息同样为我们了解大模型提供了独特的外部视角。