“LoRA Speedrun”是一项对抗性的“同类比对”竞赛,旨在寻找微调 Qwen2.5-1.5B 模型以达到 GSM8K 基准测试 57% 以上准确率的最快方法。参赛者需在 Modal 沙盒(无网络连接)中使用单张 NVIDIA L40S GPU,并在严格限制下竞逐最快运行时间:固定基础权重、PEFT 适配器参数量限制为 30M,且仅限使用官方 GSM8K 训练集。
该项目仿照“modded-nanogpt”竞速模式,提供了一个客观的竞技场,让序列打包、自定义内核及秩自适应方法等技术可以直接对比。由于结果需在相同硬件上使用不同随机种子独立验证三次,排行榜成为了衡量工程创新的可靠记录。参与者可通过 Modal 积分免费参赛,项目鼓励尝试 LoRA+、Liger 内核及数据剪枝等多种优化策略,以刷新目前 6 分 05 秒的记录。该倡议旨在实现参数高效微调(PEFT)性能报告的标准化,从零散的学术声明转向可验证、可复现的实际速度比拼。