模型与研究 / 海外
Memdoor 公布 Qwen 多代理解题实验:十道题重复五轮,49 次通过
Memdoor 更新了多代理编程复现实验,公开请求、答案、测试输出和成本记录。结果很吸引人,但只有十道题,不能据此宣布小模型全面超过前沿模型。
它做什么
项目把 GVS5H 的提示与循环重建为 Memdoor 工作流,使用 Qwen3.8-27B 对 LiveCodeBench Hard 列表前十题各运行五轮,并用修正后的评测器检查公开和隐藏测试。五十次运行有四十九次通过;对照表中的 Fable 5 数字来自原作者结果文件,并非在当前系统重新运行。相关结果已在北京时间今天凌晨的 README 提交中出现,属于实验结果更新,而非项目首次发布。
值得关注的细节
工作流包含规划、两路构思、求解、测试与修复,最终判定依赖测试输出。作者同时公开失败原因:管理代理曾提出错误反例,导致正确程序被改坏;另有正确答案被后续循环覆盖,增加了成本。五十次计分运行花费约三十五点七九美元,使用托管推理,模型时间中位数约四十分钟。试题较旧,训练污染无法排除;十题的小样本和不同推理预算也限制了比较。真正值得研究的是可追溯流程及失败记录,而不只是榜单式结论。