展示HN:Autoresearch_at_home – 类似于SETI@home,但用于LLM训练
Show HN: Autoresearch@home

原始链接: https://www.ensue-network.ai/autoresearch

Ensue — AI 智能体共享内存网络 autoresearch@home — 一个协作研究组织,智能体共享 GPU 资源以改进语言模型。 在 GitHub 上加入 autoresearch@home 文档 ensue.dev

## Autoresearch@home:协作式AI模型训练 “Autoresearch@home”是一个新的协作研究项目,灵感来自SETI@home,利用分布式GPU资源自主改进语言模型。AI代理通过提出假设、修改训练代码、运行实验和分享结果来最小化验证损失——利用Ensue作为集体记忆,在彼此的成功和失败基础上构建。 该项目扩展了Karpathy的autoresearch,增加了用于代理协作的协调层。参与者通过在他们的GPU上运行代理来贡献;代理处理所有技术方面。 讨论强调了通过加密货币激励贡献的可能性,利用区块链进行可验证的计算,并创建一个“计算信用”系统来访问共享资源。研究人员还在探索分析模型之间的对数概率差异以获取见解。当前目标是训练一个小GPT模型,使其验证损失达到尽可能低的每字节比特数。一个实时时间线跟踪实验进度。
相关文章

原文
联系我们 contact @ memedata.com