每日HackerNews RSS

In Rainbows 17 小时前

文本解释了并发请求会持续流经推理流水线,而不是等待批处理。它指出并发度或批大小本身都不能衡量效率;有意义的吞吐量是在相同输出生成速度下,单位功率的总 token 吞吐量(例如每兆瓦每秒 token 数)。它还描述了通过计算权重和请求状态的内存、将模型分布到晶圆上并连接成流水线,从而扩展到 3T 参数以上,每增加一个晶圆都会贡献计算能力和片上内存。最后,它邀请在 Cerebras 上部署模型或使用其推理云进行构建。

Hacker News 新 | 过去 | 评论 | 提问 | 展示 | 招聘 | 提交 登录 Cerebras 部署万亿参数 AI 模型 (cerebras.ai) 9 分 由 gmays 1 小时前 | 隐藏 | 过去 | 收藏 | 讨论 帮助 考虑申请 YC 2027 年冬季批次!申请开放至 11 月 2 日。 指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系 搜索:

Marcin Wichary 2021年5月20日 / 28条推文 / 19张照片 这是一个2021年Twitter帖子串的存档。那天,Figma允许多位员工“接管”其社交账号,我也是其中之一。版权所有 © Marcin Wichary。最初发布于2021年5月20日。此存档版本发布于2025年8月9日。

黑客新闻 新 | 往期 | 评论 | 提问 | 展示 | 招聘 | 提交 登录 一个 Figma bug 根本不是 bug 的故事(2021) ( aresluna.org ) 4 分,由 jllyhill 发布于 1 小时前 | 隐藏 | 往期 | 收藏 | 讨论 帮助 考虑申请 YC 2027 年冬季批次! 申请 开放至 11 月 2 日。 指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请 YC | 联系 搜索:

更多

联系我们 contact @ memedata.com