Launch HN: Tokenless (YC S26) – 自动模型切换以节省成本
Launch HN: Tokenless (YC S26) – Automatic model switching to save money

原始链接: https://usetokenless.com/

``` 您每月的 LLM 开销 每月 4 万美元 您支付 2.6 万美元/月 节省 1.4 万美元/月 0 美元 4 万美元/月 — 您当前的账单 未来 12 个月的趋势:Ramp AI 指数 · +11.0%/月 2 万美元/月 4 万美元/月 6 万美元/月 8 万美元/月 10 万美元/月 12 万美元/月 当前趋势 使用 Tokenless(无 Token 优化方案) 未来一年预计节省 34.4 万美元 -12 个月 今天 +12 个月 ▸编辑您的模型组合 * 估算值基于公开的 Token 价格(包含缓存费率)及来源中可编辑的路由假设。实际费率取决于您的流量。 开销历史与趋势:Ramp AI 指数 — 2025 年 6 月至 2026 年 6 月的人均 AI 开销,根据您所属的同类群组匹配,并按过去 12 个月的增长率推算得出。 ```

**Tokenless** 是一家由 YC 支持的全新 API 网关,旨在通过在对话过程中动态调度智能体流量至不同模型,从而降低 AI 使用成本。该平台由来自普林斯顿大学的研究人员创立,旨在通过智能切换机制——在复杂任务时调用高端模型,在简单任务时调用成本较低的开源模型——以更低的价格提供“前沿级”性能。 该团队声称,他们创新的路由方法能够同时查询多个模型并根据实时进展做出决策,从而以一半的成本达到类似 Claude 3.5 Sonnet 的性能水平。他们还指出,该系统具有缓存感知能力,能够在不丢失上下文的情况下高效切换模型。 此次发布在 Hacker News 上引发了争议,用户对该模式的可行性提出了质疑,认为长周期智能体链中 KV 缓存的成本效益已经很高。创始人对此反驳称,他们的路由器考虑到了通过提前切断昂贵且置信度较低的模型所带来的潜在节省,并指出“竞速”模式允许进行持续的缓存更新。Tokenless 目前正邀请用户试用该平台,并提供 20 美元的免费额度。
相关文章

原文

YOUR MONTHLY LLM SPEND

you pay $26K/mosaved $14K/mo

you pay $26K/mosaved $14K/mo

$0$40K/mo — your bill today

YOUR NEXT 12 MONTHSTREND: RAMP AI INDEX · +11.0%/MO

$20K/mo$40K/mo$60K/mo$80K/mo$100K/mo$120K/mocurrent trajectorywith tokenless$344KSAVED OVER THE NEXT YEAR−12 MOTODAY+12 MO

* Estimates use published token prices (including cache rates) and editable routing assumptions in the source. Your rate depends on your traffic. Spend history & trend: Ramp AI Index — AI spend per employee, Jun 2025–Jun 2026, matched to the cohort your spend sits in and extrapolated at its trailing 12-month growth.

联系我们 contact @ memedata.com