## 编码代理成本:缓存读取是隐藏的开销 随着编码代理变得越来越复杂,理解其成本结构至关重要。一个关键发现是,**缓存读取迅速成为主要开销**,通常在**27,500个token**左右时,费用会占到总成本的一半——到对话结束时,甚至高达总成本的87%。 这是因为编码代理在每次交互时都会将整个对话历史记录发送给LLM。虽然初始输入和输出token很重要,但从缓存中*读取*这段历史记录的成本会随着对话长度和LLM调用的次数呈二次方增长。 对exe.dev上的250个对话的分析一致地显示了这一趋势。成本不仅基于token数量,还基于*LLM调用的次数*——调用次数越多,缓存读取次数就越多。以Anthropic的定价为例,缓存读取可能在**20,000个token**时就成为主要成本。 缓解策略包括限制大型工具的输出(避免重复读取整个文件)以及考虑重启对话以避免过高的缓存成本,这类似于开发者经常从git仓库开始全新项目。最终,成本管理、上下文和代理编排可能从根本上是相关的。
罗伯特·沃尔克(Robert Wolke)的“美食101”专栏解释了铝箔的起源以及亮面和暗面的区别。最初被称为“锡箔”,因为19世纪时它是由锡制成的(灵感来自爱迪生的留声机),现在几乎完全由铝制成。
两种不同表面是制造过程的结果。铝在钢辊之间轧制;最后的工序使用两张面对面压制的薄片。外表面因与抛光辊接触而变得光滑,而内表面则相互挤压,形成哑光表面。
然而,沃尔克澄清说,**使用哪一面烹饪并不重要**——性能相同。有趣的是,铝是地球地壳中最丰富的金属,尽管人们普遍认为,锡箔帽并不能阻挡无线电信号!
## 排版引擎基准测试:速度 vs. 控制
speedata Publisher (sp) 的开发者进行了一项基准测试,将其性能与 Typst、pdflatex、LuaLaTeX、WeasyPrint 和 Apache FOP 进行比较,任务是邮件合并——用数据填充信件模板以生成 PDF。
**测试结果:** 对于单页文档,sp 和 Typst 的速度相当(约 100 毫秒),明显快于其他引擎。 然而,对于 500 页文档,**Typst 显著优于所有其他引擎**,仅用时 157 毫秒——大约比 sp 快 28 倍。 这种速度得益于 Typst 更简单的断行算法。
**但速度并非一切。** 虽然 Typst 在快速处理方面表现出色,但 sp(和 pdflatex)使用 Knuth & Plass 算法实现更好的文本对齐,避免了 Typst 输出中存在的不均匀间距和断字问题。
**关键区别在于复杂布局。** 基准测试显示 sp 在 *自适应布局* 方面具有优势——自动调整内容以适应可用空间,这对于产品目录等任务至关重要。 Typst 在这方面遇到困难,需要手动计算并且缺乏内置的动态页面填充功能。 其他工具表现更差。
**结论:** 对于邮件合并等简单任务,**Typst 在速度方面是明显的赢家。** 然而,当布局需要智能内容调整和精确排版时,**sp 提供了其他引擎所不具备的功能**,即使这意味着牺牲一些处理速度。 该基准测试强调,“最佳”工具很大程度上取决于排版任务的复杂程度。
您可以在 [GitHub](链接未在文本中提供) 上找到完整的基准测试设置。