## 理解与分析系统中的延迟
本文强调了依赖*平均*延迟测量值的危险性,这可能会掩盖关键的性能问题——例如在关键事件期间的缓慢响应。相反,工程师应该关注*百分位数*(95%、99%等)来了解最坏情况。
核心思想是量化请求处理每个阶段所花费的时间,区分**墙钟时间**(用户体验)和**CPU时间**(实际处理)。延迟源于**微延迟**(函数调用、分配)和**宏延迟**(网络、I/O)。将延迟视为一个*分布*至关重要——大多数请求很快,但异常值很重要。
Python 提供了用于**CPU 性能分析**(cProfile、line_profiler、snakeviz)的工具,以识别计算瓶颈,以及用于**墙钟时间性能分析**(py-spy)的工具,以捕获等待造成的延迟。除了性能分析之外,使用 Prometheus 和 OpenTelemetry 等工具进行的**监控**可以创建连续的指标(直方图),用于实时监控。
最后,本文提倡在生产环境中进行**持续的延迟性能分析**,以主动识别性能回归,并了解延迟在负载下的变化。这涉及平衡采样率与开销,并可视化数据以将延迟峰值与部署或配置更改相关联。关键要点:可见性是优化的第一步。
## 纽约市失落的餐饮文化
纽约市曾经遍布自动餐厅和自助餐厅,提供经济实惠、快捷的餐饮以及独特的社交场所——介于工作和家庭之间的“第三空间”。 这些场所,如著名的 Horn & Hardart 自动餐厅(甚至在《了不起的麦瑟尔夫人》中重现),在 20 世纪初彻底改变了餐饮业,起源于德国理念并迅速扩张。
除了自动餐厅,像布鲁克林的 Dubrow’s Cafeteria(在《Kibbitz and Nosh》一书中有所介绍)这样的场所,为来自不同背景的纽约人——从表演者到大屠杀幸存者——提供了一个通过咖啡和用餐来交流的社区中心。 其他著名场所包括 Garden Cafeteria,是犹太知识分子的聚集地,以及 Belmore Cafeteria,它在《出租车司机》中出名。
这些餐馆不仅仅提供食物;它们是文化地标。 它们举办政治集会(Dubrow’s),激发文学创作(Hector’s),并提供安全的空间(Life Cafeteria)。 虽然大多数餐馆自 1970 年代和 90 年代以来已经关闭,但它们的遗产依然存在,像 The Brooklyn Dumpling Shop 这样的现代机构正在尝试复兴自动餐厅的体验。
本次演讲将人工智能的快速发展与历史上的“突然等价”时刻相提并论——即技术迅速超越现有技能的时刻。演讲者以蒸汽机取代马匹(缓慢积累,然后马匹迅速衰落)以及计算机迅速超越人类国际象棋大师作为先例。
目前,人工智能基础设施的投资在稳步增加,但“等价”的*体验*并未如此。演讲者,前Anthropic人工智能研究员,用自己的工作经历来说明:在短短六个月内,人工智能(特别是Claude)从协助回答新员工问题,发展到处理80%的咨询量——超过了整个人工团队的容量——且成本仅为人工团队的一小部分。
这种快速的取代速度,远快于受蒸汽机或国际象棋人工智能影响的人们所经历的速度,促使演讲者反思2500万匹马被淘汰的命运。他们担心许多职业将面临类似的快速和颠覆性未来,并希望有一个比那些马匹更长的过渡期。