本文档概述了开发者利用强大API访问各种AI模型的资源。它涵盖了从**API入门**(REST & gRPC)和理解**模型与定价**,到管理**速率限制**和**成本跟踪**的方方面面。 主要功能包括对多种数据类型的支持——**文本、图像、视频和语音**,以及函数调用、网络搜索、代码执行和集合搜索(RAG)等高级工具。 文档还详细介绍了**高级API用法**选项,如**批量处理、提示缓存和预留吞吐量**,以及**mTLS身份验证**等安全功能。提供了**迁移**到较新API版本和模型的资源,以及**社区示例、常见问题解答**和**数据与隐私**信息。一个**API控制台**可用于测试和探索。
受技术历史的吸引,作者最近创建了一个编码代理,并决定在1978年的数字设备公司VT-100终端上测试它——这是一个与现代终端出人意料的相关祖先。该项目源于一种愿望,即看看为今天系统设计的软件是否能在原始硬件上运行。
VT-100拥有3KB的RAM和独特的CRT啸叫声,通过简单的字节流和ANSI转义序列来控制光标和显示文本。使其工作涉及克服几个障碍:错误的串行电缆、通过Linux虚拟机启用流控制(macOS缺乏支持),以及优化应用程序以避免由于终端的9600波特速率而导致的缓慢的全屏重绘。Unicode和OSC序列的兼容性问题也需要实现仅ASCII模式。
尽管面临挑战,作者发现使用这款老式终端出人意料地令人愉快,强调了旧技术和新技术之间令人满意的对比。这次经历强调了计算的持久原则,甚至促使一位企业客户提出了仅ASCII模式的功能请求!
## 科技界的“它被烤过了”:Meta 与社交媒体的公关策略
一个世纪前,美国烟草公司使用“It’s Toasted”(它被烤过了)的口号来转移人们对香烟健康风险的担忧,将标准的生产过程作为独特的优势来宣传。今天,Meta(Facebook/Instagram)在社交媒体对心理健康产生越来越大的负面影响,尤其是对年轻人的影响时,也采用了类似的策略。
与烟草公司一样,Meta 强调对“安全功能”的投资——内容审核、家长控制和宣传活动——将重点从可能令人上瘾的平台设计转移到反应式的安全措施上。这反映了“It’s Toasted”的策略,将标准运营的必要措施包装成积极的关怀。
越来越多的诉讼,包括最近对 Meta 的疏忽判决,以及立法行动——例如澳大利亚禁止 16 岁以下青少年使用社交媒体,以及美国拟议的警告标签——预示着越来越大的反弹。尽管首席执行官马克·扎克伯格为青少年安全道歉并声称优先考虑青少年安全,但批评人士认为 Meta 避免解决鼓励强迫性使用并导致焦虑和抑郁的基本设计缺陷。
与烟草行业的比较非常明显:两者都面临着对危害的认识不断提高、对风险的内部了解,以及最终的监管。Meta 目前的策略有重蹈覆辙的风险,需要转向主动重新设计,以打造真正更安全的平台,而不仅仅是声称它们“被烤过了”。
## Softmax:深入解析
Softmax 是机器学习中普遍使用的函数,用于多类别输出、概率归一化和计算注意力权重。它将实数向量转换为概率分布——介于 0 和 1 之间的值,总和为 1——有效地将向量映射到“概率单纯形”上。
虽然看似简单(softmax(xi) = e<sup>xi</sup> / Σ<sub>j</sub>e<sup>xj</sup>),但 softmax 会夸大值之间的相对差异,使预测具有决定性,但可能对不确定性估计造成问题。它将所有维度耦合在一起;由于总和为 1 的约束,改变一个输入会影响所有输出。
**数值稳定性**至关重要。朴素的实现可能因输入过大而溢出。解决方法?将输入移动最大值(softmax(xi) = softmax(xi - max(x))),确保没有指数超过 0。
**雅可比矩阵**揭示了 softmax 的相互关联性。其结构(对角线加秩 1)允许高效的反向传播,而无需完全实现潜在的巨大矩阵。与交叉熵损失结合使用,反向传播简化为预测概率和真实标签之间的差异 (s - y)。
最后,**轴参数**处理批量处理,沿指定维度进行归一化。**温度缩放**控制分布的“锐度”,影响置信度和确定性。
苹果公司正在经历Mac mini和Mac Studio的重大发货延误,可能持续数月。首席执行官蒂姆·库克将此归因于意外的高需求,这得益于这些平台日益被认可为强大的AI和代理应用工具。
此次短缺尤其影响着配置升级内存的版本——Mac mini的32GB/64GB以及Mac Studio的128GB/256GB,一些型号现在完全无法订购。这与更广泛的全球内存芯片短缺情况一致,该短缺是由AI服务器制造商的需求增加所驱动的。
与此同时,AI公司Perplexity推出了“个人电脑”服务,该服务利用Mac mini创建一个始终在线的AI代理,进一步凸显了Mac mini在蓬勃发展的AI领域的吸引力。苹果公司正在努力平衡供需,但客户应预计更长的等待时间。