一份声称五家美国科技公司拥有 1.65 万亿美元“隐藏债务”的病毒式报告具有误导性。尽管该数字背后的计算准确,但其标签完全错误。
这 1.65 万亿美元代表的是**未折算的未来合同义务总额**(主要是尚未开始的租赁和长期基础设施采购承诺),而非债务。该报告错误地将这一多年的名义总额与当前的资产负债表负债进行了对比,而后者主要由应付账款和应计费用等常规运营义务组成,而非计息借款。
主要结论如下:
* **并非隐藏:** 这些数据已在公开的证券交易委员会(SEC)备案文件(10-Q 和 10-K)中明确披露。
* **并非债务:** 这些是针对未来人工智能基础设施和服务的待履行合同。根据会计准则,它们不会自动归类为债务。
* **背景至关重要:** 这些义务代表了长达 30 年的长期承诺。若分摊到每年,其年度影响远没有“总额”所暗示的那样惊人。
虽然这些巨额承诺确实存在财务风险(例如如果人工智能需求减弱会导致灵活性降低),但它们属于标准的商业协议,并非财务隐瞒或“安然式”欺诈的迹象。这 1.65 万亿美元是规模的指标,而非偿付能力的衡量标准。
在 ACM FAccT 会议上,我们介绍了关于对人工智能安全护栏进行严谨且针对具体情境评估的迫切需求的研究。尽管目前在测试大语言模型(LLM)能力方面投入了大量精力,但作为过滤和限制模型输出的机制——“安全护栏”,往往受到的审查却少得多。
我们的研究强调,安全护栏必须从静态策略演变为能够使用网络搜索等工具的动态代理系统。通过与 Respond Crisis Translation 的合作,我们评估了大语言模型在多种语言和人道主义情境下的表现。我们发现,仅基于文本的安全护栏往往无法验证信息,从而导致“幻觉”或出现草率的错误。
我们的实操环节展示了通过为安全护栏配备工具(如检索和事实核查),使其能够验证声明,从而显著提高了在高风险场景下的可靠性。利用 Mozilla 的“any-guardrail”和“Otari”大语言模型网关等开源工具,开发者现在可以构建出更具可配置性、透明度和情境感知能力的安全层。随着人工智能应用范围的扩大,我们认为,评估这些安全护栏与评估模型本身同样至关重要。我们正在持续改进这些代理框架,以覆盖更多领域,从而确保人工智能的部署既可信又负责任。