## 剩披萨与抗性淀粉的科学
最新研究表明,冷却富含淀粉的食物,如披萨、米饭和土豆,实际上可以*增加*它们的健康益处。将这些食物冷却至40°F以下的过程会将一些淀粉转化为“抗性淀粉”——一种功能类似于纤维的碳水化合物。
这种抗性淀粉不易被消化,这意味着它不会在体内分解成糖,而是会通过消化系统。这有助于调节血糖水平,可能对糖尿病患者或寻求更健康肠道的人有益。重要的是,重新加热不会破坏这些新形成的淀粉链。
科学家们通过详细的研究发现了这一点,包括对冷却米饭的电子显微镜分析和测量消化反应的人体试验——甚至追踪咀嚼时间!这项研究强调了看似简单的行为,如冷藏,可以从根本上改变食物对我们身体的影响,揭示了我们才刚刚开始理解的复杂相互作用。
## Luna-2:利用客户端负载均衡优化实时AI评估
Galileo的Luna-2安全防护需要毫秒级的延迟来进行实时AI安全评估。最初使用Kubernetes默认负载均衡器的部署导致GPU利用率低下(40-60%),并且由于其循环分配方式忽略了不同的请求处理时间,导致延迟增加。为了解决这个问题,他们实施了一个基于Redis的、感知负载的客户端负载均衡器。
该系统根据请求负载大小(代表处理成本)计算“负载评分”,并将请求导向最不繁忙的GPU。Redis通过Lua脚本确保原子操作,维护GPU负载的实时视图,并处理pod生命周期事件。一个后台进程会调和客户端故障造成的潜在评分不准确。
使用38个A100 GPU的测试表明,**平均GPU利用率提高了40%,尾部延迟降低了70%**,尤其有利于较大的输入尺寸。该解决方案通过避免集中式负载均衡服务,优先考虑了简单性、可扩展性和更低的延迟。
关键经验表明,感知负载的路由对于GPU推理具有很高的投资回报率,并且Redis在管理共享状态方面具有强大的功能。未来的工作将侧重于完善评分函数并探索吞吐量优化策略。