如果你不运行自己的 LLM 代理,你怎么知道发生了什么?
If you don't run your own LLM proxy, how do you know whats going on?

原始链接: https://jrdsgl.com/if-you-dont-run-your-own-llm-proxy-how-the-fuck-do-you-even-know-whats-going-on/

启用JavaScript和cookies以继续

一篇 Hacker News 帖子询问用户如何在不运行自己的代理的情况下监控 LLM 活动。评论者建议 OpenRouter 可以处理其中大部分,而其他人使用 LiteLLMProxy 签发虚拟密钥、监控请求,并为沙箱代理应用防护栏。一位用户询问 LiteLLM 与 Claude 订阅的兼容性。另一位说他们构建了自定义代理/测试框架以实现完全可观测性,因为现有工具缺乏透明度。帖子还包括对所链接文章的赞扬。
相关文章

原文
联系我们 contact @ memedata.com