Mistral 关于“代码实现工具调用”的专利

Mistral 关于“代码实现工具调用”的专利
Mistral Patent for “Code implemented tool calls”

原始链接: https://patentsgazette.uspto.gov/week26/OG/html/1547-5/US12670045-20260630.html

1. 一种方法，包括：在服务器端接收用户执行一个或多个工具调用的请求；由大语言模型（LLM）生成一种编程语言的代码块，该代码块被配置为封装上述一个或多个工具调用；由服务器在沙箱中执行该代码块；响应于获得挂起的工具调用，暂停代码块的执行；将挂起的工具调用传输至客户端进行执行；从客户端接收该挂起工具调用的第一结果；恢复代码块的执行，并用第一结果替换代码块中的挂起工具调用；以及将所执行代码块的第二结果返回给LLM。

Hacker News 用户正在批评法国人工智能公司 Mistral 最近提交的一项关于“代码实现工具调用”（code implemented tool calls）的美国专利申请。社区普遍认为该申请试图为基础且公认的概念申请专利，许多评论者指出“工具调用”在功能上与远程过程调用（RPC）和 JSON 消息传递等长期存在的做法并无二致。讨论重点包括： * **对专利性的质疑：** 用户认为存在广泛的现有技术，且该机制过于简单，不值得获得知识产权保护。 * **防御性策略：** 许多人推测此举是一项战略举措，旨在作为“防御性盔甲”，通过交叉许可来阻止竞争对手的诉讼，而非真正为了保护创新。 * **更广泛的行业批评：** 一些用户认为这是软件专利被武器化以建立市场壁垒，而非促进创新的更广泛趋势的症状。 * **Mistral 的声誉：** 此举进一步恶化了部分用户对 Mistral 的看法。这些用户本就对其近期在人工智能监管和行业征费方面的游说努力持批评态度，并将该公司定性为竞争的障碍，而非开放的创新者。

1. A method, comprising:

receiving, at a server, a user request for execution of one or more tool calls;

generating, by a large language model (LLM), a code block in a programming language, the code block configured to encapsulate the one or more tool calls;

executing, by the server, the code block in a sandbox;

in response to obtaining a pending tool call, pausing execution of the code block;

transmitting the pending tool call to a client for execution;

receiving, from the client, a first result of the pending tool call;

resuming execution of the code block and substituting the first result of the pending tool call for the pending tool call in the code block; and

returning a second result of the executed code block to the LLM.

Mistral 关于“代码实现工具调用”的专利 Mistral Patent for “Code implemented tool calls”

Mistral 关于“代码实现工具调用”的专利
Mistral Patent for “Code implemented tool calls”