Mistral 关于“代码实现工具调用”的专利

Mistral 关于“代码实现工具调用”的专利
Mistral Patent for “Code implemented tool calls”

原始链接: https://patentsgazette.uspto.gov/week26/OG/html/1547-5/US12670045-20260630.html

1. 一种方法，包括：在服务器端接收用户执行一个或多个工具调用的请求；由大语言模型（LLM）生成一种编程语言的代码块，该代码块被配置为封装上述一个或多个工具调用；由服务器在沙箱中执行该代码块；响应于获得挂起的工具调用，暂停代码块的执行；将挂起的工具调用传输至客户端进行执行；从客户端接收该挂起工具调用的第一结果；恢复代码块的执行，并用第一结果替换代码块中的挂起工具调用；以及将所执行代码块的第二结果返回给LLM。

人工智能公司 Mistral 近期获得的一项关于“代码实现工具调用”（code-implemented tool calls）的美国专利，在 Hacker News 的开发者社区中引发了广泛的抵制。批评者认为该专利从根本上说是“琐碎的”，并列举了大量现有技术的例子，指出开源框架和研究论文多年来一直在使用类似的逻辑。许多参与者将其视为“专利流氓”行为，并指出软件专利往往是大公司用来压制竞争或推高公司估值的防御武器，而非保护真正的创新。此次讨论凸显了开发者对当前专利局的深层不满——许多人认为专利局在审查时“处于失职状态”，竟允许垄断如此宽泛且显而易见的模式。尽管有人辩称专利是抵御潜在诉讼的“军火库”，但讨论中的共识是，对于一个依赖快速迭代开发的行业而言，软件专利是一种不恰当且令人窒息的工具。用户还担心总部位于欧盟的 Mistral 正利用美国法律体系建立“护城河”，这与软件开发开放的本质背道而驰。

1. A method, comprising:

receiving, at a server, a user request for execution of one or more tool calls;

generating, by a large language model (LLM), a code block in a programming language, the code block configured to encapsulate the one or more tool calls;

executing, by the server, the code block in a sandbox;

in response to obtaining a pending tool call, pausing execution of the code block;

transmitting the pending tool call to a client for execution;

receiving, from the client, a first result of the pending tool call;

resuming execution of the code block and substituting the first result of the pending tool call for the pending tool call in the code block; and

returning a second result of the executed code block to the LLM.

Mistral 关于“代码实现工具调用”的专利 Mistral Patent for “Code implemented tool calls”

Mistral 关于“代码实现工具调用”的专利
Mistral Patent for “Code implemented tool calls”