ESC
AI 1 分钟阅读

Mistral获得“代码实现的工具调用”专利

Mistral AI获得美国专利商标局授权的一项专利(US 12,670,045 B1),涉及大语言模型(LLM)中通过代码块实现工具调用的方法。该专利描述了在服务器上接收用户请求,由LLM生成封装工具调用的代码块,在沙箱中执行,遇到待处理调用时暂停并交由客户端处理,最后恢复执行并返回结果给LLM的完整流程,共包含20项权利要求。

来源:Hacker News

美国专利 12,670,045 B1

代码实现的工具调用

** Gabriel Vergnaud,巴黎(法国)**

** 受让人:Mistral AI,巴黎(法国)**

** 申请方:Mistral AI,巴黎(法国)**

** 申请日期:2026年3月4日,申请号 19/557,103。**

** 国际分类:G06F 9/54**(2006.01)

** 合作专利分类:G06F 9/547**(2013.01) 20项权利要求

1. 一种方法,包括: 在服务器处接收用户对执行一个或多个工具调用的请求;

由大语言模型(LLM)生成编程语言代码块,所述代码块被配置为封装所述一个或多个工具调用;

由服务器在沙箱中执行所述代码块;

在获得待处理工具调用时,暂停执行所述代码块;

将所述待处理工具调用发送至客户端执行;

从客户端接收所述待处理工具调用的第一结果;

恢复执行所述代码块,并将所述待处理工具调用的第一结果替换到代码块中的待处理工具调用位置;以及

将执行完毕的代码块的第二结果返回给LLM。