什么是 Function Calling?LLM 如何调用外部函数
大语言模型(LLM)能够理解自然语言、生成文本、分析信息和编写代码,但传统的 LLM 主要依赖训练阶段获得的知识以及当前对话中的上下文。如果用户询问实时天气、订单状态或数据库中的最新记录,模型通常无法仅凭自身参数提供可靠答案。
对于企业 AI 应用而言,这种限制尤为明显。企业不仅希望 AI 回答问题,还希望它能够查询内部系统、获取实时数据、执行计算,甚至在获得授权后完成创建工单、更新客户信息等业务操作。
Function Calling(函数调用)正是连接大语言模型与外部系统的重要技术。它允许开发者向模型提供可用工具的定义,让模型根据用户意图选择合适的函数,并生成符合指定结构的调用参数。
不过,Function Calling 并不意味着 LLM 本身直接执行程序。模型负责判断需要调用什么工具以及传递哪些参数,实际执行通常由应用程序或工具运行环境完成。
通过这种机制,LLM 可以从单纯生成文本的系统,扩展为能够与数据库、API 和企业业务流程交互的智能应用组件。
什么是 Function Calling?
Function Calling 是一种让大语言模型通过结构化接口请求外部函数或工具执行任务的机制。
开发者首先向模型提供工具定义,包括函数名称、用途、参数结构和必要的约束。当用户提出请求时,模型可以根据这些定义判断是否需要使用工具,并生成相应的函数调用请求。
应用程序收到请求后,负责验证参数、执行对应函数,再将执行结果返回给模型。模型随后可以利用这些结果生成面向用户的最终回答。
例如,用户询问:“帮我查询订单 12345 的最新物流状态。”
如果系统提供了 get_order_status 函数,模型可以识别用户意图,并生成包含订单编号的调用参数。应用程序随后查询订单系统,将实际结果返回给模型,最后由模型组织成自然语言回答。
Function Calling 的核心价值在于将自然语言理解能力与传统软件系统的确定性执行能力结合起来。
Function Calling 与 Tool Calling 有什么关系?
Function Calling 和 Tool Calling 经常被交替使用,但两者的含义并不完全相同。
Function Calling 通常强调模型通过预定义的函数接口生成结构化调用请求。Tool Calling 则是更广义的概念,可以包括函数、搜索工具、数据库查询、代码执行环境以及其他外部能力。
不同模型平台可能使用不同的接口名称和消息格式,但基本工作模式通常相似:模型提出工具调用请求,外部系统执行操作,再将结果反馈给模型。
Function Calling 如何工作?
一个典型的 Function Calling 流程包含工具定义、用户请求、模型选择工具、参数生成、外部执行、结果返回和最终回答几个阶段。
| 步骤 | 执行主体 | 主要操作 |
|---|---|---|
| 1. 定义工具 | 开发者 | 注册函数名称、描述和参数 Schema |
| 2. 用户请求 | 用户 | 使用自然语言提出问题或操作需求 |
| 3. 工具选择 | LLM | 判断是否需要调用工具以及选择哪个工具 |
| 4. 参数生成 | LLM | 根据函数定义生成结构化参数 |
| 5. 参数验证 | 应用程序 | 检查格式、权限和业务规则 |
| 6. 函数执行 | 外部系统 | 调用 API、查询数据库或执行其他操作 |
| 7. 结果返回 | 应用程序 | 将工具执行结果传递给 LLM |
| 8. 生成回答 | LLM | 根据真实执行结果回答用户 |
这个流程的关键在于职责分离。LLM 不需要直接掌握数据库连接方式或外部 API 的认证信息,而是通过开发者提供的工具接口表达调用意图。
应用程序仍然控制哪些函数可以执行、哪些参数有效,以及哪些操作需要用户进一步确认。
第一步:开发者定义可用函数
Function Calling 的起点是工具定义。
开发者需要向模型说明工具可以完成什么任务、什么时候适合使用,以及调用时需要提供哪些参数。
例如,一个用于查询订单状态的工具可以包含以下信息:
| 字段 | 示例 | 作用 |
|---|---|---|
| Function Name | get_order_status | 标识函数 |
| Description | 查询指定订单的最新状态 | 帮助模型判断使用场景 |
| Parameter | order_id | 指定需要查询的订单 |
| Parameter Type | string | 约束参数数据类型 |
| Required | order_id | 表示该参数必须提供 |
在支持 JSON Schema 的工具接口中,开发者可以进一步限制参数类型、枚举值和必填字段。
清晰的工具描述十分重要。如果多个函数的用途高度重叠,或者参数说明含糊,模型可能选择错误工具,或者生成不符合业务要求的参数。
第二步:LLM 理解用户意图并选择工具
当用户提交问题后,模型会结合当前对话和可用工具定义,判断是否需要调用外部函数。
例如,用户询问“什么是订单履约”时,模型可能直接解释概念;如果用户询问“我的订单现在配送到哪里了”,则可能需要调用订单查询工具。
在部分系统中,开发者还可以通过工具选择配置,允许模型自动选择工具、要求使用特定工具,或者禁止调用工具。
需要注意,模型的工具选择属于预测行为,并不保证每次都正确。因此,应用程序不能仅依赖模型判断来决定某个操作是否安全或允许执行。
第三步:生成结构化函数参数
确定需要调用工具后,LLM 会根据函数 Schema 生成相应参数。
例如,对于订单查询请求,模型可能生成:
{"order_id":"12345"}
这是一份结构化调用参数,而不是实际的数据库查询结果。
参数生成可能受到用户输入质量影响。如果用户没有提供订单编号,模型可能需要先向用户询问必要信息,而不是猜测一个不存在的订单。
即使模型输出符合 JSON Schema,也不代表参数在业务上一定有效。例如,订单编号可能不存在,或者当前用户没有权限查看该订单。
因此,参数格式校验和业务校验都应由应用程序负责。
第四步:应用程序执行外部函数
应用程序收到工具调用请求后,会根据函数名称找到对应的实际实现。
如果调用的是订单查询函数,应用程序可能向订单管理系统发送经过认证的 API 请求,并获取最新订单信息。
对于计算工具,应用程序可能执行数学运算;对于数据库工具,则可能运行经过限制的查询;对于业务操作工具,可能涉及创建记录、发送通知或更新系统状态。
这一阶段才是真正执行外部操作的环节。 LLM 生成函数调用请求,并不等于操作已经完成。
应用程序还需要处理网络错误、超时、权限不足和无效参数等情况。
第五步:将执行结果返回给 LLM
外部函数完成执行后,应用程序会将结果作为工具响应传递给模型。
例如,订单查询工具可能返回:
{"order_id":"12345","status":"shipped","carrier":"Example Logistics"}
模型可以根据这些数据生成回答,例如:“订单 12345 已发货,当前承运商为 Example Logistics。”
如果工具返回错误,模型也应根据真实错误信息进行说明,而不是假装查询成功。
对于需要多个步骤的任务,模型还可能在获得第一次工具结果后继续请求其他工具,直到能够完成任务或需要用户进一步确认。
Function Schema 为什么重要?
Function Schema 是 Function Calling 的关键组成部分,它规定模型能够调用什么函数,以及函数接受什么形式的输入。
在许多实现中,工具参数使用 JSON Schema 描述,包括字段名称、数据类型、必填条件和允许值。
例如,一个创建客服工单的函数可能要求提供工单标题、问题类别和优先级。其中,优先级可以限制为 low、medium 和 high,避免模型生成系统无法识别的值。
一个好的 Function Schema 应该包含什么?
| 设计要素 | 作用 | 示例 |
|---|---|---|
| 清晰的函数名称 | 帮助模型识别功能 | create_support_ticket |
| 准确的描述 | 说明何时应该使用 | 为已确认的客户问题创建工单 |
| 明确的数据类型 | 降低参数格式错误 | string、integer、boolean |
| 必填字段 | 避免遗漏必要信息 | customer_id |
| 枚举约束 | 限制允许的输入值 | low、medium、high |
| 参数说明 | 提高模型理解准确性 | 说明时间格式和业务含义 |
| 输入范围约束 | 限制无效输入 | 最大数量、允许的日期范围 |
合理的 Schema 能够降低参数生成错误,但不能替代应用程序验证。即使工具调用接口支持严格的结构化参数约束,开发者仍需要检查用户权限、资源归属和业务逻辑。
例如,模型可以正确生成 customer_id,但应用程序必须独立确认当前用户是否有权操作该客户记录。
Function Calling 与 API Calling 有什么区别?
Function Calling 与 API Calling 密切相关,但它们处于不同的技术层次。
API Calling 通常指软件按照明确的接口协议向其他系统发送请求。Function Calling 则使 LLM 能够根据自然语言请求,生成调用预定义函数或工具所需的结构化信息。
一个 Function Calling 请求最终可能触发 API 调用,但也可能执行本地计算、数据库操作或其他程序逻辑。
| 对比维度 | Function Calling | API Calling |
|---|---|---|
| 主要作用 | 将自然语言意图映射为工具调用请求 | 在软件系统之间交换数据或执行操作 |
| 决策方式 | 模型可以根据上下文选择工具 | 通常由程序逻辑决定 |
| 参数来源 | LLM 可以生成结构化参数 | 程序按接口要求构建参数 |
| 实际执行 | 依赖应用程序或工具运行环境 | 由 API 服务端处理请求 |
| 常见场景 | AI 助手、Agent、自然语言操作 | 系统集成、数据交换、业务服务 |
例如,传统电商应用可能通过固定程序逻辑调用订单查询 API。而支持 Function Calling 的 AI 助手可以先理解“帮我看看上周买的商品发货了吗”,再通过工具接口触发相应查询。
Function Calling 并没有取代 API,而是为自然语言与软件接口之间增加了一层智能交互机制。
Function Calling 与 RAG 有什么区别?
Function Calling 和 RAG 都能帮助大语言模型使用外部信息,但它们解决的问题并不完全相同。
RAG(检索增强生成) 主要通过检索外部文档或知识,为模型提供生成答案所需的上下文。Function Calling 则允许模型请求执行预定义工具,以获取数据、执行计算或完成操作。
| 对比维度 | Function Calling | RAG |
|---|---|---|
| 核心目标 | 调用外部工具或执行业务功能 | 检索外部知识并辅助生成 |
| 主要数据来源 | API、数据库、函数、业务系统 | 文档、知识库、搜索索引 |
| 是否支持实时查询 | 可以通过工具获取实时数据 | 取决于检索数据源与更新机制 |
| 是否支持业务操作 | 可以在授权后执行 | 传统文档型 RAG 主要用于信息获取 |
| 典型应用 | 查询订单、计算费用、创建工单 | 文档问答、政策检索、知识搜索 |
| 主要风险 | 参数错误、越权执行、外部操作失败 | 检索失败、知识过时、证据不足 |
例如,用户询问“公司的退款政策是什么”,系统可以通过 RAG 检索当前政策文档;如果用户进一步询问“我的订单是否符合退款条件”,则可能需要调用订单查询和退款资格判断工具。
在实际企业系统中,两者经常结合使用。RAG 提供业务规则和知识依据,Function Calling 获取实时状态或执行必要操作。
因此,Function Calling 与 RAG 并不是替代关系,而是可以共同构成企业 AI 应用的不同能力。
Function Calling 与 Structured Outputs 有什么区别?
Function Calling 和 Structured Outputs 都涉及结构化数据,但它们的主要用途不同。
Structured Outputs 侧重让模型按照指定 Schema 生成结果,例如将合同信息提取为 JSON,或者将客服对话整理为结构化摘要。
Function Calling 则侧重让模型生成对某个工具的调用请求,由外部系统执行相应功能。
| 对比维度 | Function Calling | Structured Outputs |
|---|---|---|
| 主要目的 | 请求调用工具 | 生成符合结构要求的数据 |
| 输出内容 | 工具名称与调用参数 | 结构化业务结果 |
| 是否需要执行工具 | 通常需要 | 不一定 |
| 常见用途 | 数据查询、外部操作、系统集成 | 信息提取、分类、JSON 生成 |
| 是否产生业务副作用 | 取决于工具 | 单纯生成输出通常不会 |
例如,用户要求“把这份合同的金额和到期日提取为 JSON”,Structured Outputs 可能已经足够。
如果用户要求“提取合同金额,并写入企业合同管理系统”,则可能需要先提取信息,再通过 Function Calling 请求执行相应的数据写入操作。
对于不需要访问外部系统的任务,没有必要为了使用 Function Calling 而引入额外工具执行流程。
Function Calling 与 AI Agent 有什么关系?
Function Calling 是许多 AI Agent 系统的重要基础能力,但它本身并不等于完整的 AI Agent。
AI Agent 通常需要围绕目标执行多个步骤,例如分析任务、选择工具、观察执行结果,并根据反馈决定下一步行动。
Function Calling 为其中的工具交互提供机制,使模型能够请求调用搜索、数据库、代码执行或业务系统功能。
例如,一个客户支持 Agent 可能按照以下顺序工作:
- 理解客户提出的问题。
- 调用订单查询工具获取实时状态。
- 检索适用的退款政策。
- 判断是否需要进一步获取信息。
- 在满足权限和确认条件后请求创建工单。
- 根据执行结果向客户反馈处理进度。
这个过程可能涉及多次工具调用,而不是一次函数执行。
不过,Agent 的可靠性不仅取决于 Function Calling,还取决于任务状态管理、工具权限、错误处理、执行限制和人工审批机制。
对于流程固定、规则明确的业务场景,传统工作流配合有限的 Function Calling,可能比高度自主的 Agent 更容易控制和维护。
Function Calling 在企业 AI 中有哪些应用?
Function Calling 的实际价值在于将自然语言交互连接到企业已有的软件系统,使 AI 能够完成超出纯文本生成范围的任务。
| 企业应用场景 | 可调用的工具 | 主要价值 |
|---|---|---|
| 客户订单查询 | 订单管理 API | 获取最新订单状态 |
| 企业数据分析 | 数据库查询与计算工具 | 获取业务指标并进行分析 |
| 客服工单管理 | 工单创建和更新接口 | 减少重复操作 |
| 财务费用计算 | 费用规则与计算函数 | 提供可验证的计算结果 |
| 企业日程管理 | 日历查询和创建工具 | 辅助安排会议 |
| IT 运维支持 | 系统状态和诊断工具 | 查询服务运行情况 |
| 内部知识助手 | 搜索与知识库工具 | 获取企业资料 |
| AI 工作流自动化 | 多个业务 API | 连接跨系统任务 |
实时数据查询
实时数据是 Function Calling 最直接的应用之一。
例如,企业管理者询问“今天已经完成多少笔订单”,LLM 可以调用经过授权的数据查询工具,而不是根据历史训练数据猜测结果。
查询完成后,模型还可以对返回的数据进行解释,例如比较不同时间段的变化或总结异常情况。
对于精确财务指标和业务统计,计算与数据聚合应由可信工具完成,模型主要负责理解需求和解释结果。
客户支持与业务操作
Function Calling 可以帮助 AI 客服从知识问答扩展到实际业务处理。
例如,客户希望修改配送地址。AI 可以先查询订单是否允许修改,再收集必要信息,并在完成身份验证和授权确认后请求执行地址更新。
这类场景涉及真实业务状态变化,因此需要比普通信息查询更严格的权限控制和操作确认。
企业内部工作流自动化
在企业内部,Function Calling 可以连接 CRM、ERP、工单系统、日历和其他业务工具。
例如,销售人员可以使用自然语言请求 AI 查询客户信息、整理跟进摘要,并准备创建下一次跟进任务。
对于涉及数据修改或对外发送信息的步骤,系统应根据风险等级设置确认和审批机制,避免模型错误理解指令后直接执行不可逆操作。
Function Calling 有哪些主要安全风险?
Function Calling 让模型能够与真实系统交互,也意味着模型生成的工具调用可能产生实际影响。
如果缺少权限控制和执行限制,错误参数、恶意输入或不可靠的工具结果都可能造成业务风险。
参数错误与未经授权的操作
模型可能生成格式正确但业务含义错误的参数,例如错误的客户编号、日期范围或资源标识。
因此,应用程序必须验证输入是否合法,并确认当前用户有权访问或修改目标资源。
不能因为模型选择了某个工具,就默认该操作已经获得授权。
Prompt Injection
Prompt Injection(提示注入)是指攻击者通过用户输入、网页内容、文档或工具响应,试图诱导模型偏离原有指令。
例如,模型在读取外部文档时,可能遇到要求其调用其他工具或泄露内部信息的恶意文本。
应用程序应将外部内容视为不可信数据,不能让这些内容直接改变工具权限或绕过系统安全规则。
敏感数据泄露
Function Calling 可能涉及客户资料、财务信息和企业内部数据。
开发者需要限制工具可访问的数据范围,并控制哪些信息能够传递给模型、记录到日志或返回给用户。
工具访问权限应遵循最小权限原则,而不是让所有函数共享一个具有广泛访问能力的管理员身份。
重复执行与业务副作用
工具调用可能因为网络重试、模型重复请求或系统故障而执行多次。
对于支付、订单创建、邮件发送和记录更新等操作,重复执行可能造成实际损失。
因此,具有副作用的工具应考虑使用幂等键、重复请求检测、事务控制和明确的执行状态管理。
| 风险类型 | 可能的问题 | 建议控制措施 |
|---|---|---|
| 参数错误 | 操作错误资源 | Schema 校验与业务校验 |
| 越权访问 | 查询或修改未授权数据 | 身份认证与最小权限 |
| Prompt Injection | 恶意内容诱导错误调用 | 输入隔离、权限边界与工具限制 |
| 数据泄露 | 敏感信息进入不适当的输出或日志 | 数据最小化与脱敏 |
| 重复执行 | 重复创建订单或发送请求 | 幂等性与重复请求检测 |
| 外部工具失败 | API 超时或返回错误 | 超时、重试与错误处理 |
| 高风险操作 | 未经确认执行不可逆动作 | 用户确认与人工审批 |
安全控制必须在应用程序和工具执行层落实,不能仅依靠 Prompt 告诉模型不要执行危险操作。
如何构建可靠的 Function Calling 系统?
企业部署 Function Calling 时,应优先建立清晰的工具边界,而不是一次性向模型开放大量复杂功能。
工具越多,模型选择错误工具的可能性和系统管理复杂度通常也会增加。开发者应围绕实际业务任务定义功能明确、输入输出稳定的工具。
明确工具职责
每个工具应具有清晰的功能范围。
例如,可以将 get_order_status 与 update_order_address 分成两个独立工具,而不是设计一个同时支持查询、修改和删除的通用订单管理函数。
这种设计有助于降低模型误用工具的风险,也便于为不同操作配置权限。
在执行层验证所有参数
LLM 生成的参数应始终被视为需要验证的输入。
除了检查 JSON 格式和字段类型,应用程序还应验证参数范围、资源归属、业务状态和用户权限。
例如,模型可能生成一个合法的订单编号,但系统仍需确认该订单属于当前用户,且订单状态允许执行请求的操作。
区分只读操作和写入操作
读取天气、查询库存和获取订单状态通常不会直接修改业务数据,而创建订单、发送邮件和更新账户信息则可能产生副作用。
企业可以根据风险等级为工具配置不同的执行策略。
对于高风险操作,建议在真正执行前向用户展示关键参数并获取明确确认。
建立错误处理与执行监控
Function Calling 可能遇到无效参数、API 超时、服务不可用和权限不足等情况。
应用程序应向模型返回明确、可处理的错误结果,而不是仅提供模糊的失败信息。
生产环境还应记录必要的调用指标,包括工具选择准确率、参数验证失败率、执行成功率、延迟和成本。
对于涉及敏感数据的日志,应遵循相应的数据保护要求。
如何评估 Function Calling 的效果?
评估 Function Calling 不能只看模型是否成功生成了 JSON。企业需要同时关注工具选择、参数正确性、执行结果和最终任务完成情况。
| 评估指标 | 衡量内容 |
|---|---|
| Tool Selection Accuracy | 是否选择了正确工具 |
| Argument Accuracy | 参数是否符合用户意图 |
| Schema Compliance | 参数是否满足规定结构 |
| Execution Success Rate | 工具是否成功执行 |
| Task Completion Rate | 用户目标是否最终完成 |
| Unauthorized Call Rate | 是否出现不应执行的调用请求 |
| P95 Latency | 工具调用流程的响应延迟 |
| Cost per Successful Task | 每次成功完成任务的总成本 |
例如,一个模型可能始终输出格式正确的函数参数,但经常选择错误的订单编号。这种情况下,Schema Compliance 很高,并不代表实际任务完成质量可靠。
企业还应建立覆盖正常请求、模糊指令、缺失参数、权限不足、工具失败和恶意输入的测试集。
对于涉及实际业务操作的系统,测试环境应与生产环境隔离,避免评估过程中意外修改真实数据。
Function Calling 能减少 AI Hallucinations 吗?
Function Calling 可以减少部分由缺少实时信息或计算能力不足引起的错误,但无法完全消除 AI Hallucinations。
例如,当用户询问实时订单状态时,模型通过工具获取实际数据,通常比根据历史知识猜测结果更可靠。
对于复杂数学计算,调用确定性计算工具也能够减少模型直接生成错误数值的风险。
然而,模型仍可能选择错误工具、生成错误参数、误解工具返回值,或者在最终回答中加入未经工具结果支持的结论。
因此,Function Calling 的可靠性不仅取决于工具执行是否成功,还取决于参数验证、数据质量、结果解释和最终答案检查。
总结
Function Calling 是连接大语言模型与外部软件系统的重要机制,使 LLM 能够根据自然语言请求生成结构化工具调用,并通过应用程序执行外部函数。
一个完整的 Function Calling 流程通常包括工具定义、用户意图识别、函数选择、参数生成、应用程序验证、外部执行、结果返回和答案生成。
与 RAG 主要解决外部知识检索不同,Function Calling 更侧重让模型访问实时数据和请求执行具体功能。两者可以结合使用,为企业 AI 助手和 AI Agent 提供知识获取与业务操作能力。
Function Calling 的核心价值不是让 LLM 自行执行所有任务,而是让模型负责理解意图,让受控的软件系统负责可靠执行。
对于企业而言,真正可用的 Function Calling 架构需要同时考虑工具设计、参数验证、访问权限、操作确认、错误处理和持续评估。只有明确区分模型决策与实际执行权限,才能将自然语言交互安全地扩展到真实业务系统。
FAQ
Function Calling 是否需要对 LLM 进行 Fine-Tuning?
通常不需要。支持工具调用的模型可以根据开发者提供的函数定义生成调用请求。对于复杂或高度专业化的任务,Fine-Tuning 可能改善特定行为,但并不是使用 Function Calling 的必要条件。
Function Calling 可以同时调用多个函数吗?
可以,具体取决于模型接口和应用程序设计。部分系统支持一次生成多个工具调用请求,也可以根据前一次执行结果继续调用其他工具。涉及依赖关系或副作用的操作需要控制执行顺序。
Function Calling 一定需要连接外部 API 吗?
不一定。工具可以是本地计算函数、数据库查询、文件处理程序或其他应用程序逻辑。外部 API 是常见实现方式,但不是唯一选择。
Function Calling 和 MCP 有什么区别?
Function Calling 是模型请求调用工具的机制,而 Model Context Protocol(MCP)是一种用于连接 AI 应用与外部工具及数据源的开放协议。MCP 可以帮助标准化工具发现与交互,但模型是否调用工具仍需要相应的工具调用机制和应用程序控制。
Function Calling 能够直接修改企业数据库吗?
可以通过受控工具请求执行数据库写入操作,但模型本身不应直接获得无限制的数据库权限。应用程序需要验证身份、检查权限、限制可执行操作,并对高风险修改设置必要的确认机制。


