什么值得买App下载 App ›
连续签到专享现金活动

Tool Calling大模型必备,让你轻松实现超级智能体 #AI实战 #编程入门 #编程学习 #大模型学习 #码神AI实战 04-tool calling 【Spring AI Alibaba教程】十年大厂程序员讲解,通俗易懂

大模型在知识获取、外部交互和计算推理方面存在局限,Tool Calling机制通过将大模型与外部工具结合,解决了这些问题。本文将介绍Tool Calling的核心概念、定义方式、执行流程以及Spring AI Alibaba中的具体实现代码。
01大模型的三大局限
  • 知识有截止日期
    大模型自训练完成起知识就截止到了那一天,无法获取实时信息。
  • 无法与外界互动
    大模型不具备和外界交互的能力,比如发邮件、打电话、预定机票等。
  • 不擅长计算和推理
    对于实时计算、大规模数据处理等场景,大模型是不擅长的,需要借助外部工具才能完成。
02Tool Calling核心概念与执行流程
Tool Calling就是让大模型能和外部世界交互,这里的Tool代表任何外部能力的抽象接口。其执行流程如下:用户提出问题,大模型分析意图并生成调用工具的指令;应用程序接收到指令后实际调用工具并返回结果;应用程序将结果注入到大模型中,大模型整合信息生成回复。
03工具定义方式
定义工具有多种方式,本文介绍两种最常用的方式:使用@Tool注解和使用FunctionToolCallback。
定义方式核心特点适用场景
@Tool注解使用注解定义工具名称、描述和参数,适用于简单的工具逻辑。快速定义简单的加法、乘法等工具。
FunctionToolCallback通过回调函数定义工具,需要指定名称、描述、执行方法和输入参数类型。适用于需要更复杂配置或动态生成的工具。

两种工具定义方式对比

04代码实战
以下代码展示了如何使用@Tool注解定义加法和乘法工具,并通过ToolCallingManager执行工具调用。
  1. 定义工具
    使用@Tool注解定义工具名称和描述,使用@ToolParam定义参数信息,其中Required属性表示必填字段。
  2. 创建ToolCallback
    将@Tool注解的工具转换为ToolCallback列表,或直接使用FunctionToolCallback定义工具。
  3. 配置ChatClient
    将ToolCallback对象列表传递给ChatClient或ChatModel,设置InternalToolExecutionEnabled为false以手动触发Tool调用。
  4. 执行工具调用
    判断大模型响应中是否有Tool调用信息,如果有则使用ToolCallingManager执行工具调用,并将结果和对话历史再次发给大模型;如果没有则直接返回最终结果。
05日志配置与测试
添加日志配置可以在工具调用时打印日志信息,便于观察调用过程。通过Controller进行实际测试,观察日志中的工具调用信息。

评论

评论区空态插画

当前文章无评论,是时候发表评论了