Tio Boot DocsTio Boot Docs
Home
  • java-db
  • api-table
  • Enjoy
  • Tio Boot Admin
  • ai_agent
  • translator
  • knowlege_base
  • ai-search
  • 案例
Abount
  • Github
  • Gitee
Home
  • java-db
  • api-table
  • Enjoy
  • Tio Boot Admin
  • ai_agent
  • translator
  • knowlege_base
  • ai-search
  • 案例
Abount
  • Github
  • Gitee
  • 01_tio-boot 简介

    • tio-boot:新一代高性能 Java Web 开发框架
    • tio-boot 入门示例
    • Tio-Boot 配置 : 现代化的配置方案
    • tio-boot 整合 Logback
    • tio-boot 整合 hotswap-classloader 实现热加载
    • 自行编译 tio-boot
    • 最新版本
    • 开发规范
  • 02_部署

    • 使用 Maven Profile 实现分环境打包 tio-boot 项目
    • Maven 项目配置详解:依赖与 Profiles 配置
    • tio-boot 打包成 FastJar
    • 使用 GraalVM 构建 tio-boot Native 程序
    • 使用 Docker 部署 tio-boot
    • 部署到 Fly.io
    • 部署到 AWS Lambda
    • 到阿里云云函数
    • 使用 Deploy 工具部署
    • 胖包与瘦包的打包与部署
    • 使用 Jenkins 部署 Tio-Boot 项目
    • 使用 Nginx 反向代理 Tio-Boot
    • 使用 Supervisor 管理 Java 应用
  • 03_配置

    • 配置参数
    • 服务器监听器
    • 内置缓存系统 AbsCache
    • 使用 Redis 作为内部 Cache
    • 静态文件处理器
    • 基于域名的静态资源隔离
    • DecodeExceptionHandler
  • 04_原理

    • 生命周期
    • 请求处理流程
    • 重要的类
  • 05_json

    • Json
    • 接受 JSON 和响应 JSON
    • 响应实体类
  • 06_web

    • 概述
    • 文件上传
    • 接收请求参数
    • 接收日期参数
    • 接收数组参数
    • 返回字符串
    • 返回文本数据
    • 返回网页
    • 请求和响应字节
    • 文件下载
    • 返回视频文件并支持断点续传
    • http Session
    • Cookie
    • HttpRequest
    • HttpResponse
    • Resps
    • RespBodyVo
    • /zh/06_web/19.html
    • 全局异常处理器
    • 异步
    • 动态 返回 CSS 实现
    • 返回图片
    • Transfer-Encoding: chunked 实时音频播放
    • Server-Sent Events (SSE)
    • 接口访问统计
    • 接口请求和响应数据记录
    • 自定义 Handler 转发请求
    • 使用 HttpForwardHandler 转发所有请求
    • 跨域
    • 添加 Controller
    • 常用工具类
    • HTTP Basic 认证
    • WebJars
    • JProtobuf
  • 07_validate

    • 数据紧校验规范
    • 参数校验
  • 08_websocket

    • 使用 tio-boot 搭建 WebSocket 服务
    • WebSocket 聊天室项目示例
  • 09_java-db

    • java‑db
    • 操作数据库入门示例
    • SQL 模板
    • 数据源配置与使用
    • ActiveRecord
    • Model
    • 生成器与 Model
    • Db 工具类
    • 批量操作
    • 数据库事务处理
    • Cache 缓存
    • Dialect 多数据库支持
    • 表关联操作
    • 复合主键
    • Oracle 支持
    • Enjoy SQL 模板
    • Java-DB 整合 Enjoy 模板最佳实践
    • 多数据源支持
    • 独立使用 ActiveRecord
    • 调用存储过程
    • java-db 整合 Guava 的 Striped 锁优化
    • 生成 SQL
    • 通过实体类操作数据库
    • java-db 读写分离
    • Spring Boot 整合 Java-DB
    • like 查询
    • 常用操作示例
    • Druid 监控集成指南
    • SQL 统计
  • 10_api-table

    • ApiTable 概述
    • 使用 ApiTable 连接 SQLite
    • 使用 ApiTable 连接 Mysql
    • 使用 ApiTable 连接 Postgres
    • 使用 ApiTable 连接 TDEngine
    • 使用 api-table 连接 oracle
    • 使用 api-table 连接 mysql and tdengine 多数据源
    • EasyExcel 导出
    • EasyExcel 导入
    • TQL(Table SQL)前端输入规范
    • ApiTable 实现增删改查
    • 数组类型
    • 单独使用 ApiTable
  • 11_aop

    • JFinal-aop
    • Aop 工具类
    • 配置
    • 配置
    • 独立使用 JFinal Aop
    • @AImport
    • 原理解析
  • 12_cache

    • Caffine
    • Jedis-redis
    • hutool RedisDS
    • Redisson
    • Caffeine and redis
    • CacheUtils 工具类
    • 使用 CacheUtils 整合 caffeine 和 redis 实现的两级缓存
    • 使用 java-db 整合 ehcache
    • 使用 java-db 整合 redis
    • Java DB Redis 相关 Api
    • redis 使用示例
  • 13_认证和权限

    • hutool-JWT
    • FixedTokenInterceptor
    • 使用内置 TokenManager 实现登录
    • 用户系统
    • 重置密码
    • 匿名登录
    • Google 登录
    • 权限校验注解
    • Sa-Token
    • sa-token 登录注册
    • StpUtil.isLogin() 源码解析
    • 短信登录
    • 移动端微信登录实现指南
    • 移动端重置密码
  • 14_i18n

    • i18n
  • 15_enjoy

    • tio-boot 整合 Enjoy 模版引擎文档
    • 引擎配置
    • 表达式
    • 指令
    • 注释
    • 原样输出
    • Shared Method 扩展
    • Shared Object 扩展
    • Extension Method 扩展
    • Spring boot 整合
    • 独立使用 Enjoy
    • tio-boot enjoy 自定义指令 localeDate
    • PromptEngine
    • Enjoy 入门示例-擎渲染大模型请求体
    • Enjoy 使用示例
  • 16_定时任务

    • Quartz 定时任务集成指南
    • 分布式定时任务 xxl-jb
    • cron4j 使用指南
  • 17_tests

    • TioBootTest 类
  • 18_tio

    • TioBootServer
    • tio-core
    • 内置 TCP 处理器
    • 独立启动 UDPServer
    • 使用内置 UDPServer
    • t-io 消息处理流程
    • tio-运行原理详解
    • TioConfig
    • ChannelContext
    • Tio 工具类
    • 业务数据绑定
    • 业务数据解绑
    • 发送数据
    • 关闭连接
    • Packet
    • 监控: 心跳
    • 监控: 客户端的流量数据
    • 监控: 单条 TCP 连接的流量数据
    • 监控: 端口的流量数据
    • 单条通道统计: ChannelStat
    • 所有通道统计: GroupStat
    • 资源共享
    • 成员排序
    • ssl
    • DecodeRunnable
    • 使用 AsynchronousSocketChannel 响应数据
    • 拉黑 IP
    • 深入解析 Tio 源码:构建高性能 Java 网络应用
  • 19_aio

    • ByteBuffer
    • AIO HTTP 服务器
    • 自定义和线程池和池化 ByteBuffer
    • AioHttpServer 应用示例 IP 属地查询
    • 手写 AIO Http 服务器
  • 20_netty

    • Netty TCP Server
    • Netty Web Socket Server
    • 使用 protoc 生成 Java 包文件
    • Netty WebSocket Server 二进制数据传输
    • Netty 组件详解
  • 21_netty-boot

    • Netty-Boot
    • 原理解析
    • 整合 Hot Reload
    • 整合 数据库
    • 整合 Redis
    • 整合 Elasticsearch
    • 整合 Dubbo
    • Listener
    • 文件上传
    • 拦截器
    • Spring Boot 整合 Netty-Boot
    • SSL 配置指南
    • ChannelInitializer
    • Reserve
  • 22_MQ

    • Mica-mqtt
    • EMQX
    • Disruptor
  • 23_tio-utils

    • tio-utils
    • HttpUtils
    • Notification
    • 邮箱
    • JSON
    • 读取文件
    • Base64
    • 上传和下载
    • Http
    • Telegram
    • RsaUtils
    • EnvUtils 使用文档
    • 系统监控
    • 毫秒并发 ID (MCID) 生成方案
  • 24_tio-http-server

    • 使用 Tio-Http-Server 搭建简单的 HTTP 服务
    • tio-boot 添加 HttpRequestHandler
    • 在 Android 上使用 tio-boot 运行 HTTP 服务
    • tio-http-server-native
    • handler 常用操作
  • 25_tio-websocket

    • WebSocket 服务器
    • WebSocket Client
  • 26_tio-im

    • 通讯协议文档
    • ChatPacket.proto 文档
    • java protobuf
    • 数据表设计
    • 创建工程
    • 登录
    • 历史消息
    • 发消息
  • 27_mybatis

    • Tio-Boot 整合 MyBatis
    • 使用配置类方式整合 MyBatis
    • 整合数据源
    • 使用 mybatis-plus 整合 tdengine
    • 整合 mybatis-plus
  • 28_mongodb

    • tio-boot 使用 mongo-java-driver 操作 mongodb
  • 29_elastic-search

    • Elasticsearch
    • JavaDB 整合 ElasticSearch
    • Elastic 工具类使用指南
    • Elastic-search 注意事项
    • ES 课程示例文档
  • 30_magic-script

    • tio-boot 整合 magic-script
  • 31_groovy

    • tio-boot 整合 Groovy
  • 32_firebase

    • 整合 google firebase
    • Firebase Storage
    • Firebase Authentication
    • 使用 Firebase Admin SDK 进行匿名用户管理与自定义状态标记
    • 导出用户
    • 注册回调
    • 登录注册
  • 33_文件存储

    • 文件上传数据表
    • 本地存储
    • 使用 AWS S3 存储文件并整合到 Tio-Boot 项目中
    • 存储文件到 腾讯 COS
  • 34_spider

    • jsoup
    • 爬取 z-lib.io 数据
    • 整合 WebMagic
    • WebMagic 示例:爬取学校课程数据
    • Playwright
    • Flexmark (Markdown 处理器)
    • tio-boot 整合 Playwright
    • 缓存网页数据
  • 36_integration_thirty_party

    • tio-boot 整合 okhttp
    • 整合 GrpahQL
    • 集成 Mailjet
    • 整合 ip2region
    • 整合 GeoLite 离线库
    • 整合 Lark 机器人指南
    • 集成 Lark Mail 实现邮件发送
    • Thymeleaf
    • Swagger
    • Clerk 验证
  • 37_dubbo

    • 概述
    • dubbo 2.6.0
    • dubbo 2.6.0 调用过程
    • dubbo 3.2.0
  • 38_spring

    • Spring Boot Web 整合 Tio Boot
    • spring-boot-starter-webflux 整合 tio-boot
    • Tio Boot 整合 Spring Boot Starter
    • Tio Boot 整合 Spring Boot Starter Data Redis 指南
  • 39_spring-cloud

    • tio-boot spring-cloud
  • 40_mysql

    • 使用 Docker 运行 MySQL
    • /zh/42_mysql/02.html
  • 41_postgresql

    • PostgreSQL 安装
    • PostgreSQL 主键自增
    • PostgreSQL 日期类型
    • Postgresql 金融类型
    • PostgreSQL 数组类型
    • PostgreSQL 全文检索
    • PostgreSQL 查询优化
    • 获取字段类型
    • PostgreSQL 向量
    • PostgreSQL 优化向量查询
    • PostgreSQL 其他
  • 43_oceanbase

    • 快速体验 OceanBase 社区版
    • 快速上手 OceanBase 数据库单机部署与管理
    • 诊断集群性能
    • 优化 SQL 性能指南
    • /zh/43_oceanbase/05.html
  • 50_media

    • JAVE 提取视频中的声音
    • Jave 提取视频中的图片
    • /zh/50_media/03.html
  • 51_asr

    • Whisper-JNI
  • 54_native-media

    • java-native-media
    • JNI 入门示例
    • mp3 拆分
    • mp4 转 mp3
    • 使用 libmp3lame 实现高质量 MP3 编码
    • Linux 编译
    • macOS 编译
    • 从 JAR 包中加载本地库文件
    • 支持的音频和视频格式
    • 任意格式转为 mp3
    • 通用格式转换
    • 通用格式拆分
    • 视频合并
    • VideoToHLS
    • split_video_to_hls 支持其他语言
    • 持久化 HLS 会话
  • 55_telegram4j

    • 数据库设计
    • /zh/55_telegram4j/02.html
    • 基于 MTProto 协议开发 Telegram 翻译机器人
    • 过滤旧消息
    • 保存机器人消息
    • 定时推送
    • 增加命令菜单
    • 使用 telegram-Client
    • 使用自定义 StoreLayout
    • 延迟测试
    • Reactor 错误处理
    • Telegram4J 常见错误处理指南
  • 56_telegram-bots

    • TelegramBots 入门指南
    • 使用工具库 telegram-bot-base 开发翻译机器人
  • 60_LLM

    • 简介
    • AI 问答
    • /zh/60_LLM/03.html
    • /zh/60_LLM/04.html
    • 增强检索(RAG)
    • 结构化数据检索
    • 搜索+AI
    • 集成第三方 API
    • 后置处理
    • 推荐问题生成
    • 连接代码执行器
    • 避免 GPT 混乱
    • /zh/60_LLM/13.html
  • 61_ai_agent

    • 数据库设计
    • 示例问题管理
    • 会话管理
    • 历史记录
    • 对接 Perplexity API
    • 意图识别与生成提示词
    • 智能问答模块设计与实现
    • 文件上传与解析文档
    • 翻译
    • 名人搜索功能实现
    • Ai studio gemini youbue 问答使用说明
    • 自建 YouTube 字幕问答系统
    • 自建 获取 youtube 字幕服务
    • 通用搜索
    • /zh/61_ai_agent/15.html
    • 16
    • 17
    • 18
    • 在 tio-boot 应用中整合 ai-agent
    • 16
  • 62_translator

    • 简介
  • 63_knowlege_base

    • 数据库设计
    • 用户登录实现
    • 模型管理
    • 知识库管理
    • 文档拆分
    • 片段向量
    • 命中测试
    • 文档管理
    • 片段管理
    • 问题管理
    • 应用管理
    • 向量检索
    • 推理问答
    • 问答模块
    • 统计分析
    • 用户管理
    • api 管理
    • 存储文件到 S3
    • 文档解析优化
    • 片段汇总
    • 段落分块与检索
    • 多文档解析
    • 对话日志
    • 检索性能优化
    • Milvus
    • 文档解析方案和费用对比
    • 离线运行向量模型
  • 64_ai-search

    • ai-search 项目简介
    • ai-search 数据库文档
    • ai-search SearxNG 搜索引擎
    • ai-search Jina Reader API
    • ai-search Jina Search API
    • ai-search 搜索、重排与读取内容
    • ai-search PDF 文件处理
    • ai-search 推理问答
    • Google Custom Search JSON API
    • ai-search 意图识别
    • ai-search 问题重写
    • ai-search 系统 API 接口 WebSocket 版本
    • ai-search 搜索代码实现 WebSocket 版本
    • ai-search 生成建议问
    • ai-search 生成问题标题
    • ai-search 历史记录
    • Discover API
    • 翻译
    • Tavily Search API 文档
    • 对接 Tavily Search
    • 火山引擎 DeepSeek
    • 对接 火山引擎 DeepSeek
    • ai-search 搜索代码实现 SSE 版本
    • jar 包部署
    • Docker 部署
    • 爬取一个静态网站的所有数据
    • 网页数据预处理
    • 网页数据检索与问答流程整合
  • 65_java-linux

    • Java 执行 python 代码
    • 通过大模型执行 Python 代码
    • MCP 协议
    • Cline 提示词
    • Cline 提示词-中文版本
  • 66_manim

    • Manim 开发环境搭建
    • 生成场景提示词
    • 生成代码
    • 完整脚本示例
    • 语音合成系统
    • Fish.audio TTS 接口说明文档与 Java 客户端封装
    • 整合 fishaudio 到 java-uni-ai-server 项目
    • 执行 Python (Manim) 代码
    • 使用 SSE 流式传输生成进度的实现文档
    • 整合全流程完整文档
    • HLS 动态推流技术文档
    • manim 分场景生成代码
    • 分场景运行代码及流式播放支持
    • 分场景业务端完整实现流程
    • Maiim布局管理器
    • 仅仅生成场景代码
    • 使用 modal 运行 manim 代码
    • Python 使用 Modal GPU 加速渲染
    • Modal 平台 GPU 环境下运行 Manim
    • Modal Manim OpenGL 安装与使用
    • 优化 GPU 加速
    • 生成视频封面流程
    • Java 调用 manim 命令 执行代码 生成封面
    • Manim 图像生成服务客户端文档
    • /zh/66_manim/25.html
    • /zh/66_manim/26.html
    • /zh/66_manim/27.html
  • 70_tio-boot-admin

    • 入门指南
    • 初始化数据
    • token 存储
    • 与前端集成
    • 文件上传
    • 网络请求
    • 图片管理
    • /zh/70_tio-boot-admin/08.html
    • Word 管理
    • PDF 管理
    • 文章管理
    • 富文本编辑器
  • 71_tio-boot

    • /zh/71_tio-boot/01.html
    • Swagger 整合到 Tio-Boot 中的指南
    • HTTP/1.1 Pipelining 性能测试报告
  • 80_性能测试

    • 压力测试 - tio-http-serer
    • 压力测试 - tio-boot
    • 压力测试 - tio-boot-native
    • 压力测试 - netty-boot
    • 性能测试对比
    • TechEmpower FrameworkBenchmarks
    • 压力测试 - tio-boot 12 C 32G
  • 99_案例

    • 封装 IP 查询服务
    • tio-boot 案例 - 全局异常捕获与企业微信群通知
    • tio-boot 案例 - 文件上传和下载
    • tio-boot 案例 - 整合 ant design pro 增删改查
    • tio-boot 案例 - 流失响应
    • tio-boot 案例 - 增强检索
    • tio-boot 案例 - 整合 function call
      • function call 简介
        • Function Call 的典型案例 —— 天气查询插件。
        • 天气插件的实现原理:Function Call 调用揭秘
        • 交互消息格式
        • 收集必要信息
      • function call 结合 租房 Api 实现租房查询
        • 租房 API
        • 编写 function call
        • 编写推理代码
        • 测试推理方法-单轮对话
        • 测试推理方法-多轮对话
    • tio-boot 案例 - 定时任务 监控 PostgreSQL、Redis 和 Elasticsearch
    • Tio-Boot 案例:使用 SQLite 整合到登录注册系统
    • tio-boot 案例 - 执行 shell 命令

tio-boot 案例 - 整合 function call

function call 简介

Function Call 的典型案例 —— 天气查询插件。

问「我明天应该穿什么?」此时 GPT 完全理解了我的问题,而且知道穿衣建议是需要了解相关天气情况的。因此它问了我在哪个城市,并且在获得该信息后,调用了天气查询插件。并基于天气查询返回的结果,告诉了我穿衣建议。

但在 GPT 与 Function Call 的加持下,开发者可以轻松实现用户模糊输入的意图识别,并转换为结构化的系统指令,与现有系统做集成。

天气插件的实现原理:Function Call 调用揭秘

来拆解一下上述的交互流程,仔细看看这个插件的交互是如何实现的。这样的一次交互,包含了 5 个对话:

  • 用户提出了一个问题:「我明天应该穿什么?」
  • AI 提问「请告诉你所在的城市」;
  • 用户回答完城市;
  • 输出调用天气插件所需的参数;
  • 通过程序调用获取最近一周的天气数据,获取数据发送到大模型
  • AI 输出穿衣建议;

为了更方便理解本质,我会将上述 5 条消息,转换为伪代码的语法,来方便大家理解:

#1

- role: user
  content: 我明天应该穿什么?

#2

- role: assistant
  content: 请告诉你所在的城市

#3

- role: user
  content: 杭州

#4

- role: assistant
  content: "{"name": "realtimeWeather","arguments": "{\n \"city\": \"杭州\"\n}"}

#5

- role: function
  name: realtimeWeather
  content: [{
  "city": "杭州市",
  "adcode": "330100",
  "province": "浙江",
  "reporttime": "2023-08-10 00:02:43",
  "casts": [
  {
  "date": "2023-08-10",
  "week": "4",
  "dayweather": "雷阵雨",
  "nightweather": "多云",
  "daytemp": "35",
  "nighttemp": "25",
  "daywind": "北",
  "nightwind": "北",
  "daypower": "≤3",
  "nightpower": "≤3",
  "daytemp_float": "35.0",
  "nighttemp_float": "25.0"
  },
  ]
  }]

#6

- role: assistant
  content: 根据杭州的天气预报...

上述伪代码中, #1 ~ #3 和 1~3 步没有任何区别。而 #4 ~ #5 在用户侧的感知就是第 4 步。#6 对应的则是第 5 步。接下来详细讲讲这 6 步到底发生了什么。

交互消息格式

理解意图

首先是 #1 ,用户提问「我明天应该穿什么?」,这背后,系统发送给 AI 的请求的信息是下面这样的:

{
  "messages": [
    {
      "role": "user",
      "content": "我明天应该穿什么?"
    }
  ],
  "functions": [
    {
      "name": "realtimeWeather",
      "description": "获取当前天气情况",
      "parameters": {
        "type": "object"
        "properties": {
          "city": {
            "description": "城市名称",
            "type": "string"
          }
        },
        "required": [
          "city"
        ],
      }
    }
  ]
}

除了 messages 以外,我们还向 GPT 传递了一个 function 的列表 s,新版的接口支持使用了 useTool 参数,这个后面在将,在这个列表中,我们使用 JSON Schema 描述了 GPT 可以调用的方法 ,即 realtimeWeather 。 我们在这个方法的描述中介绍了这个方法的作用。同时这个方法支持传入 city 这一个参数,参数名为城市,且 city 这个参数是必填的。

收集必要信息

讲完了 #1,接下来看 #2,AI 的消息是:「请告诉你所在的城市」。注意到了没,其实从这一步开始,GPT 已经识别了用户的意图,并试图尝试去调用 realtimeWeather 的外部方法。但是由于这个方法中的入参 city 是个必填项,而此时它并不知道,因此需要从用户侧了解到该信息。 再来看 #3,用户回答了 「杭州」,此时我们再来看下发送给 GPT 的消息:

{
  "messages": [
    {
      "role": "user",
      "content": "我明天应该穿什么?"
    },
    {
      "role": "assistant",
      "content": "请告诉你所在的城市?"
    },
    {
      "role": "user",
      "content": "杭州"
    },
  ],
  "functions": [
    {
      "name": "realtimeWeather",
      "description": "获取当前天气情况",
      "parameters": {
        "type": "object"
        "properties": {
          "city": {
            "description": "城市名称",
            "type": "string"
          }
        },
        "required": [
          "city"
        ],
      }
    }
  ]
}

基于 #1~#2 的分析和 #3 的消息,我们现在已经知道: GPT 准确识别了用户的意图,并想要尝试调用 realtimeWeather 的方法; 截止 #3,realtimeWeather 所需要的参数(city),在会话中已经齐全。

返回意图识别结果

那么接下来就看其中最重要的 #4 。#4 的返回消息如下:

{
  "role": "assistant",
  "content": "{"name": "realtimeWeather","arguments": "{\n  \"city\": \"杭州\"\n}"}
}

可以看到 GPT 在 content 中返回了一串 JSON 内容,将其格式化:

{
  "name": "realtimeWeather",
  "arguments": {
    "city": "杭州"
  }
}

通过上述 JSON 可以发现, GPT 准确返回了它想要调用的方法名称 realtimeWeather 与相应的参数 "city": "杭州"。是不是有点 Amazing ?这就是 Function Call 的特性。 为了让机器理解人类的意图,过去我们想方设法去「约束用户行为」或者「猜测用户意图』。但时代已经开始变了,通过 Function Call, 我们只需要在发送给 GPT 请求时加一个 functions 的参数,告知 AI 可以调用的外部方法有什么,然后 AI 就能够自动分析问题的上下文,并通过多轮对话来收集必要的调用参数,最后拼合返回调用方法的 JSON。 这对于开发者来说已经友好到极致了,研发成本大大降低,但效果又大大提升。

外部 API 调用

OK,接下来再看 #5。这一步其实也是之前非常困惑我的地方。我曾以为是 OpenAI 会在背后帮我们执行一个什么插件的服务调用。但通过自行实现一遍后才发现其实并不是这样。 #5 做的事情,本质上就是一次常规的 API 调用。因为当我们获取到调用方法的指令之后,如何运行这个指令,已经和 GPT 的接口无关了。你可以自行决定这个 API 应该如何调用。 比如在上述天气预报的查询结果,就是调用了一下高德的天气预报接口,返回的结果如下:

[
  {
    "city": "杭州市",
    "adcode": "330100",
    "province": "浙江",
    "reporttime": "2023-08-10 00:02:43",
    "casts":
    [
      {
        "date": "2023-08-10",
        "week": "4",
        "dayweather": "雷阵雨",
        "nightweather": "多云",
        "daytemp": "35",
        "nighttemp": "25",
        "daywind": "北",
        "nightwind": "北",
        "daypower": "≤3",
        "nightpower": "≤3",
        "daytemp_float": "35.0",
        "nighttemp_float": "25.0"
      },
      {
        "date": "2023-08-11",
        "week": "5",
        "dayweather": "晴",
        "nightweather": "晴",
        "daytemp": "35",
        "nighttemp": "25",
        "daywind": "北",
        "nightwind": "北",
        "daypower": "≤3",
        "nightpower": "≤3",
        "daytemp_float": "35.0",
        "nighttemp_float": "25.0"
      },
      {
        "date": "2023-08-12",
        "week": "6",
        "dayweather": "多云",
        "nightweather": "多云",
        "daytemp": "35",
        "nighttemp": "26",
        "daywind": "北",
        "nightwind": "北",
        "daypower": "≤3",
        "nightpower": "≤3",
        "daytemp_float": "35.0",
        "nighttemp_float": "26.0"
      },
      {
        "date": "2023-08-13",
        "week": "7",
        "dayweather": "雷阵雨",
        "nightweather": "多云",
        "daytemp": "35",
        "nighttemp": "25",
        "daywind": "西南",
        "nightwind": "西南",
        "daypower": "≤3",
        "nightpower": "≤3",
        "daytemp_float": "35.0",
        "nighttemp_float": "25.0"
      }
    ]
  }
]

那返回的结果应该如何和 AI 的会话集成在一起?OpenAI 在 GPT 系列的消息类型中,专门为外部接口的请求结果,定义了 function 这样一种类型,与 user 、system、assistant 区分开来。(我个人猜测 GPT 应该会针对这类消息做优化,用于提取其中的有效信息) 我们在会话应用中,就需要按照 GPT 的规范,构造出一个 function 的消息:

- role: function
  name: realtimeWeather
  content: "[{ "city": "杭州市", ... }]"

其中 name 字段是必填的,为这个方法的调用名称。content 字段直接放入接口返回内容(需要转成字符串)。

解读 API 返回的结果

构造完成 function 消息后,我们需要将 #1~#5 的消息再次发送给 GPT。此时的请求消息如下:

{
    "messages": [
      {
        "role": "user",
        "content": "我明天应该穿什么?"
      },
      {
        "role": "assistant",
        "content": "请告诉你所在的城市?"
      },
      {
        "role": "user",
        "content": "杭州"
      },
      {
        "role": "assistant",
        "content": "{"name": "realtimeWeather","arguments": "{\n  \"city\": \"杭州\"\n}"}
      },
       {
        "role": "function",
        "name": "realtimeWeather",
        "content": "..."
      }
    ],
}

这一轮消息已经包含了用户的原始问题(#1)、必要入参的收集(#2、#3)、调用 API 的 JSON 指令(#4)与 外部 API 调用的结果(#5)。另外之前需要传入的 functions 字段,已经不需要再传入了。因为 functions 只是为了让 AI 来决策使用什么外部方法。当外部方法已经完成调用后,就不再需要传入。那接下来就是见证魔法的时刻:

{
  "role": "assistant",
  "content": "当前杭州的天气是晴天,温度在 36 度左右。明天预计会有雷阵雨,温度在 26-35 度之间。因此,建议你今天穿短袖和短裤,明天则需要带一把雨伞,并穿一些防水的衣物,同时也不要忘记防晒。"
}

GPT 在上述 5 条消息的输入下,告诉我了我明天穿衣的建议,并贴心地提醒我记得带一把伞。这一轮会话也就此结束。

function call 结合 租房 Api 实现租房查询

租房 API

假设租房 Api 需要 5 个参数

  • 地理位置
  • 半径
  • 排序方式
  • 最低价格
  • 最高价格

编写 function call

我编写了一个简单的 function call,内容如下

{
  "messages": [
    {
      "role": "system",
      "content": "#(init_prompt)"
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "find",
        "description": "Call the facebook maketspace rental api",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {
              "description": "physical location",
              "type": "string"
            },
            "radius": {
              "description": "Radius range",
              "type": "string"
            },
            "sortord": {
              "description": "sortord,suport Recommended|Price: Low to High|Price: High to Low|Distance: Near to Far|Distance: Far to Near|Date: New to Old",
              "type": "string"
            },
            "lowestPrice": {
              "description": "lowest price",
              "type": "string"
            },
            "highestPrice": {
              "description": "highest price",
              "type": "string"
            }
          },
          "required": ["location", "radius", "lowestPrice", "highestPrice"]
        }
      }
    }
  ]
}

编写推理代码

推理代码如下,也非常简单,没有什么需要讲解的

import java.io.IOException;
import java.util.HashMap;
import java.util.List;
import java.util.Map;

import com.alibaba.fastjson2.JSONArray;
import com.alibaba.fastjson2.JSONObject;
import com.jfinal.template.Engine;
import com.jfinal.template.Template;
import com.litongjava.openai.chat.ChatMessage;
import com.litongjava.openai.client.OpenAiClient;
import com.litongjava.openai.consts.OpenAiModels;
import com.litongjava.tio.utils.json.FastJson2Utils;

import lombok.extern.slf4j.Slf4j;
import okhttp3.Response;

@Slf4j
public class RentHousingService {

  public String rent(String question, List<ChatMessage> historyMessages) {

    // 1.渲染模版
    Engine engine = Engine.use();
    Template template = engine.getTemplate("fn_call_housing.txt");

    Map<String, Object> values = new HashMap<>();
    values.put("init_prompt", "You're a rental assistant");
    String requestBodyString = template.renderToString(values);

    // set model
    JSONObject jsonObject = FastJson2Utils.parseObject(requestBodyString);
    jsonObject.put("model", OpenAiModels.gpt_4o_mini);
    JSONArray messages = jsonObject.getJSONArray("messages");
    // add history
    if (historyMessages != null) {
      messages.addAll(historyMessages);
    }
    // add user question
    messages.add(new ChatMessage("user", question));
    String string = jsonObject.toString();
    log.info("reqeustBody:{}", string);

    // 2.大模型推理
    try (Response response = OpenAiClient.chatCompletions(string);) {

      String bodyString = response.body().string();
      if (response.isSuccessful()) {
        return bodyString;
      } else {
        throw new RuntimeException(bodyString);
      }
    } catch (IOException e) {
      throw new RuntimeException(e);
    }

  }
}

测试推理方法-单轮对话

import java.util.ArrayList;
import java.util.List;

import org.junit.Test;

import com.litongjava.jfinal.aop.Aop;
import com.litongjava.open.chat.config.EnjoyEngineConfig;
import com.litongjava.openai.chat.ChatMessage;
import com.litongjava.tio.utils.environment.EnvUtils;

public class RentHousingServiceTest {

  @Test
  public void test() {
    String question = "Help me find a house in 5 km near sjsu, the price is between 1000-1500usd, the price is sorted from low to high";
    EnvUtils.load();
    new EnjoyEngineConfig().config();

    String rent = Aop.get(RentHousingService.class).rent(question, null);
    System.out.println(rent);
  }
}

模型的返回数据如下

{
  "id": "chatcmpl-9nLSoEDiIYOwgMYxobPBg9XGwEV2O",
  "object": "chat.completion",
  "created": 1721547606,
  "model": "gpt-4o-mini-2024-07-18",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": null,
        "tool_calls": [
          {
            "id": "call_xfVRkzhDNNfNSqZ3L2OD8iFM",
            "type": "function",
            "function": {
              "name": "find",
              "arguments": "{\"location\":\"sjsu\",\"radius\":\"5km\",\"sortord\":\"Price: Low to High\",\"lowestPrice\":\"1000\",\"highestPrice\":\"1500\"}"
            }
          }
        ]
      },
      "logprobs": null,
      "finish_reason": "tool_calls"
    }
  ],
  "usage": {
    "prompt_tokens": 153,
    "completion_tokens": 41,
    "total_tokens": 194
  },
  "system_fingerprint": "fp_611b667b19"
}

可以看到 arguments 已经包含了所需的参数,接下来的要做的就是解析参数,调用外部 API

测试推理方法-多轮对话

测试代码

  @Test
  public void testMultiAsk04() {
    String firstQuestion = "Help me find a house";
    String firstAnswer = "I'd be happy to help you find a house! Could you please provide me with the following details?\\n\\n1. Location (city or neighborhood)\\n2. Radius (how far you're willing to search)\\n3. Price range (minimum and maximum)\\n4. Any specific features or requirements you're looking for (e.g., number of bedrooms, bathrooms, pet-friendly, etc.)?";
    String secondQuestion = "sjsu";
    String secondAnswer = "Could you please provide more context or specify what you're looking for related to San Jose State University (SJSU)? Are you interested in rental listings near the university, information about the campus, or something else?";
    String thirdQuestion = "5km,1000-1500 usd";
    String thirdAnswer = "Could you please provide me with the physical location (city or address) you want me to search for rental listings within a 5 km radius, and any specific sorting preferences you have (e.g., price, distance, etc.)?";

    EnvUtils.load();
    new EnjoyEngineConfig().config();

    List<ChatMessage> history = new ArrayList<>();
    history.add(new ChatMessage("user", firstQuestion));
    history.add(new ChatMessage("assistant", firstAnswer));
    history.add(new ChatMessage("user", secondQuestion));
    history.add(new ChatMessage("assistant", secondAnswer));
    history.add(new ChatMessage("user", thirdQuestion));
    history.add(new ChatMessage("assistant", thirdAnswer));

    String question = "San Jose,price is sorted from low to high";

    String rent = Aop.get(RentHousingService.class).rent(question, history);
    System.out.println(rent);
  }

request

{
  "messages": [
    { "role": "system", "content": "You're a rental assistant" },
    { "content": "Help me find a house", "role": "user" },
    {
      "content": "I'd be happy to help you find a house! Could you please provide me with the following details?\\n\\n1. Location (city or neighborhood)\\n2. Radius (how far you're willing to search)\\n3. Price range (minimum and maximum)\\n4. Any specific features or requirements you're looking for (e.g., number of bedrooms, bathrooms, pet-friendly, etc.)?",
      "role": "assistant"
    },
    { "content": "sjsu", "role": "user" },
    {
      "content": "Could you please provide more context or specify what you're looking for related to San Jose State University (SJSU)? Are you interested in rental listings near the university, information about the campus, or something else?",
      "role": "assistant"
    },
    { "content": "5km,1000-1500 usd", "role": "user" },
    {
      "content": "Could you please provide me with the physical location (city or address) you want me to search for rental listings within a 5 km radius, and any specific sorting preferences you have (e.g., price, distance, etc.)?",
      "role": "assistant"
    },
    { "content": "San Jose,price is sorted from low to high", "role": "user" }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "find",
        "description": "Call the facebook maketspace rental api",
        "parameters": {
          "type": "object",
          "properties": {
            "location": { "description": "physical location", "type": "string" },
            "radius": { "description": "Radius range", "type": "string" },
            "sortord": {
              "description": "sortord,suport Recommended|Price: Low to High|Price: High to Low|Distance: Near to Far|Distance: Far to Near|Date: New to Old",
              "type": "string"
            },
            "lowestPrice": { "description": "lowest price", "type": "string" },
            "highestPrice": { "description": "highest price", "type": "string" }
          },
          "required": ["location", "radius", "lowestPrice", "highestPrice"]
        }
      }
    }
  ],
  "model": "gpt-4o-mini"
}

response

{
  "id": "chatcmpl-9nLlJGRzyquD0CRpiZeZcoVQrAWir",
  "object": "chat.completion",
  "created": 1721548753,
  "model": "gpt-4o-mini-2024-07-18",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": null,
        "tool_calls": [
          {
            "id": "call_QKzPD9xz6hRFIYHt6BaUZhSJ",
            "type": "function",
            "function": {
              "name": "find",
              "arguments": "{\"location\":\"San Jose\",\"radius\":\"5km\",\"sortord\":\"Price: Low to High\",\"lowestPrice\":\"1000\",\"highestPrice\":\"1500\"}"
            }
          }
        ]
      },
      "logprobs": null,
      "finish_reason": "tool_calls"
    }
  ],
  "usage": {
    "prompt_tokens": 338,
    "completion_tokens": 40,
    "total_tokens": 378
  },
  "system_fingerprint": "fp_8b761cb050"
}
Edit this page
Last Updated: 4/20/2025, 11:40:22 AM
Contributors: litongjava
Prev
tio-boot 案例 - 增强检索
Next
tio-boot 案例 - 定时任务 监控 PostgreSQL、Redis 和 Elasticsearch