老废物乐园 瓜子的技术笔记 · Java / AI / 金融科技

ReAct 模式在 Java Agent 中的实现

单次 Function Calling 撑不住,我上了 ReAct 去年 11 月我们给内部运维做了个助手,能查监控、查日志、查工单、执行标准操作。第一版用的是大模型的 Function Calling:把工具列表丢给模型,模型返回一个函数调用,我们执行完把结果拼进上下文,再问一次,直到它不再调工具

遥望星星 遥望星星 发布于 2024-07-14

Function Calling 实战:让大模型调用 Java 方法

大模型再能聊,它本身算不了实时库存、查不了数据库。要让它"动手",得靠 Function Calling:模型决定调哪个函数、填什么参数,Java 侧真实执行,再把结果喂回去。这趟趟过的坑,比想象中深。 工具注册:把 Java 方法暴露给模型 用 Spring AI(1.0 GA 稳定版)注册一个工

遥望星星 遥望星星 发布于 2023-09-09

LangChain4j 上手:Java 版 LLM 应用开发

为什么要看 Java 的 LLM 框架 团队要做个工单自动分类的小工具,调用 OpenAI。一开始我手搓 HttpClient 拼 JSON,发现每加一个能力就要重写一遍请求体、解析流、管上下文。更烦的是流式输出要自己处理 SSE,错误码要自己映射,超时和重试也要自己写。做了两个功能之后,代码里一半

遥望星星 遥望星星 发布于 2023-01-13

JVM TI 与字节码增强:Arthas 背后的技术

「Arthas 凭什么不用改代码就能看到方法耗时」 2 月初排查一个慢接口,我用 Arthas 的 trace 打出了每一层调用的耗时。旁边一个刚工作两年的同事看完很惊讶:我们没加任何埋点,也没改代码,它怎么知道每个方法花了多久? 这个问题一两句话讲不清楚,正好我那几天在给公司内部的压测平台做一个无

遥望星星 遥望星星 发布于 2021-05-29