Java 生态终于有了统一的 AI 门面 之前接 OpenAI 要手搓 HTTP,接 Azure 又是一套,模型一换代码重写。团队里三个人各自封装了一遍,接口还不一样。Spring AI 在 2024 年初推出 1.0 里程碑版本,把各家模型、向量库抽象成统一接口。我拿它重构了工单助手,迁移成本比预
为什么要看 Java 的 LLM 框架 团队要做个工单自动分类的小工具,调用 OpenAI。一开始我手搓 HttpClient 拼 JSON,发现每加一个能力就要重写一遍请求体、解析流、管上下文。更烦的是流式输出要自己处理 SSE,错误码要自己映射,超时和重试也要自己写。做了两个功能之后,代码里一半
Java 也要有自己的 AI 抽象层 2023 年初,Python 侧 LangChain 已经热闹非凡,Java 这边还在各自调 OpenAI 的 HTTP。我们团队想给内部系统接个问答能力,结果每个项目都自己封装一套 OkHttp 调用,模型一换全部重写。Spring 社区开始孵化一个叫 Spr