八月的 GPU 账单让我坐不住了 我们自建的推理集群，8 台 A100 80G，7 月的账单是 ¥41.6 万。同时监控告诉我另一个数字：GPU 利用率平均 31%。 花了钱，卡在空转。这两件事放一起，不优化说不过去。 这篇是过去五周做的事。缓存、量化、批处理三块，全会上线后的结果是：单卡吞吐从 2
四十秒的任务撞上三十秒的超时 8 月 11 号，我们的工单自动处理 Agent 上线一周后，监控上出现一条难看的曲线：任务失败率 4.7%，失败原因几乎全是 UpstreamTimeout。 查了一下，原因很直白——这个 Agent 平均执行 11 秒，但 P99 是 41 秒。而我们网关的超时是
最后一个服务切完是上周五晚上 我们 47 个 Java 服务，从 JDK 21 升到 25，前后六周。最后一个切完是 8 月 7 号晚上十一点半，切完我在群里发了句"收工"，然后第二天睡到中午。 JDK 25 从 GA 到现在十个月，这个时间点写"发布"有点晚。但好处是能用生产数据说话，而不是照着
一条一星评价 8 月 6 号早上，应用商店来了条新评价，一星： 用了半个月，每次都要重新介绍一遍我的情况。上周让它记住的偏好，这周又忘了。同一家公司的人问同一个问题，答案还不一样，无语。 第二条倒是我们有意为之（不同角色权限不同），第一条是实打实的问题。 这篇记录我们做 Agent 记忆持久化的过程
压测时 Agent 读到了三小时前的数据 7 月 18 日我们对知识问答 Agent 做季度压测。压到 1,200 QPS 的时候，测试同学反馈一个问题：刚在后台改的商品价格，问 Agent 还是旧值。 一开始我以为是缓存。查了一圈发现不是——向量库里的切片更新时间是三小时前，而业务库的变更早就提交
三个人吵了两周，我算了一笔账 7 月初，团队为"新项目用哪个 Java AI 框架"吵了两周。三个人，三种意见，各自写了 demo，各自的 benchmark 都证明自己选的更好。 我做了件不太受欢迎的事：把这两周的成本算了出来。 参与讨论：3 人 × 14 天 × 60% 投入 ≈ 25 人日 写
为什么开始看 AgentScope Java 我们团队的主力框架是 Spring AI 2.0，用了快一年。真正让我开始评估 AgentScope Java 2.0 的，是 6 月底一次多 Agent 协作的需求。 需求本身不复杂：一个"故障分析"场景，需要日志分析 Agent、代码检索 Agent
这个月面了 12 个人，一个 offer 都没发 7 月我们团队要扩两个人，我前后面了 12 个候选。八年以上经验、带过项目、简历上都写着"熟悉大模型应用开发"。 结果不太好看。问"RAG 怎么做的"，八个人能完整背出切分、向量化、召回、重排这条链路；再问"你怎么验证召回效果变好了"，六个人答不上来
财务对账发现两笔一模一样的退款 7 月 2 日上午，财务在群里贴了两行流水： 2026-07-01 22:14:07 RF2026070122140701 SO20260628009 -12,900.00 成功 2026-07-01 22:14:09 RF2026070122140903
周会上被问住了 6 月底的架构周会，组里一个同学问："Spring 官方和 DeepSeek 合作之后，我们要不要把模型调用层切到官方 starter？" 我当时答不上来。这两年"XX 与 XX 达成合作"的新闻太多了，大部分最后落在 PPT 上。我没有花时间验证过，就不能在会上拍板，于是给自己派了
