老废物乐园

菜单

老废物乐园

所有标签

#Java 6 #限流 2 #高并发 3 #JVM 1 #性能调优 1 #AI 1 #GC 1 #Sentinel 1 #大模型 1 #微服务 3 #Resilience4j 1 #SpringCloud 2 #RAG 1 #架构 1 #LangChain 1 #Halo 1 #推理优化 1 #LTS 1 #数据架构 1 #框架选型 1 #AgentScope 1 #架构师 1 #职业 1 #AI生态 1 #内容安全 1 #数据 1 #JDK25 2 #A2A 1 #多租户 1 #产品 1 #上下文管理 1 #GOAP 1 #Embabel 1 #Jlama 1 #推理引擎 1 #AgentSkills 1 #微调 1 #生产实践 1 #技术选型 1 #工具化 1 #SpringBoot4 1 #多智能体 2 #数据库 1 #AIAgent 1 #协议 3 #幻觉 1 #总结 3 #职业成长 1 #评测 1 #记忆 2 #上下文工程 1 #JDK24 1 #Leyden 1 #混沌工程 1 #存储设计 1 #任务编排 1 #成本 1 #AI中台 1 #国产模型 1 #AI原生 1 #JSON 1 #流处理 1 #工程化 1 #AI编程 2 #研发效能 2 #向量 1 #多模态 1 #AI网关 1 #MCP 4 #知识库 3 #ReAct 1 #Redis8 1 #JDK22 1 #FFM 1 #依赖治理 1 #数据安全 1 #混合检索 1 #生产 2 #成本优化 1 #Prompt 1 #工程 1 #代码评审 1 #数据库选型 1 #JDK23 1 #防护 1 #AI安全 1 #Ollama 1 #本地模型 1 #降级 1 #数据管道 1 #语法演进 1 #优化 1 #架构设计 1 #FunctionCalling 1 #启动优化 2 #JVM配置 1 #GitLab 1 #SSE 1 #流式 1 #架构改造 1 #去O 1 #分布式数据库 1 #模型路由 1 #LLM 2 #结构化输出 1 #AI 27 #ScopedValue 1 #JFR 1 #任务调度 1 #向量检索 1 #灰度发布 1 #JDK21 1 #OpenTelemetry 1 #LangChain4j 2 #容器 2 #KRaft 1 #SOP 1 #排查方法 1 #HTTP客户端 1 #JOIN 1 #窗口函数 1 #Gradle 1 #构建工具 1 #Java21 4 #结构化并发 2 #分代 1 #管理 1 #技术债 1 #Java 8 #大模型 2 #ClickHouse 1 #OLAP 1 #向量数据库 2 #RAG 6 #批处理 1 #SpringBatch 1 #Embedding 1 #模型 1 #容量评估 1 #设计规范 1 #框架 3 #SpringAI 7 #OAuth2 1 #自动化 1 #Nginx 1 #Spring6 2 #AOT 2 #主从延迟 1 #ServiceMesh 1 #Istio 1 #Spring4Shell 1 #事件驱动 3 #Sealed 1 #调优 2 #JUnit5 1 #集成测试 1 #认证 1 #SpringSecurity 2 #聚合 1 #Java15 1 #TextBlock 1 #Canal 1 #SpringBoot3 2 #高并发 2 #秒杀 1 #JDK17 1 #查询优化 1 #低延迟 1 #GraalVM 2 #原生镜像 1 #线程 1 #事件溯源 1 #查询 1 #治理 1 #GitOps 1 #CD 1 #R2DBC 1 #RocketMQ5 1 #火焰图 1 #性能分析 2 #发布 1 #自动化测试 1 #Redis7 1 #多级缓存 1 #设计模式 1 #实践 1 #ExactlyOnce 1 #字节码 1 #Agent 13 #Record 1 #虚拟线程 9 #ProjectLoom 1 #模式匹配 2 #Java17 3 #内存分析 1 #MAT 1 #Java9 1 #Log4j2 1 #Redisson 1 #Caffeine 1 #本地缓存 1 #新特性 10 #Redis6 1 #循环依赖 1 #堆外内存 1 #重平衡 1 #CPU 1 #压测 1 #响应式 3 #WebFlux 1 #Prometheus 1 #监控 1 #编译 1 #JIT 1 #事务消息 1 #延迟消息 1 #熔断降级 2 #Resilience4j 2 #JPMS 1 #模块化 2 #JDK11 1 #K8s 2 #工程结构 1 #SQL治理 1 #规范 2 #工具 1 #数据迁移 1 #SkyWalking 1 #可观测性 5 #DDL 1 #方法论 1 #集群 1 #ShardingSphere 2 #可靠性 1 #语法 2 #Java10 1 #ZGC 3 #安全 5 #Fastjson 1 #DDD 3 #原理 1 #Snowflake 1 #分布式ID 1 #实战 5 #故障复盘 3 #LongAdder 1 #一致性 1 #读写分离 1 #FullGC 1 #故障 6 #文档 1 #Swagger 1 #诊断 2 #Arthas 2 #大key 1 #性能优化 4 #热点key 1 #搜索引擎 1 #G1 1 #GC调优 1 #顺序消息 1 #方案对比 2 #SQL 1 #网关 1 #Gateway 1 #Kafka 8 #积压 1 #超时 1 #拆分 1 #SpringCloud 2 #JVM参数 1 #注册中心 2 #Nacos 2 #分布式事务 2 #Seata 1 #升级 5 #MySQL8 2 #Sentinel 2 #限流 2 #迁移 5 #环境搭建 1 #Docker 2 #部署 2 #Elasticsearch 7 #微服务 5 #OpenFeign 1 #优雅停机 1 #消息可靠性 1 #RocketMQ 3 #CI 3 #Jenkins 1 #CAS 1 #原子类 1 #并发Bug 1 #JDK 3 #选型 3 #收集器 1 #Dubbo 1 #Zookeeper 1 #异步 2 #CompletableFuture 2 #幂等 4 #并行 1 #并发工具 1 #BlockingQueue 1 #JUC 2 #单元测试 1 #JUnit 1 #类加载 1 #自动配置 1 #引用 1 #高可用 2 #死锁 3 #Logback 1 #JVM工具 1 #排查 7 #拒绝策略 1 #Optional 1 #MQ 6 #AQS 1 #CAP 1 #分布式 2 #事件 1 #持久化 1 #Lambda 1 #AOP 1 #Metaspace 1 #Java8 3 #分库分表 4 #Bean 3 #源码 3 #MVCC 1 #注解 1 #并发容器 1 #ConcurrentHashMap 1 #缓存一致性 2 #连接池 2 #Druid 1 #SQL优化 4 #explain 1 #依赖注入 1 #配置 3 #Spring 17 #Integer 1 #装箱 1 #分布式锁 3 #JVM 5 #OOM 5 #单例模式 1 #反射 2 #索引 2 #迭代器 1 #集合 2 #Tomcat 1 #内存 2 #equals 1 #HashMap 2 #Maven 2 #依赖冲突 1 #锁 2 #并发 2 #资源管理 1 #IO 1 #API 1 #REST 1 #ThreadLocal 1 #内存泄漏 4 #事务 3 #日志 3 #GC 11 #Redis 14 #Stream 2 #函数式 2 #枚举 1 #线程安全 1 #日期 2 #ThreadPool 1 #线程池 4 #重构 4 #架构 25 #Bug 2 #对象拷贝 1 #JMM 1 #volatile 2 #版本管理 1 #Git 1 #String 2 #性能 6 #参数绑定 1 #SpringMVC 1 #分页 3 #MySQL 14 #入门 2 #SpringBoot 11 #运维 2 #Linux 1 #缓存 6 #MyBatis 4 #批量插入 1 #金额 1 #BigDecimal 1 #PECS 1 #泛型 1 #性能调优 1 #随笔 1
AI 与智能体开发 #评测#AI

Agent 评测：如何衡量一个智能体的好坏

两个同事为「提示词改版有没有用」吵了一周 九月份我们改了一版运维 Agent 的系统提示词，主要变化是加了「先确认信息是否充分，再决定调用工具」这一段。改完之后团队内部炸了： 小王说「明显变准了，我测的几个问题都对」；老李说「变差了，现在它老是不干活，一直问我问题」。两人各举了三四个例子，都很有说服

Administrator Administrator 发布于 2025-10-16
JVM 与性能调优 #JVM#AI

AI 应用下的 JVM 内存特征与调优

把 AI 服务压到 3000 QPS 之后，GC 曲线完全变了 我们有个文档问答服务，跑在 JDK 21 + G1 上，原来堆 4G，Young 区 1.2G，日均 800 万次调用，GC 表现平平无奇：Young GC 每 8 秒一次，单次 25ms 左右，Full GC 一周见不到一次。 八月份

Administrator Administrator 发布于 2025-10-02
AI 与智能体开发 #上下文工程#AI

上下文工程：比 Prompt 工程更重要的事

实习生问我：为什么文档喂得越多，答案越差 七月份团队来了个实习生，负责维护我们的文档问答系统。他有天跑来问我一个问题：「我把 topK 从 5 调到 20，召回率肯定上去了吧？但测试集准确率从 71% 掉到 63%，是不是哪儿写错了？」 我看了下代码，没写错。这不是 bug，这是我们一直没认真对待的

Administrator Administrator 发布于 2025-08-05
工程效能与工具链 #混沌工程#AI

LLM 应用的混沌工程与容错演练

供应商挂了，我们的降级逻辑一行没生效 六月下旬的一个晚上，模型供应商华东区域故障，持续 23 分钟。我们有完整的降级设计（规则引擎兜底、熔断、重试），理论上最多影响一部分请求的响应时间。实际结果是：全线报错，客服系统完全不可用。 事后复盘，原因特别打脸：降级逻辑的入口写在了 catch (Model

Administrator Administrator 发布于 2025-07-09
AI 与智能体开发 #成本#AI

Agent 落地的成本控制：一次真实的账单分析

财务拿着一张 14.7 万的账单来找我 六月初，财务同事拿着模型账单发消息给我："你们那个智能运维 Agent，上个月花了 14.7 万？预算不是 5 万吗？" 我一看确实超了快三倍，而且这个 Agent 上线才一个月，日均任务量只有 420 个左右。 我花了两天把账单拆开分析，发现问题比想象的有意

Administrator Administrator 发布于 2025-06-13
分布式与消息队列 #流处理#AI

流式处理在实时 AI 场景的应用

风控要在 200ms 内给出决策，而模型要 150ms 我们电商风控原来是一套 Drools 规则引擎，几百条规则，命中就拦截。去年底开始加模型：用用户最近 5 分钟的行为序列算实时特征，喂给一个轻量模型打分，超过阈值就拦截。 难在时间预算。风控决策必须在用户下单后 200ms 内返回，而模型推理本

Administrator Administrator 发布于 2025-04-16
AI 与智能体开发 #多模态#AI

多模态能力在 Java 应用中的集成

产品说"用户上传截图自动填工单" 三月中旬产品提了个需求：用户报障时经常甩一张截图过来，客服要手工把里面的订单号、错误码、时间点一个个敲进工单系统，平均 90 秒一条，希望系统能自动识别和填充。听起来简单，做下来发现"看懂一张图"这件事在工程上的复杂度远超我的预期。 这篇记录我们在 Java 应用里

Administrator Administrator 发布于 2025-03-22
Java 核心基础 #Java#AI

Java 在 AI 时代的定位与优势

组里的实习生问我"Java 是不是没前途了" 2025 年春节后回来的第一周，组里新来的实习生私下问我："现在 AI 不都是 Python 写的吗，我学 Java 是不是选错方向了？" 这话我没法用一句"不会"糊弄过去，因为他说的是事实的一部分——过去两年所有模型层的创新确实都在 Python 生态

Administrator Administrator 发布于 2025-03-06
Java 核心基础 #虚拟线程#AI

虚拟线程在 AI 高并发调用中的实践

5 万条评测数据，从 80 分钟压到 9 分钟 今年 1 月要做一次大模型效果评测：5 万条标注问题，分别跑三个候选模型，记录每条的输出、耗时和 token 数。总共 15 万次调用。 第一版脚本用 200 线程的固定线程池，跑了 82 分钟还没跑完（因为触发限流重跑了一批）。我花了一天改成虚拟线程

Administrator Administrator 发布于 2025-01-21
AI 与智能体开发 #成本优化#AI

大模型应用成本控制：Token 经济的实践

10 月账单 11.7 万，调用量才涨了 40% 11 月 1 号早上收到云厂商账单：10 月大模型调用费用 11.73 万元。9 月是 4.31 万，涨了 172%。但同期我们的业务量只涨了 40%，这中间肯定有浪费。 我花了两天做了一次完整的用量审计，最后把 11 月的账单压到了 5.1 万。过

Administrator Administrator 发布于 2024-11-03
上一页 2 / 3 下一页