标签：应用工程
共 30 篇文章。
-
AI Agent Human-in-Loop 模式实战
详解 AI Agent 中 Human-in-the-Loop 设计模式的落地方法，涵盖审批网关、置信度阈值、分级授权与中断恢复的工程实现与代码示例。
-
AI 任务重试队列设计
讲解 AI 任务系统中重试队列的架构设计，涵盖死信队列、毒消息隔离、重试预算与优先级重排，帮你避免重试风暴拖垮整个系统。
-
LLM 应用上线 checklist
一份可直接照做的 LLM 应用生产上线检查清单，覆盖密钥管理、限流熔断、成本护栏、可观测性与灰度发布，帮你上线前排查关键遗漏。
-
Prompt 改动后的回归检测
Prompt 改一个字，线上效果可能整体下滑却没人发现。讲清楚如何搭建黄金测试集、自动化评分和 CI 门禁，在上线前拦截 Prompt 回归。
-
AI 功能 A/B 测试设计：Prompt、模型与体验的三层实验框架
面向 AI 功能的 A/B 测试设计，涵盖分流策略、指标选择、Prompt/模型双变量实验、样本量计算与常见陷阱的工程实践。
-
LLM 用户级配额管理实现
面向 SaaS 产品的 LLM 用户级配额系统设计，涵盖数据模型、Redis 原子扣减、并发安全、超额处理策略与套餐联动的工程实现。
-
AI Agent 写操作回滚策略：让 Agent 的错误可以被撤销
系统讲解 AI Agent 执行写操作（改文件、写数据库、调用有副作用的 API）时如何设计回滚机制，涵盖快照、补偿事务、幂等性与审计日志。
-
LLM 上下文预热（Context Priming）技巧实战
详解上下文预热的核心技巧：角色预热、示例预热、检索预热与记忆预热，帮助 Agent 在对话或任务开始时快速进入正确状态，降低试错成本。
-
LLM 对话轨迹存储与查询设计实践
从数据模型、索引策略到检索场景，讲解如何设计 LLM 对话轨迹（trace）的存储方案，兼顾调试、审计与成本分析的查询需求。
-
AI Agent 可观测性设计
讲清 AI Agent 可观测性的核心架构设计：该观测什么、Trace 数据模型怎么建、告警怎么定，以及自建与用现成工具的取舍。
-
LLM 应用压测方案：从指标设计到工具实现
讲清 LLM 应用压测和传统 Web 压测的本质区别，如何设计并发模型、选取核心指标，附 locust 实测脚本与常见误区。
-
RAG 系统评测框架搭建实战
讲解如何为 RAG 系统搭建一套完整评测框架，涵盖检索指标、生成质量指标、黄金测试集构建与 CI 集成方法。
-
AI Agent 任务分解模式
讲解 AI Agent 拆解复杂任务的常见模式：线性分解、树形分解、动态重规划，附实际工程判断标准和代码示例。
-
LLM 输出验证：schema + 业务规则双层防护
讲清楚为什么 JSON Schema 校验通过不等于输出可信，如何设计 schema 层 + 业务规则层的双层验证体系，附 Pydantic 实现与常见漏检案例。
-
LLM 多提供商 fallback 路由设计
深入解析如何设计健壮的 LLM 多提供商 fallback 路由，覆盖熔断、重试、权重调度与成本控制，让 AI 应用始终高可用。
-
AI 流水线的错误追踪方案：从日志到根因定位
系统讲解 AI 多步流水线的错误追踪设计，涵盖结构化日志、Span 追踪、错误分类与告警，附 Python 实战代码示例。
-
LLM 应用缓存层设计：从语义缓存到 Prompt 缓存的完整方案
系统讲解 LLM 应用的缓存层架构，涵盖语义缓存、Prompt Caching、结果缓存三大策略，帮助降低 API 成本 60% 以上。
-
AI Agent 单会话成本监控实现：从零构建 Token 追踪系统
完整讲解如何为 AI Agent 构建单会话 token 成本监控系统，包括实时追踪、预算告警、多轮对话计费拆分，附 Python 生产级代码。
-
AI Agent 错误恢复机制设计：让 Agent 在失败中自我修复
深入讲解 AI Agent 错误恢复机制，涵盖重试策略、降级回退、状态检查点、异常分类与自动修复，帮你构建健壮的 Agent 系统。
-
AI Chatbot 上下文管理与裁剪：工程实践完整指南
深入讲解 AI Chatbot 的上下文管理策略：滑动窗口、摘要压缩、重要性评分裁剪等方法，含 Python 代码示例，帮你在保持对话连贯性的同时控制 Token 成本。
-
AI 功能灰度发布策略：从实验到全量的工程实践
系统梳理将 AI 功能推向生产环境的灰度发布策略，涵盖流量切分、回滚机制、评估指标与成本控制，帮助团队稳健上线 AI 特性。
-
LLM 异步任务队列设计：从原型到生产
用 BullMQ/Celery 设计 LLM 异步任务队列：任务分层、重试策略、优先级调度、Worker 弹性扩缩，附 Node.js 与 Python 示例代码。
-
AI 任务流水线编排实战：从单点调用到多步 Pipeline
系统讲解如何将多个 LLM 调用串联成可靠的 AI 流水线，涵盖顺序、并行、条件分支、错误重试与成本控制的工程实践。
-
LLM 多轮对话状态管理
系统讲解 LLM 多轮对话中的状态管理策略，涵盖上下文截断、摘要压缩、外部记忆存储与工程实现。
-
LLM 流式响应背压处理：防止服务端被打爆的实战指南
深入讲解 LLM 流式响应中的背压问题成因、检测方法与解决方案，帮助工程师构建稳定高效的 AI 应用后端。
-
AI Agent 记忆系统设计：四种模式与工程实践
系统梳理 AI Agent 的四种记忆模式——工作记忆、情节记忆、语义记忆和程序记忆，给出工程选型与落地建议。
-
Prompt 版本管理实战：从混乱到可追溯的工程化之路
详解 Prompt 版本管理的核心方法，涵盖文件结构设计、Git 工作流、A/B 测试追踪、回滚策略与团队协作规范，帮助团队建立可维护的 Prompt 工程体系。
-
LLM 评测 Golden Set 构建方法
系统介绍如何为 LLM 应用构建高质量评测基准集（Golden Set），涵盖数据采集、标注策略、维护机制与自动化评分实践，帮助团队建立可持续的模型质量体系。
-
LLM 上下文工程方法论
系统梳理 LLM 上下文工程的核心概念与实战技巧，涵盖上下文窗口管理、信息压缩、RAG 整合与 Agent 记忆设计。
-
从零搭建生产级 AI Chatbot：架构设计与工程实践
手把手讲解如何用 Python + FastAPI 构建可扩展的生产级 AI Chatbot，涵盖多轮对话、流式输出、上下文管理和成本控制全链路实践。