程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
AI工程 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
LLM 结构化输出可靠方案:重试-修复循环让解析器永不见到坏 JSON
编程
LLM 结构化输出可靠方案:重试-修复循环让解析器永不见到坏 JSON
2026-09-06 07:16:17
文章分享在真实产品中接入LLM的经验:提示模型返回JSON在Demo中正常,但上线后凌晨2点收到FormatException——模型把JSON包在代码块里、加开场白、尾随逗号。97%正确率的模型每天仍有数千次失败。可靠的结构化输出不是提示词技巧,而是多阶段流水线:结构化提示→提取清理→解析→重试→修复循环(核心创新,将语义错误反馈给模型修复)→Schema验证。文章还介绍了函数调用/JSON Mode、语法约束解码等进阶技术,以及最佳实践和常见陷阱。
LLM
结构化输出
JSON
重试
修复循环
Schema验证
AI工程
函数调用
从 Prompt Engineering 到 AI Engineering:构建可靠 AI 功能的工程范式
编程
从 Prompt Engineering 到 AI Engineering:构建可靠 AI 功能的工程范式
2026-09-06 06:18:23
AI应用开发正经历范式转变:从单纯的提示词工程转向AI工程。文章指出,写提示词在简单低风险场景有效,但生产环境面临上下文管理、工具使用、变更验证、故障调试、输出验证、自主权边界等工程问题。AI工程是软件工程、MLOps、分布式系统、安全、测试、平台工程的组合,核心实践包括上下文工程、评估框架、可观测性、输出验证、容错降级、安全治理,以及RAG、Agent、流水线等架构模式。
AI工程
Prompt Engineering
LLM
RAG
Agent
MLOps
可观测性
评估框架
Poltergeist:给原生应用一个 npm run dev,顺便复盘一次 Go 迁移
编程
Poltergeist:给原生应用一个 npm run dev,顺便复盘一次 Go 迁移
2026-09-06 00:06:30
介绍 Peter Steinberger(steipete) 的开源通用构建守护工具 Poltergeist:后台监听文件即自动重建,原生应用的 npm run dev。含 TypeScript/Go 迁移取舍、用 1.1MB Markdown 合并绕开 256KB 上下文限制的方法与安装命令。
Peter
Steinberger
Poltergeist
steipete
Build工具
AI工程
RAGFlow 深度解析:从 DeepDoc 文档理解到混合检索引擎——2026 年最值得研读的开源 RAG 系统完整实战指南
编程
RAGFlow 深度解析:从 DeepDoc 文档理解到混合检索引擎——2026 年最值得研读的开源 RAG 系统完整实战指南
2026-07-06 08:13:47
深度解析RAGFlow开源RAG引擎:DeepDoc文档理解引擎的三层架构(视觉感知+OCR+解析器)、六种智能分块策略、三路混合检索(BM25+向量+知识图谱)+RRF融合重排、Agent工作流编排、MCP Server集成、长期记忆模块。含Python SDK完整代码实战、Docker Compose部署指南、与Dify/FastGPT对比。
RAGFlow
RAG
DeepDoc
文档理解
混合检索
知识图谱
MCP
AI工程
开源
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
编程
Langfuse深度解析:ClickHouse加持的开源LLM可观测性平台——从Trace追踪到Prompt管理的AI工程化完整实战指南
2026-07-06 00:14:59
深度解析Langfuse开源AI工程平台:ClickHouse高性能Trace存储、三大核心模块(Observability/Prompt Management/Evaluation)、Python/JS SDK完整代码实战、Docker Compose自部署指南、与LangSmith/Helicone竞品对比、ClickHouse收购战略分析
Langfuse
LLM
可观测性
ClickHouse
OpenTelemetry
AI工程
Trace追踪
Prompt管理
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
编程
Context Engineering:超越 Prompt Engineering 的 AI 工程新范式
2026-07-05 01:47:09
深入探讨Context Engineering的核心概念、架构设计、上下文压缩技术和生产环境最佳实践。
AI工程
Context Engineering
Prompt Engineering
大模型
上下文管理
Microsoft MarkItDown 深度实战:把整个世界搬进 Markdown——从多格式解析引擎到 LLM 知识管道完全指南(2026)
编程
Microsoft MarkItDown 深度实战:把整个世界搬进 Markdown——从多格式解析引擎到 LLM 知识管道完全指南(2026)
2026-06-02 23:44:03
Microsoft 开源的 MarkItDown 在 2026 年引爆 AI 工程圈。本文从源码级架构解析、多格式解析引擎、与 LLM 工具链的集成实战、性能优化到生产级 RAG 管道,全面拆解这款改变 AI 工程范式的工具。
Microsoft
MarkItDown
Markdown
LLM
RAG
Python
文档解析
AI工程
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
编程
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
2026-06-02 20:14:38
Stanford CS336 课程深度解读:从零实现大语言模型,覆盖 Tokenizer、Transformer、FlashAttention-2、FSDP 分布式训练、Scaling Law、Common Crawl 数据清洗去重、SFT 与 GRPO 对齐,配完整代码示例。
LLM
Transformer
Stanford CS336
FlashAttention
PyTorch
AI工程
分布式训练
强化学习
Agent Skills 深度解析:重塑 AI 协作范式——从开放标准到工程化落地的完整技术内幕
编程
Agent Skills 深度解析:重塑 AI 协作范式——从开放标准到工程化落地的完整技术内幕
2026-05-18 01:45:05
2026年5月Agent Skills开放标准发布,将AI能力模块化封装为技能包。本文深入剖析架构设计、工作原理、工程实践与生态前景。
Agent Skills
AI工程
Claude
开放标准
技能编排
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
编程
LLM推理引擎终极对决:vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31
深度对比vLLM与TensorRT-LLM两大LLM推理框架,从PagedAttention到Kernel Fusion,从量化技术到生产部署,助你做出正确的技术选型决策
LLM
vLLM
TensorRT-LLM
推理优化
大模型部署
量化技术
AI工程
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调