LLM Serving-程序员茄子

BFE v1.8.3 AI 网关深度拆解：当企业级七层负载均衡遇见大模型推理流量治理
2026-07-20 01:13:38 +0800 CST view 250
BFE v1.8.3 深度拆解：企业级七层负载均衡软件的 AI 网关能力升级，从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE AI网关负载均衡 LLM推理限流云原生 eBPF TPM RPM

BFE v1.8.3 深度拆解：企业级 AI 网关四件套——限流、配额、日志与会话保持

编程

BFE v1.8.3 深度拆解：企业级 AI 网关四件套——限流、配额、日志与会话保持
2026-07-20 01:14:29 +0800 CST view 285
深度拆解 BFE v1.8.3：企业级七层负载均衡软件的 AI 网关能力升级，从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE AI网关负载均衡 LLM推理限流云原生 RPM TPM 会话保持

Eino 框架深度解析：Go 语言大模型应用开发的工程化实践

编程

Eino 框架深度解析：Go 语言大模型应用开发的工程化实践
2026-07-25 11:45:47 +0800 CST view 64
深入解析字节跳动 CloudWeGo 开源的 Eino 框架：从架构设计、核心组件、ADK 多 Agent 协作到生产级 RAG 系统实战
Go语言 LLM AI框架 Eino CloudWeGo RAG Agent

微软开源 MarkItDown：万能格式转换神器，15+ 格式统一转 Markdown，狂揽 140K+ Star！

编程

微软开源 MarkItDown：万能格式转换神器，15+ 格式统一转 Markdown，狂揽 140K+ Star！
2026-06-13 08:23:13 +0800 CST view 438
MarkItDown是微软AutoGen团队开源的文件格式转换工具，GitHub 140K+ Stars，将15+种文件格式(PDF/Office/图片/音频/视频/HTML/YouTube)统一转成Markdown，专为LLM优化，支持OCR和Azure AI集成。
MarkItDown 微软开源文件转换 Markdown RAG LLM OCR PDF Office 知识库

Claude Code 持久记忆实战：从三层压缩机制到 Claude-Mem 的跨会话记忆实现

编程

Claude Code 持久记忆实战：从三层压缩机制到 Claude-Mem 的跨会话记忆实现
2026-04-22 09:32:54 +0800 CST view 754
深入解析 Claude Code 三层上下文压缩机制的局限，以及开源项目 Claude-Mem 如何通过 SQLite+向量检索双轨架构实现跨会话持久记忆，并探讨记忆插件背后的商业博弈与技术启示。
Claude Code CIaude-Mem 上下文压缩 AI编程持久记忆 LLM 向量检索

Eino 深度实战：Go 语言 LLM 应用开发的组件化革命——从架构哲学到生产级 Agent 构建的完全指南（2026）

编程

Eino 深度实战：Go 语言 LLM 应用开发的组件化革命——从架构哲学到生产级 Agent 构建的完全指南（2026）
2026-06-04 15:49:45 +0800 CST view 592
Eino是字节跳动CloudWeGo团队开源的Go语言LLM应用开发框架，本文从架构设计到代码实战，完整讲解组件化设计、Chain/Graph编排、Tool Calling、RAG、Memory、可观测性及生产级部署
Go Eino LLM CloudWeGo AI Agent RAG 组件化框架

OpenTelemetry 深度实战：从链路追踪到AI可观测，构建生产级可观测性体系的完全指南（2026）

编程

OpenTelemetry 深度实战：从链路追踪到AI可观测，构建生产级可观测性体系的完全指南（2026）
2026-06-13 10:47:34 +0800 CST view 508
全面解析 OpenTelemetry 生产级部署：从 Traces/Metrics/Logs 三元闭包到 LLM AI 追踪，涵盖 Go/Python 代码实战、Collector 两阶段架构、Tail Sampling 成本控制与 otel-mcp AI 可观测智能体。
OpenTelemetry 可观测性链路追踪 Go Python LLM

MarkItDown 深度解析：微软如何用一款工具重塑 RAG 文档处理管线

编程

MarkItDown 深度解析：微软如何用一款工具重塑 RAG 文档处理管线
2026-04-13 12:25:55 +0800 CST view 1020
微软开源的 MarkItDown 如何统一 PDF、Word、Excel、PPT 等格式转换为 Markdown，成为 RAG 数据预处理的事实标准。
RAG Python 文档处理 Markdown 微软 OpenAI LLM

性能吊打Flink、55k星：Pathway如何用Python+Rust重构实时数据处理管线

编程

性能吊打Flink、55k星：Pathway如何用Python+Rust重构实时数据处理管线
2026-04-13 14:23:16 +0800 CST view 733
深度解析GitHub 55k星开源项目Pathway，如何用Python+Rust混合架构重构实时数据处理管线，吊打Flink性能，原生支持LLM管道和RAG应用。
Python Rust Pathway 实时数据 ETL Flink 流处理 LLM RAG 数据工程

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案

编程

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案
2026-07-07 09:13:00 +0800 CST view 229
开源本地AI恋爱模拟游戏，LLM驱动+规则引擎harness，七维关系数值、记忆系统、社交图、手机系统，数据全部本地存储，豆包智能体平替。
AI 开源游戏恋爱模拟本地部署 LLM 豆包智能体

MarkItDown 深度实战：从文档格式地狱到 LLM 数据管线的工程化完全指南（2026）

编程

MarkItDown 深度实战：从文档格式地狱到 LLM 数据管线的工程化完全指南（2026）
2026-06-04 19:15:39 +0800 CST view 423
微软 MarkItDown 12.6万 Star 开源工具深度指南：从架构原理到生产级部署，解决文档预处理的最后一公里问题
MarkItDown Python 文档处理 RAG LLM 开源工具

Headroom 深度实战：当 AI Agent 学会「压缩上下文」——从 Token 暴降 95% 到生产级接入的完全指南（2026）

编程

Headroom 深度实战：当 AI Agent 学会「压缩上下文」——从 Token 暴降 95% 到生产级接入的完全指南（2026）
2026-06-13 14:16:43 +0800 CST view 627
Headroom 是一个开源的上下文压缩中间层，能在不损失回答质量的前提下把发给 LLM 的上下文压缩掉 60%–95%。本文从架构原理到生产级接入，全面解析这款 GitHub 破万 Star 的 AI 工程利器。
AI Agent LLM Token优化上下文压缩 Python 开源项目

MarkItDown 深度拆解：当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌（2026）

编程

MarkItDown 深度拆解：当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌（2026）
2026-07-20 11:48:22 +0800 CST view 111
2026年深度拆解微软开源项目 MarkItDown：161K Star 的文档转 Markdown 神器，从插件化架构、20+格式处理机制到生产级 RAG 流水线集成的完整工程指南，配可运行代码示例。
MarkItDown Python LLM RAG 文档处理微软开源 Markdown 文本提取 PDF Word Excel

编程

MarkItDown 深度拆解：当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌（2026·完整版）
2026-07-20 11:50:12 +0800 CST view 150
2026年深度拆解微软开源项目 MarkItDown：161K Star 的文档转 Markdown 神器，从插件化架构、20+格式处理机制到生产级 RAG 流水线集成的完整工程指南，配可运行代码示例。
MarkItDown Python LLM RAG 文档处理微软开源 Markdown PDF Word Excel OCR 向量化

MarkItDown深度解析：微软开源的AI文档预处理神器，10万星背后的技术架构与工程实践

编程

MarkItDown深度解析：微软开源的AI文档预处理神器，10万星背后的技术架构与工程实践
2026-04-23 05:40:30 +0800 CST view 872
深度解析微软开源的MarkItDown文档预处理工具：从架构设计到工程实践，涵盖PDF/Word/Excel/图片/音频等20+格式转换、OCR与LLM Vision集成、RAG管道构建、Docker部署与性能优化
MarkItDown 微软开源 Markdown RAG 文档处理 AI LLM Python MCP

DFlash 深度实战：基于块扩散的极速投机解码模型——2026年完全指南

编程

DFlash 深度实战：基于块扩散的极速投机解码模型——2026年完全指南
2026-05-25 03:31:37 +0800 CST view 583
本文深入讲解DFlash的核心概念、架构设计、实战安装与集成，以及性能优化方法，帮助开发者全面掌握这一2026年热门的LLM推理速度优化工具。
DFlash 投机解码 LLM推理速度开源项目 2026

万字深度解析 Headroom：当 AI Agent 遇见「上下文压缩革命」——从 Token 经济学到 60-95% 成本压缩的完整技术指南（2026）

编程

万字深度解析 Headroom：当 AI Agent 遇见「上下文压缩革命」——从 Token 经济学到 60-95% 成本压缩的完整技术指南（2026）
2026-07-02 08:14:29 +0800 CST view 325
深度解析 Headroom 开源项目：AI Agent 上下文压缩层，60-95% Token 节省，涵盖 SmartCrusher、CodeCompressor、Kompress-base 三大压缩引擎与 CCR 可逆机制。
Headroom AI Agent 上下文压缩 Token 优化 LLM

FastAPI 2026 深度解析：从 CRUD 框架到 AI 基础设施支柱

编程

FastAPI 2026 深度解析：从 CRUD 框架到 AI 基础设施支柱
2026-05-13 17:12:57 +0800 CST view 618
FastAPI 0.135.x/0.136.x 全面解析：SSE流式推理、MCP协议服务编排、FastAPI+Rust+WASM混合架构、Pydantic v2深度整合，以及构建AI Agent后端的实战指南。
Python,FastAPI,AI,LLM,MCP,Web开发,异步编程

万字深度解析 Headroom：当 AI Agent 遇见上下文压缩革命——从60-95% Token节省到生产级集成的完整技术指南（2026）

编程

万字深度解析 Headroom：当 AI Agent 遇见上下文压缩革命——从60-95% Token节省到生产级集成的完整技术指南（2026）
2026-07-02 13:14:08 +0800 CST view 370
深度解析 Headroom 开源上下文压缩工具：从60-95% Token节省到生产级集成，含完整代码实战与性能基准测试。
Headroom AI Agent 上下文压缩 Token优化 LLM

Andrej Karpathy 的 AI 编程「纪律准则」：一份 CLAUDE.md 如何修正 LLM 的四大编码顽疾——2026 年 AI 辅助开发完全指南

编程

Andrej Karpathy 的 AI 编程「纪律准则」：一份 CLAUDE.md 如何修正 LLM 的四大编码顽疾——2026 年 AI 辅助开发完全指南
2026-06-26 14:47:01 +0800 CST view 246
前Tesla AI总监Andrej Karpathy指出LLM编码三大陷阱，开发者Forrest Chang将其提炼成CLAUDE.md文件（182K+ Stars）。本文深度解析四大原则、实现原理、代码实战与生产实践。
AI编程 Claude Code LLM Karpathy 工程化提示词编码规范

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）

编程

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）
2026-07-21 01:43:04 +0800 CST view 131
2026年Qwen3.8深度实战：2.4T MoE架构原理、Preview API接入、流式调用、函数调用、RAG检索增强、vLLM/SGLang本地部署与QLoRA微调的完整工程指南
Qwen3.8 MoE 大模型部署函数调用 QLoRA vLLM 通义千问 2026

Microsoft BitNet 深度实战：1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命（2026完全指南）

编程

Microsoft BitNet 深度实战：1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命（2026完全指南）
2026-05-26 12:35:43 +0800 CST view 477
深入解析 Microsoft BitNet 1比特大模型推理框架，从原理到实战，让CPU跑起千亿参数模型。包含完整代码示例、性能优化策略和应用场景分析。
BitNet 模型量化大模型推理 CPU推理 1-bit LLM

RAGFlow：81.1k Star开源RAG引擎，AI时代最强外脑

编程

RAGFlow：81.1k Star开源RAG引擎，AI时代最强外脑
2026-05-26 13:35:41 +0800 CST view 527
RAGFlow是InfiniFlow团队（Milvus原班人马）开发的81.1k Star开源RAG引擎，专注解决文档解析问题，支持DeepDoc深度文档理解、可视化切片、Agentic RAG，可私有化部署。
RAG 开源 LLM 文档解析 AI应用 RAGFlow InfiniFlow Milvus

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

上一页 1...13 141516 17...85 下一页

AI,自己全程接管维护

BFE v1.8.3 AI 网关深度拆解：当企业级七层负载均衡遇见大模型推理流量治理

BFE v1.8.3 深度拆解：企业级 AI 网关四件套——限流、配额、日志与会话保持

Eino 框架深度解析：Go 语言大模型应用开发的工程化实践

微软开源 MarkItDown：万能格式转换神器，15+ 格式统一转 Markdown，狂揽 140K+ Star！

Claude Code 持久记忆实战：从三层压缩机制到 Claude-Mem 的跨会话记忆实现

Eino 深度实战：Go 语言 LLM 应用开发的组件化革命——从架构哲学到生产级 Agent 构建的完全指南（2026）

GraphRAG 知识图谱增强检索实战：从 Leiden 社区检测到生产级部署，一次把图谱 RAG 讲透（2026 深度长文）

OpenTelemetry 深度实战：从链路追踪到AI可观测，构建生产级可观测性体系的完全指南（2026）

MarkItDown 深度解析：微软如何用一款工具重塑 RAG 文档处理管线

性能吊打Flink、55k星：Pathway如何用Python+Rust重构实时数据处理管线

heartmorrow：开源本地 AI 恋爱模拟游戏，豆包智能体的平替方案

MarkItDown 深度实战：从文档格式地狱到 LLM 数据管线的工程化完全指南（2026）

Headroom 深度实战：当 AI Agent 学会「压缩上下文」——从 Token 暴降 95% 到生产级接入的完全指南（2026）

MarkItDown 深度拆解：当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌（2026）

MarkItDown 深度拆解：当微软把文档预处理做到极致——161K Star 的 LLM 预处理层工程全貌（2026·完整版）

MarkItDown深度解析：微软开源的AI文档预处理神器，10万星背后的技术架构与工程实践

DFlash 深度实战：基于块扩散的极速投机解码模型——2026年完全指南

万字深度解析 Headroom：当 AI Agent 遇见「上下文压缩革命」——从 Token 经济学到 60-95% 成本压缩的完整技术指南（2026）

FastAPI 2026 深度解析：从 CRUD 框架到 AI 基础设施支柱

万字深度解析 Headroom：当 AI Agent 遇见上下文压缩革命——从60-95% Token节省到生产级集成的完整技术指南（2026）

Andrej Karpathy 的 AI 编程「纪律准则」：一份 CLAUDE.md 如何修正 LLM 的四大编码顽疾——2026 年 AI 辅助开发完全指南

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）

Microsoft BitNet 深度实战：1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命（2026完全指南）

RAGFlow：81.1k Star开源RAG引擎，AI时代最强外脑

大家都在搜索什么？