程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
编程
vLLM 0.5 深度解析:PagedAttention 架构原理与生产级 LLM 推理优化实战
2026-07-04 18:15:46 +0800 CST
view 297
深度解析 vLLM 0.5 的 PagedAttention 架构原理,涵盖 KV Cache 分页管理、MoE 优化、分布式推理、量化技术,并通过代码实战和性能对比,帮助开发者掌握生产级 LLM 推理最佳实践。
vLLM
PagedAttention
LLM推理
CUDA
KV Cache
深度学习
AI基础设施
Python
生产部署
性能优化
Go 1.25 深度解读:Green Tea GC 与 JSON v2 如何重新定义 Go 的性能天花板
编程
Go 1.25 深度解读:Green Tea GC 与 JSON v2 如何重新定义 Go 的性能天花板
2026-06-29 06:43:55 +0800 CST
view 232
Go 1.25 正式版深度解读:Green Tea 分代 GC 如何降低 40% 内存占用,encoding/json/v2 如何实现 5 倍性能飞跃。附完整 Benchmark 数据与迁移指南。
Go
Golang
GC
JSON
性能优化
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 297
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
Sealtun深度实战:基于Kubernetes和WebSocket的安全隧道——从OAuth2登录到公网暴露的完全指南(2026)
编程
Sealtun深度实战:基于Kubernetes和WebSocket的安全隧道——从OAuth2登录到公网暴露的完全指南(2026)
2026-06-01 15:55:50 +0800 CST
view 621
深度剖析Sealtun——基于Kubernetes和WebSocket的安全隧道工具,从OAuth2设备流无密码登录到公网暴露,包含完整代码示例、架构分析、性能优化和生产级部署实践。
Sealtun
Kubernetes
WebSocket
OAuth2
云原生
内网穿透
TypeScript 7.0 深度实战:当微软用 Go 语言重写编译器——14年来最重大的底层革命与开发者生存指南(2026)
编程
TypeScript 7.0 深度实战:当微软用 Go 语言重写编译器——14年来最重大的底层革命与开发者生存指南(2026)
2026-06-21 17:25:50 +0800 CST
view 566
2026年6月18日微软发布TypeScript 7.0 RC,编译器从TypeScript自举迁移到Go,性能提升10倍。本文深度解析Go重写技术原理、性能数据、生态影响与实战指南。
TypeScript
TypeScript7
Go语言
编译器重构
性能优化
Microsoft
LSP
Redis 8 深度实战:当 antirez 亲手写下 Vector Set,Redis 如何长成内存里的多模型数据库
编程
Redis 8 深度实战:当 antirez 亲手写下 Vector Set,Redis 如何长成内存里的多模型数据库
2026-07-10 19:43:38 +0800 CST
view 155
深度拆解 Redis 8 的多模型进化:Vector Set 向量检索、原生 JSON、Bloom/Cuckoo/CMS/Top-K/T-Digest 概率结构、TimeSeries 与统一查询引擎,配可运行代码与 RAG 语义缓存实战。
Redis 8
Vector Set
向量数据库
RedisJSON
概率数据结构
RAG
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
编程
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
2026-07-23 08:13:30 +0800 CST
view 65
2026年四大主流大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从核心技术优化、吞吐量延迟、算力成本、部署适配性四大维度开展极致测评,为企业技术选型提供精准参考。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
PagedAttention
FlashAttention
量化推理
GPU推理优化
MCP协议深度解析:从架构原理到AI Agent实战开发
编程
MCP协议深度解析:从架构原理到AI Agent实战开发
2026-07-05 09:42:31 +0800 CST
view 202
从协议规范、架构设计、通信机制到Python/TypeScript双语言实战,彻底搞懂MCP——不只是比喻,而是能落地到生产环境的完整开发指南。
MCP
AI Agent
Model Context Protocol
JSON-RPC
Python
TypeScript
MarkItDown 深度实战:微软开源文档转换工具终结 RAG 数据准备之痛——从 PDF 到 Markdown 的生产级完全指南(2026)
编程
MarkItDown 深度实战:微软开源文档转换工具终结 RAG 数据准备之痛——从 PDF 到 Markdown 的生产级完全指南(2026)
2026-06-10 17:46:59 +0800 CST
view 248
微软开源的 MarkItDown 工具如何解决 RAG 数据准备的核心痛点,深度解析 PDF、Word、Excel 等文档格式转换的生产级实践
MarkItDown
RAG
PDF
python
Microsoft
文档转换
TypeScript 7.0 深度拆解:当 Anders Hejlsberg 用 Go 语言重写 TypeScript 编译器——编译器工程的「奇点时刻」
编程
TypeScript 7.0 深度拆解:当 Anders Hejlsberg 用 Go 语言重写 TypeScript 编译器——编译器工程的「奇点时刻」
2026-07-17 12:16:02 +0800 CST
view 133
深度拆解 TypeScript 7.0:微软用 Go 语言重写编译器的完整技术分析。230万行代码的 VS Code 编译从 125 秒降至 10.6 秒,提升 11.9 倍。覆盖选型逻辑、共享内存多线程架构、性能根因与生态影响。
TypeScript
Go
编译器
前端
性能优化
编程语言
Microsoft
编程
MarkItDown 深度实战:微软 AutoGen 团队开源的万能文档转 Markdown 引擎——从四层架构到 LLM/RAG 生产级集成的完全指南(2026)
2026-06-02 08:52:38 +0800 CST
view 502
微软AutoGen团队开源的MarkItDown能将PDF、Word、PPT、Excel、图片、音频等20+格式一键转为LLM友好的结构化Markdown。本文从四层架构、源码解析、代码实战、性能优化到生产级部署,彻底拆解这一11.9万星开源项目的核心技术。
MarkItDown
Microsoft
文档转换
Markdown
LLM
RAG
AutoGen
Python
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 610
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
tinyauth:Go 认证中间件,环境变量搞定反向代理 SSO,7K Star
编程
tinyauth:Go 认证中间件,环境变量搞定反向代理 SSO,7K Star
2026-07-11 08:43:10 +0800 CST
view 163
tinyauth是Go编写的极简认证授权服务器,静态二进制+环境变量配置+SQLite存储,支持本地/OAuth/LDAP/TOTP/OIDC,Traefik/Caddy/Nginx/Envoy通吃,Forward Auth机制统一自托管应用SSO。
Go
认证
tinyauth
SSO
反向代理
OAuth
LDAP
OIDC
自托管
开源
Trae SOLO 深度实战:从 AI 辅助编程到自主交付——字节跳动 AI 原生 IDE 的架构革命与生产级实践
编程
Trae SOLO 深度实战:从 AI 辅助编程到自主交付——字节跳动 AI 原生 IDE 的架构革命与生产级实践
2026-05-23 03:46:21 +0800 CST
view 591
深度解析 Trae SOLO 模式的架构设计与生产级实践,从 Chat 到 SOLO 的三层演进、主 Agent + 子 Agent 协同机制、MCP 接入、多模型编排、性能优化技巧、CI/CD 集成等实战内容,附带完整项目演练。
Trae
SOLO模式
AI编程
字节跳动
Agent
自主开发
MCP 2026-07 规范深度解析:从工具调用协议到生产级 Agent 基础设施
编程
MCP 2026-07 规范深度解析:从工具调用协议到生产级 Agent 基础设施
2026-07-23 18:45:50 +0800 CST
view 60
深度解析MCP 2026-07规范核心变化:无状态核心、能力发现与治理、任务体系、结构化交付,以及企业级落地实践。程序员视角的技术指南。
MCP
Model Context Protocol
AI Agent
A2A
协议
生产级
无状态
JSON Schema
链路追踪
企业级
SpacetimeDB 深度实战:当数据库成为服务器——从"光速开发"到生产级实时应用的完全指南(2026)
编程
SpacetimeDB 深度实战:当数据库成为服务器——从"光速开发"到生产级实时应用的完全指南(2026)
2026-06-11 02:45:57 +0800 CST
view 301
SpacetimeDB 是一款创新的实时数据库,它颠覆了传统"服务器+数据库"架构,让数据库同时成为服务器。本文深入讲解 SpacetimeDB 的核心概念、Rust 模块开发、实时数据同步原理、性能优化技巧以及生产级部署方案,并通过实战案例展示如何构建实时协作应用。
SpacetimeDB
Rust
实时数据库
数据库即服务器
WebSocket
Trae 深度解析:字节跳动如何用 SOLO 模式重新定义 AI 原生 IDE
编程
Trae 深度解析:字节跳动如何用 SOLO 模式重新定义 AI 原生 IDE
2026-05-10 13:24:55 +0800 CST
view 917
Trae 是字节跳动推出的 AI 原生 IDE,以 SOLO 模式为核心,实现从「辅助编码」到「自主协作」的范式转变。本文深入解析其技术架构、SOLO Coder 与 SOLO Builder 双智能体、MTC 模式、MCP 插件生态,并与 Cursor、GitHub Copilot、Windsurf 等竞品进行全面对比。
Trae,AI编程,字节跳动,SOLO模式,IDE,AI原生
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
编程
大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
2026-07-11 13:14:24 +0800 CST
view 205
深度拆解2026年四大主流LLM推理框架(vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9)的技术内核,通过统一性能基准测试,量化对比吞吐量、延迟、成本等核心指标,提供不同场景的技术选型建议和实战代码示例。
大模型
推理优化
vLLM
TensorRT
性能调优
成本控制
生产部署
谷歌 LiteRT.js 深度实战:当 WebAssembly + WebGPU 重写 TensorFlow.js 的心脏,浏览器 AI 推理提速 3 倍背后的技术真相
编程
谷歌 LiteRT.js 深度实战:当 WebAssembly + WebGPU 重写 TensorFlow.js 的心脏,浏览器 AI 推理提速 3 倍背后的技术真相
2026-07-11 14:16:10 +0800 CST
view 234
2026年7月谷歌发布LiteRT.js,用WebAssembly+WebGPU/WebNN替代TensorFlow.js的JavaScript内核,M4 MacBook Pro上推理速度提升3倍。本文深度拆解架构设计、性能优化原理、迁移路径与实战代码。
LiteRT.js
WebGPU
WebNN
WebAssembly
TensorFlow.js
浏览器AI
机器学习
前端
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
编程
LiteRT-LM:Google端侧大模型推理引擎的革命性架构——从TensorFlow Lite的困境到LLM原生推理的全链路解析
2026-04-19 22:17:39 +0800 CST
view 983
深入解析Google LiteRT-LM端侧LLM推理引擎的核心架构:分层内存池、KV Cache量化、算子融合、WebGPU运行时。与TensorFlow Lite、llama.cpp、MLX横向对比,提供生产级部署实战指南。
Google
端侧AI
LiteRT-LM
WebGPU
量化
KV Cache
TensorFlow Lite
LLM推理
Go 1.27 test2json新增OutputType:CI终于能区分测试日志和报错了
编程
Go 1.27 test2json新增OutputType:CI终于能区分测试日志和报错了
2026-05-23 07:18:39 +0800 CST
view 458
Go 1.27为test2json新增OutputType字段,通过控制字符标记协议区分t.Log普通输出和t.Error错误输出,CI系统终于能准确提取测试失败摘要,完全向后兼容。
Go语言
Go1.27
testing
test2json
CI
工程实践
持续集成
Trae SOLO 深度实战:当 AI 智能体接管开发全流程——从 SOLO Coder 双智能体架构到生产级 AI 原生编程的完全指南(2026)
编程
Trae SOLO 深度实战:当 AI 智能体接管开发全流程——从 SOLO Coder 双智能体架构到生产级 AI 原生编程的完全指南(2026)
2026-06-11 06:17:44 +0800 CST
view 483
深度拆解字节跳动 Trae SOLO 的双智能体架构,从 SOLO Coder/Builder 原理到生产级全栈应用实战,涵盖 Agent 编排、上下文压缩、模型路由、CUE 预测等核心技术
Trae
SOLO
AI编程
智能体
字节跳动
IDE
Agent
代码生成
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
编程
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
2026-04-30 14:21:13 +0800 CST
view 563
深度解析MCP 2026基准测试框架,拆解TensorRT-LLM、vLLM、Triton三大推理引擎的12个隐性耗时陷阱,提供可落地的诊断方法与修复路径。
AI推理
性能优化
TensorRT-LLM
vLLM
Triton
MCP2026
GPU优化
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
编程
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
2026-06-16 23:24:43 +0800 CST
view 281
深度对比四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从PagedAttention架构原理、FlashAttention优化、量化支持到生产级部署实战,包含统一环境下的性能测试数据与代码示例,帮助你做出最优选型决策。
LLM
推理框架
vLLM
TensorRT
DeepSpeed
性能优化
AI
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
8
9
10
11
12
...
26
下一页