程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
一库双引擎:PostgreSQL 融合 DuckDB 列存的工程实践与性能调优
编程
一库双引擎:PostgreSQL 融合 DuckDB 列存的工程实践与性能调优
2026-07-25 11:17:44 +0800 CST
view 88
从火山模型到向量化执行的演进之路,深度解析PostgreSQL融合DuckDB列式引擎的架构设计、查询路由策略与生产调优实战,附完整代码示例与性能对比数据。
PostgreSQL
DuckDB
数据库架构
列式存储
SIMD加速
当 Zig 遇见 2026:Ghostty 如何用 16.5K Star 证明系统编程的另一种可能
编程
当 Zig 遇见 2026:Ghostty 如何用 16.5K Star 证明系统编程的另一种可能
2026-07-01 17:15:56 +0800 CST
view 948
深度解析Ghostty用Zig构建高性能终端的技术架构,探讨Zig在2026年的真实状态——Bun离开反而更强大的原因。含完整代码示例和性能对比。
Zig
Ghostty
终端模拟器
系统编程
Rust
GPU加速
开源
DuckDB 深度解析:嵌入式 OLAP 的性能之王——从列式存储到 GPU 加速的完整技术内幕
编程
DuckDB 深度解析:嵌入式 OLAP 的性能之王——从列式存储到 GPU 加速的完整技术内幕
2026-05-18 05:16:02 +0800 CST
view 811
深度解析 DuckDB 嵌入式 OLAP 数据库的核心技术:列式存储、自适应编码、向量化执行引擎、MVCC 事务模型,以及 AliSQL 集成和 Sirius GPU 加速等最新技术突破。
DuckDB
OLAP
数据库
性能优化
GPU加速
万字深度解析 eBPF 技术栈:当 Linux 内核遇见现代云原生——从 Cilium 网络加速到 Tetragon 安全观测的完整技术指南(2026)
编程
万字深度解析 eBPF 技术栈:当 Linux 内核遇见现代云原生——从 Cilium 网络加速到 Tetragon 安全观测的完整技术指南(2026)
2026-07-02 03:44:26 +0800 CST
view 217
2026年eBPF已成为云原生基础设施核心支柱。深度解析Cilium的eBPF网络加速架构、Tetragon的运行时安全观测能力,提供完整代码实战和生产级部署指南。
eBPF
Cilium
Tetragon
云原生
Kubernetes
Linux内核
网络加速
安全观测
eBPF技术
Cilium网络
18年老用户的"决裂宣言":Ghostty 如何用 Zig + GPU 加速重新定义终端模拟器——从架构设计到 GitHub 迁移的全链路深度解析
编程
18年老用户的"决裂宣言":Ghostty 如何用 Zig + GPU 加速重新定义终端模拟器——从架构设计到 GitHub 迁移的全链路深度解析
2026-05-05 18:35:35 +0800 CST
view 935
深入剖析 Ghostty 终端模拟器的技术架构,以及其作者 Mitchell Hashimoto 决定将项目迁出 GitHub 的深层原因。从 Zig 语言选型到 GPU 渲染优化,全面解析这个 5.2 万 Star 项目的核心技术。
Zig
终端模拟器
GPU加速
GitHub迁移
系统编程
开源项目
turbovec 深度实战:当 Google 把向量索引做到「内存极简」——从 TurboQuant 算法到生产级 Rust SIMD 检索引擎的完全指南(2026)
编程
turbovec 深度实战:当 Google 把向量索引做到「内存极简」——从 TurboQuant 算法到生产级 Rust SIMD 检索引擎的完全指南(2026)
2026-06-14 14:51:19 +0800 CST
view 646
基于 Google Research ICLR 2026 TurboQuant 算法,深度拆解 turbovec 如何用 4-bit 量化将向量索引内存压缩 16 倍,同时搜索速度超越 FAISS。涵盖算法原理、Rust SIMD 内核、过滤搜索与生产级 RAG 集成。
Rust
SIMD
向量检索
TurboQuant
turbovec
向量量化
RAG
FAISS
PyO3
SIMD加速
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
编程
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
2026-05-28 21:06:26 +0800 CST
view 570
Newton是由Disney Research、Google DeepMind和NVIDIA联合开发的开源GPU加速物理仿真引擎,支持多物理场仿真、可微分仿真和大规模并行RL训练。
Newton
NVIDIA Warp
物理仿真
机器人
GPU加速
MuJoCo
开源项目
AMD Zen 7 Florence 深度解析:ACE 指令集如何让 x86 芯片在 AI 时代绝地反击
编程
AMD Zen 7 Florence 深度解析:ACE 指令集如何让 x86 芯片在 AI 时代绝地反击
2026-07-26 14:44:50 +0800 CST
view 77
深度解析AMD Zen 7 Florence处理器中的ACE AI计算扩展指令集:与英特尔AMX的架构差异、288核规格、2nm工艺、MRDIMM/LPDDR6内存、开发者编程实战,以及对AI基础设施格局的影响。
Zen 7
Florence
ACE指令集
AMD AI
AMX对比
矩阵乘法
CPU AI加速
EPYC 2028
Qdrant 深度实战:当 Rust 遇上向量搜索——从 HNSW 算法到 GPU 加速、从 RAG 流水线到生产级集群部署的完全指南(2026)
编程
Qdrant 深度实战:当 Rust 遇上向量搜索——从 HNSW 算法到 GPU 加速、从 RAG 流水线到生产级集群部署的完全指南(2026)
2026-06-20 05:24:02 +0800 CST
view 356
2026 年,向量数据库已经从「AI 玩具」进化为「生产基础设施」。本文从 HNSW 算法原理、Rust 架构优势、稀疏向量混合检索,到 Python/Go/Rust 客户端实战、RAG 流水线搭建、GPU 加速索引、Docker/K8s 生产部署,全方位拆解 Qdrant 向量数据库。
Qdrant
向量数据库
Rust
RAG
HNSW
GPU加速
Python
机器学习
AMD Zen 7 Florence ACE 指令集深度解析:x86 的 AI 自我革命
编程
AMD Zen 7 Florence ACE 指令集深度解析:x86 的 AI 自我革命
2026-07-26 14:46:05 +0800 CST
view 120
深度解析AMD Zen 7 Florence处理器中的ACE AI计算扩展指令集:与英特尔AMX的架构差异、288核规格、2nm工艺、MRDIMM/LPDDR6内存、开发者编程实战,以及对AI基础设施格局的影响。
Zen 7
Florence
ACE指令集
AMD AI
AMX对比
矩阵乘法
CPU AI加速
EPYC 2028
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
编程
2026 大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
2026-07-23 08:13:30 +0800 CST
view 127
2026年四大主流大模型推理框架深度对比:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从核心技术优化、吞吐量延迟、算力成本、部署适配性四大维度开展极致测评,为企业技术选型提供精准参考。
vLLM
TensorRT-LLM
TGI
DeepSpeed-MII
大模型推理
PagedAttention
FlashAttention
量化推理
GPU推理优化
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 282
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 429
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
编程
Cloudflare 统一推理层深度实战:当一个API连通12家供应商70+模型——从AI Gateway到边缘智能体、从自动故障转移到多模态推理的生产级完全指南(2026)
2026-06-22 04:23:24 +0800 CST
view 418
2026年4月Cloudflare发布统一推理层,一个API连通12家供应商70+模型。本文深度解析AI Gateway架构、边缘推理优化、多模态支持、智能体集成,附带完整代码示例,打造生产级AI应用。
Cloudflare
AI推理
边缘计算
AI Gateway
统一推理层
AI基础设施
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
编程
OpenAI Jalapeño 深度解析:9个月流片的AI推理芯片如何把成本砍掉一半,英伟达GPU帝国的裂痕
2026-06-29 21:14:35 +0800 CST
view 319
深度解析OpenAI首款自研AI推理芯片Jalapeño:9个月流片、推理成本降低50%、每瓦性能超越英伟达GPU。从架构设计、内存优化、数据流优化到产业链合作,全方位解读这款芯片如何重塑AI推理市场格局。
OpenAI
Jalapeño
AI芯片
ASIC
推理芯片
英伟达
GPU
博通
Broadcom
LLM推理
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 765
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 168
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
编程
vLLM 0.5 深度拆解:当 PagedAttention 重塑 LLM 推理内存——从 OS 分页思想到 MoE 分布式推理的工程全貌(2026)
2026-07-18 13:17:37 +0800 CST
view 149
深度拆解 vLLM 0.5 的 PagedAttention 核心原理、连续批处理架构、MoE 推理优化、分布式部署策略,以及 2026 年四大推理框架生产级性能横评。
vLLM
PagedAttention
LLM推理
ContinuousBatching
MoE
FusedMoE
量化
分布式推理
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
编程
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 +0800 CST
view 621
深度解析 Redis 之父 antirez 最新开源项目 ds4(DwarfStar):一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署,完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎
DeepSeek
本地推理
系统编程
开源项目
C语言
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 759
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
编程
2026大模型推理框架年度横评:vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST
view 669
深度横评2026年四大主流大模型推理框架,涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术,配实测数据与生产级选型指南
大模型
LLM
推理框架
vLLM
TensorRT-LLM
TGI
DeepSpeed
GPU推理
AI部署
NVIDIA
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
2026-07-02 08:42:52 +0800 CST
view 283
深度解析 LMCache 开源项目:LLM 推理 KV 缓存管理层,涵盖架构设计、多级存储、Multiprocess 模式、非前缀复用、PD 拆分等核心技术,15+ 可运行代码示例。
LMCache
LLM推理
KV缓存
vLLM
SGLang
AI推理优化
GPU优化
分布式缓存
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
编程
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
2026-05-26 12:35:43 +0800 CST
view 500
深入解析 Microsoft BitNet 1比特大模型推理框架,从原理到实战,让CPU跑起千亿参数模型。包含完整代码示例、性能优化策略和应用场景分析。
BitNet
模型量化
大模型推理
CPU推理
1-bit LLM
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 148
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
...
10
下一页