程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
编程
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
2026-07-01 03:42:17 +0800 CST
view 262
2026年6月百度开源Unlimited OCR,5天GitHub Star破万。深度解析R-SWA注意力机制、MoE架构、16倍视觉Token压缩,以及为何能将KV Cache从线性增长压成常数。
Unlimited OCR
OCR
R-SWA
MoE
百度
深度学习
计算机视觉
文档识别
KV Cache
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 528
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
编程
万字深度解析 Nano-vLLM:当1200行Python代码重构大模型推理——从架构设计到性能超越vLLM的完整技术指南(2026)
2026-07-01 14:44:55 +0800 CST
view 219
Nano-vLLM:用约1200行Python代码实现的轻量级vLLM替代方案。深度解析KV Cache管理、GQA注意力、RoPE位置编码、Continuous Batching等核心技术,Benchmark性能超越vLLM 5.3%。适合学习大模型推理原理和内网轻量级部署。
Nano-vLLM
大模型推理
LLM
Tensor Parallelism
KV Cache
Continuous Batching
Python
PyTorch
Qwen2
开源项目
2026年7月安全漏洞风暴:Linux内核16年零日 + AI Agent供应链危机——一次把网络安全新战场讲透
编程
2026年7月安全漏洞风暴:Linux内核16年零日 + AI Agent供应链危机——一次把网络安全新战场讲透
2026-07-13 11:48:21 +0800 CST
view 104
深度拆解2026年7月重磅安全事件:Linux内核潜伏16年的KVM虚拟机逃逸漏洞Januscape(CVE-2026-53359)、AI Agent工作流供应链漏洞GitLost、工信部AI编程工具安全预警、ColdFusion光速武器化漏洞CVE-2026-48282,配真实PoC与完整防御策略。
安全
漏洞
Linux内核
KVM
AI编程工具
提示词注入
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
2026-07-02 08:42:52 +0800 CST
view 237
深度解析 LMCache 开源项目:LLM 推理 KV 缓存管理层,涵盖架构设计、多级存储、Multiprocess 模式、非前缀复用、PD 拆分等核心技术,15+ 可运行代码示例。
LMCache
LLM推理
KV缓存
vLLM
SGLang
AI推理优化
GPU优化
分布式缓存
Cloudflare Workers 临时部署模式深度实战:一条命令重塑开发者体验,60分钟全栈沙盒背后的技术架构
编程
Cloudflare Workers 临时部署模式深度实战:一条命令重塑开发者体验,60分钟全栈沙盒背后的技术架构
2026-06-26 10:17:04 +0800 CST
view 346
2026年Cloudflare Workers推出wrangler deploy temporary功能,零账号零配置一条命令10秒全栈部署到全球300+边缘节点。本文深度解析其技术架构、隐式资源创建、凭证生命周期管理、安全隔离机制,并提供完整的代码实战指南。
Cloudflare
Workers
Serverless
wrangler
开发者体验
D1
KV
Durable Objects
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
编程
从PagedAttention到Prefix Caching:2026年LLM推理KV Cache优化工程实践
2026-07-07 16:15:25 +0800 CST
view 101
深入解析2026年大模型推理中的KV Cache优化技术栈:从PagedAttention虚拟分页管理、Prefix Caching缓存复用、Speculative Decoding并行验证,到INT8量化与Continuous Batching生产实践,配合代码示例与性能对比,助你系统性掌握LLM推理优化的核心要领。
LLM
KV Cache
PagedAttention
Prefix Caching
vLLM
推理优化
Speculative Decoding
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
2026-06-13 20:17:57 +0800 CST
view 495
Redis之父antirez新作DwarfStar 4深度解析:专为DeepSeek V4 Flash打造的本地推理引擎,非对称2-bit量化、磁盘KV缓存、Metal图执行、分布式推理、方向引导,MacBook上284B模型跑出26 tok/s的完全指南
ds4
DwarfStar
DeepSeek
本地推理
Metal
MoE
量化
KV缓存
万字深度解析 DragonOS:当 Rust 遇见云原生操作系统——从自研内核到 Linux 二进制兼容的完整技术指南(2026)
编程
万字深度解析 DragonOS:当 Rust 遇见云原生操作系统——从自研内核到 Linux 二进制兼容的完整技术指南(2026)
2026-07-02 11:47:05 +0800 CST
view 248
深度解析 DragonOS——2026年最值得关注的国产 Rust 操作系统内核项目:20万行代码、72位开发者、国内率先 eBPF 支持,从架构设计、eBPF 虚拟机、KVM 虚拟化、Linux 兼容性到构建运行,提供完整技术指南。
DragonOS
Rust
操作系统
云原生
eBPF
KVM
Linux兼容
容器化
开源
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
编程
万字深度解析 LMCache:当 KV Cache 遇见分布式存储革命——从常数级显存到千亿Token并发的完整技术指南(2026)
2026-07-02 13:46:08 +0800 CST
view 259
深度解析 LMCache 开源 KV Cache 管理层项目:从三层存储架构、多后端支持、Disaggregated Prefill、CacheBlend、Segmented Prefill、P2P 共享到 Kubernetes 生产级部署的完整技术指南,含性能基准测试与代码实战
LMCache
KV Cache
LLM
vLLM
分布式
RDMA
Kubernetes
推理优化
Redis
NIXL
万字深度解析 CubeSandbox:当 AI Agent 遇见微虚拟机革命——从 KVM 硬件隔离到亚秒级启动的完整技术指南(2026)
编程
万字深度解析 CubeSandbox:当 AI Agent 遇见微虚拟机革命——从 KVM 硬件隔离到亚秒级启动的完整技术指南(2026)
2026-07-02 17:44:52 +0800 CST
view 241
深度解析 CubeSandbox 开源 AI Agent 安全沙箱:基于 RustVMM 和 KVM 的硬件级隔离,<60ms 冷启动,CubeCoW 快照引擎,E2B 无缝兼容,凭证保险库与零信任架构,含完整代码实战。
CubeSandbox
AI Agent
沙箱
KVM
RustVMM
微服务
安全
E2B
硬件虚拟化
Copy-on-Write
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
编程
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
2026-07-02 18:16:20 +0800 CST
view 425
深度解析百度 Unlimited OCR 的 R-SWA 参考滑动窗口注意力机制,将 KV Cache 从线性增长压至常数级;3B MoE 解码器架构、DeepEncoder 视觉编码器;完整本地部署代码、KV Cache 监控脚本与 SGLang 生产推理优化指南。OmniDocBench v1.6 综合得分 93.92%,端到端 OCR 新 SOTA。
OCR
R-SWA
KV Cache
MoE
百度
长文档解析
Transformer
深度学习
Python
性能优化
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 121
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
DwarfStar 4 深度实战:当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南(2026)
2026-06-14 09:48:41 +0800 CST
view 673
Redis之父antirez的ds4项目深度解析:非对称2-bit量化、磁盘KV缓存一等公民、session_sync增量推理、方向引导、分布式推理的工程实战指南
ds4
DwarfStar
本地推理
DeepSeek
MoE
KV缓存
antirez
Metal
量化
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见 KV Cache 革命——从 TTFT 优化到跨引擎 KV 复用、从 GPU/CPU/Disk 三级存储到分布式 P2P 共享的完整技术指南(2026)
2026-07-03 03:14:31 +0800 CST
view 194
深度解析LMCache KV Cache管理层:从TTFT优化原理、GPU/CPU/Disk三级存储架构、跨引擎KV复用、分布式P2P共享,到与vLLM深度集成的生产级部署实战,含完整代码和性能调优指南。
LMCache
LLM推理
KV Cache
vLLM
TTFT优化
GPU优化
AI推理加速
分布式缓存
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
编程
百度 Unlimited OCR 深度解读:R-SWA 如何将 KV Cache 压成常数,5天 GitHub Star 破万的端到端 OCR 新范式
2026-06-27 09:15:20 +0800 CST
view 169
百度开源 Unlimited OCR,5天 GitHub Star 破万。本文深度解析其核心创新 R-SWA(Reference Sliding Window Attention),如何将解码器 KV Cache 从线性增长压成常数,OmniDocBench v1.6 刷榜 SOTA(93.92%),30B 总参/5B 激活,32K 超长上下文,一次前向全稿转录,附完整代码实战。
Unlimited OCR
R-SWA
KV Cache
MoE
端到端 OCR
百度
深度学习
Transformer
文档识别
OCR
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
编程
LLM推理引擎深度实战:从PagedAttention到生产级部署,万字长文吃透2026年最关键的AI基础设施
2026-06-27 12:44:29 +0800 CST
view 278
2026年LLM推理引擎深度实战:从PagedAttention、连续批处理、量化技术到生产级K8s部署,万字长文覆盖vLLM、SGLang、TensorRT-LLM、TGI四大框架架构原理与实测对比
LLM推理
vLLM
PagedAttention
SGLang
推理优化
TensorRT-LLM
生产部署
KV Cache
量化
Valkey 9 深度实战:当 Redis 闭源引发分叉,Linux 基金会的 KV 引擎如何用多线程 I/O 与原子槽迁移重写内存数据库的扩展性心智模型
编程
Valkey 9 深度实战:当 Redis 闭源引发分叉,Linux 基金会的 KV 引擎如何用多线程 I/O 与原子槽迁移重写内存数据库的扩展性心智模型
2026-07-15 06:12:32 +0800 CST
view 139
从工程师视角深度拆解 Valkey 9:多线程 I/O 引擎、原子槽迁移、哈希字段过期、集群编号库、GLIDE 多语言客户端、压测调优与 Redis 迁移清单,配可运行代码。
Valkey
Valkey 9
内存数据库
Redis 分叉
KV 存储
多线程 I/O
原子槽迁移
百万上下文从「奢侈品」变「日用品」:DeepSeek V4 CSA/HCA 混合注意力架构深度解析
编程
百万上下文从「奢侈品」变「日用品」:DeepSeek V4 CSA/HCA 混合注意力架构深度解析
2026-07-21 16:47:21 +0800 CST
view 91
深度解析 DeepSeek V4 的 CSA/HCA 混合注意力架构,涵盖压缩稀疏注意力、重度压缩注意力、流形约束超连接等核心创新,配有 Python 代码示例与工程价值判断。
DeepSeek
V4
CSA
HCA
注意力机制
MoE
KV缓存
长上下文
大模型架构
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
编程
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
2026-07-15 08:45:14 +0800 CST
view 144
从工程师视角深度拆解 Ollama 与本地大模型推理引擎:GGUF 单文件格式、K-quant/IQ-quant 量化家族、内存带宽墙、llama.cpp 计算图与 KV Cache,配 Modelfile、Python/Go 流式客户端与自量化实战。
Ollama
llama.cpp
GGUF
本地推理
大模型量化
KV Cache
Valkey 深度实战:当 Redis 遇上「开源觉醒」——从许可证风暴到每秒 100 万次请求的生产级完全指南(2026)
编程
Valkey 深度实战:当 Redis 遇上「开源觉醒」——从许可证风暴到每秒 100 万次请求的生产级完全指南(2026)
2026-06-14 22:47:13 +0800 CST
view 465
2024年Redis许可证变更引发开源社区地震,Linux基金会联合腾讯、AWS等创建Valkey项目。本文深度解析Valkey 8.0的异步IO线程、数据预取、内存访问分摊等核心技术,实战演示从Redis无缝迁移到Valkey的全过程,并实测单节点突破100万QPS的性能调优完全指南。
Valkey
Redis
KV存储
高性能
许可证
开源
异步IO
数据预取
Linux基金会
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
编程
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
2026-06-08 22:52:24 +0800 CST
view 555
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 336
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
Valkey 8.0 深度解析:当开源 KV 存储遇见异步 I/O 革命——从 3 倍性能反杀到生产级集群架构的完整技术指南(2026)
编程
Valkey 8.0 深度解析:当开源 KV 存储遇见异步 I/O 革命——从 3 倍性能反杀到生产级集群架构的完整技术指南(2026)
2026-07-03 14:46:18 +0800 CST
view 213
深度解析 Valkey 8.0:Redis 社区分叉、异步 I/O 线程池、3 倍性能提升、生产级集群架构、持久化机制、腾讯云企业特性与未来演进路线图。
Valkey
Redis
分布式缓存
NoSQL
异步I/O
Linux基金会
集群架构
性能优化
KV存储
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
...
6
下一页