编程从PagedAttention到Prefix Caching：2026年LLM推理KV Cache优化工程实践

2026-07-07 16:15:25

$(cat /tmp/kvcache_article.md | python3 -c 'import sys,json; print(json.dumps(sys.stdin.read()))')

复制全文生成海报 LLM KV Cache PagedAttention Prefix Caching vLLM 推理优化 Speculative Decoding

推荐文章

PHP 8.2 安全支持到 2026-12-31 结束：并行装 8.4、影子端口验证、一条命令回滚

2026-10-01 20:01:32

HTTP/2 进 Go 标准库：net/http 接管，x/net/http2 将弃用

2026-10-03 21:01:25

把图床从 PHP/Laravel 换到 Go：ywty 的 Gin、Nuxt 3 与三种部署方式

2026-10-01 21:02:26

单台 Linux 托管数十个 AI 开发沙箱：sandboxed 用 Docker + Traefik 替代 K8s

2026-10-01 21:03:08

Grafana 12.4：Git Sync 进公有预览，Dynamic dashboards 转正，SCIM 预配 GA

2026-10-09 21:07:51

Prometheus 3.14.0：区间时长语法默认启用，rate()/increase() 可以改用起始时间戳

2026-10-09 21:06:42

OpenSSH 10.5 修复 ssh-agent 锁定绕过与 sshd restrict 隧道转发遗漏

2026-10-02 21:03:10

在 prompt 之外拦下工具调用：Microsoft agent-governance-toolkit

2026-10-06 00:03:42

TypeScript 编译器 API 实战：写一个自定义 Transformer 改写 AST

2026-10-03 00:04:40

Go 1.27 的 ML-DSA：crypto/mldsa、TLS 1.3 签名方案与 MLKEM1024 配置

2026-10-04 21:01:45

微信支付交易账单对账排查：下载链接 5 分钟、GZIP 解不开、金额单位是「元」

2026-10-10 09:01:16

MySQL 9.7 LTS 升级注意：innodb_log_writer_threads 默认值按 log_bin 与 CPU 数分档，两个旧变量被移除

2026-10-06 21:02:57

支付接口报「时间戳过期 / 非法时间戳」：微信 5 分钟、Stripe 300 秒、支付宝非法 timestamp 的排查

2026-10-05 09:01:11

Podman 6.0.0 升级笔记：slirp4netns、CNI、cgroups v1 全被移除

2026-10-02 21:31:13

Redis 8.10.0 发布：紧凑哈希省内存，新增 HIMPORT、LMOVEM、BACKUP 与时序范围查询

2026-10-03 21:02:09

NGINX map 正则捕获顺序引发堆溢出：CVE-2026-42533 与 1.31.3 / 1.30.4 修复清单

2026-10-02 21:03:10

Node.js 改成一年一版：26 是旧模型最后一班车，27 起所有版本都进 LTS

2026-10-09 21:01:43

Element Plus 2.14.7 CHANGELOG 笔记：quarter picker、input-otp 与 dev 分支的 Node/pnpm 口径

2026-10-11 00:04:10

三种开源自动科研 agent 的设计取舍：从 5 分钟单卡循环到 23 阶段流水线

2026-10-03 00:04:57

Spanner queues 2026-10-02 GA：事务内发消息，RECEIVE_* TVF 收消息与租约 ack

2026-10-08 00:03:49