程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
Cache 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
窗口 1M 不等于用得好:token 实测、KV Cache 显存账与针入草堆评测
编程
窗口 1M 不等于用得好:token 实测、KV Cache 显存账与针入草堆评测
2026-09-30 00:03:10
长度上限只说明模型能接收多长的输入,不保证用得好。这篇把长上下文拆成三个可验证问题:用训练一致的 tokenizer 实测真实 token 数、按 KV Cache 显存公式估算 O(n²) 注意力的瓶颈、用针入草堆评测分段统计首/中/尾成功率,并给出 RoPE 外推方案与排查顺序。
LongContext
长上下文
上下文窗口
KV
Cache
RoPE
LLM
Kafka 生产者 P99 从 12ms 冲到 340ms:Page Cache 脏页背压事故复盘与调参记录
编程
Kafka 生产者 P99 从 12ms 冲到 340ms:Page Cache 脏页背压事故复盘与调参记录
2026-09-08 00:04:51
一个 Kafka 集群升级后生产者 P99 从 12ms 飙到 340ms 的事故复盘:write 只写 Page Cache、落盘异步触发,脏页积压触发 balance_dirty_pages 前台阻塞背压。讲清 dirty_background_ratio/dirty_ratio 等四参数、两类场景调优取向、swappiness 常见误区与不适用边界。
page
cache
脏页回写
Linux
内存
sysctl
性能调优
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调