程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 391
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
编程
大模型推理引擎实战:从 PagedAttention、Continuous Batching 到投机解码与量化部署,把 GPU 利用率榨到极限(vLLM/SGLang 2026 完全指南)
2026-07-09 09:17:24 +0800 CST
view 388
深入剖析 2026 年大模型推理引擎核心技术:PagedAttention、Continuous Batching、Chunked Prefill、RadixAttention 前缀缓存、投机解码与 AWQ/GPTQ/FP8 量化,结合 vLLM 与 SGLang 部署实战,把 GPU 利用率榨到极限的生产级完全指南。
LLM推理引擎
vLLM
SGLang
推理优化
量化部署
投机解码
GPU利用率
KV Cache
PagedAttention
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
编程
vLLM 推理引擎源码级拆解:PagedAttention 显存虚拟化、Continuous Batching 调度与量化落地全指南
2026-07-27 03:44:38 +0800 CST
view 103
从显存字节到 CUDA kernel 源码级拆解 vLLM:PagedAttention 分页显存管理、Continuous Batching 连续批处理调度、Prefix Caching 前缀缓存与量化/投机解码实战,附完整代码与生产调参踩坑清单。
vLLM
PagedAttention
大模型推理
KV Cache
显存优化
连续批处理
量化
LLM Serving
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
编程
TensorRT-LLM 1.0 深度实战:当 PyTorch 架构成为默认体验,NVIDIA 的 LLM 推理引擎正式走向成熟
2026-07-22 10:46:37 +0800 CST
view 137
深度解析 TensorRT-LLM 1.0:PyTorch 架构正式稳定、LLM API 稳定化、多模态 VLM 原生支持、Qwen3 MoE 优化、LoRA 生产级管理、trtllm-serve 推理服务化,配完整部署实战代码。
TensorRT-LLM
LLM推理
GPU加速
PyTorch
NVIDIA
深度学习
模型部署
推理优化
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
编程
LLM 推理优化全景实战:从 PagedAttention 到投机解码——让大模型推理成本下降 70% 的技术革命(2026)
2026-05-30 15:42:55 +0800 CST
view 533
深度解析 LLM 推理优化的核心技术:PagedAttention 内存管理革命、投机解码加速策略、INT4/FP8 量化技术、MoE 架构优化,从架构原理到代码实战,让大模型推理成本下降 70%。
LLM
推理优化
vLLM
PagedAttention
投机解码
量化
MoE
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
编程
LLM 推理的显存战争:从 PagedAttention 到统一内存架构——KV Cache 管理五世代深度解析(2026)
2026-06-15 11:18:23 +0800 CST
view 449
深度解析大模型推理中 KV Cache 管理的五世代演进:从连续分配到 PagedAttention,再到异构缓存、分布式 KV 和统一混合内存架构。结合 vLLM、SGLang、TensorRT-LLM 给出生产环境选型指南。
LLM
大模型
KVCache
PagedAttention
vLLM
SGLang
TensorRT
推理优化
显存管理
分布式
SGLang vs vLLM:2026年大模型推理框架深度对比与选型指南
编程
SGLang vs vLLM:2026年大模型推理框架深度对比与选型指南
2026-04-08 15:51:53 +0800 CST
view 1997
深度对比SGLang与vLLM两大LLM推理框架,从架构设计、核心原理、性能实测、适用场景多维度解析,附2026年选型建议
LLM
SGLang
vLLM
推理优化
大模型
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 655
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
智谱 GLM-5.1 深度解析:当开源模型突破「8小时自治」临界点
编程
智谱 GLM-5.1 深度解析:当开源模型突破「8小时自治」临界点
2026-04-09 00:53:51 +0800 CST
view 1449
2026年4月8日智谱发布GLM-5.1,744B参数MIT开源,SWE-bench Pro 58.4分超越Claude Opus 4.6,全球首个支持8小时长程自治的开源模型。
GLM-5.1
智谱AI
开源大模型
MoE
SWE-bench
长程自治
LLM
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
编程
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
2026-05-09 03:39:58 +0800 CST
view 689
深度解析分布式 LLM 推理架构,从 vLLM 单节点到 llm-d 多集群的生产级演进。涵盖推理引擎层、编排调度层、Kubernetes 多机多卡部署实战、性能优化技巧及成本优化策略。
LLM
vLLM
分布式推理
Kubernetes
Ray
推理引擎
Claude Code 持久记忆实战:从三层压缩机制到 Claude-Mem 的跨会话记忆实现
编程
Claude Code 持久记忆实战:从三层压缩机制到 Claude-Mem 的跨会话记忆实现
2026-04-22 09:32:54 +0800 CST
view 776
深入解析 Claude Code 三层上下文压缩机制的局限,以及开源项目 Claude-Mem 如何通过 SQLite+向量检索双轨架构实现跨会话持久记忆,并探讨记忆插件背后的商业博弈与技术启示。
Claude Code
CIaude-Mem
上下文压缩
AI编程
持久记忆
LLM
向量检索
Claude Opus 5 深度拆解:价格减半、性能翻倍,Anthropic 用「效能革命」重写 AI 编程规则
编程
Claude Opus 5 深度拆解:价格减半、性能翻倍,Anthropic 用「效能革命」重写 AI 编程规则
2026-07-31 15:20:39 +0800 CST
view 49
深度拆解 Claude Opus 5 发布:从 Frontier-Bench 性能翻倍到 ARC-AGI 3 三倍碾压,从定价策略重塑到 Claude Code 系统提示词削减 80% 的工程革命,以及 AI Coding 从 Tools 到 Skills 的范式跃迁。
Claude Opus 5
Anthropic
AI编程
LLM
AI Agent
Skills
Frontier-Bench
ARC-AGI
定价策略
Claude Code
Andrej Karpathy Skills 深度实战:当 AI 编程教父用 4 条准则驯服 Claude Code——从 Vibe Coding 陷阱到生产级代码自律、从 CLAUDE.md 到 AI Agent 行为工程的完全指南(2026)
编程
Andrej Karpathy Skills 深度实战:当 AI 编程教父用 4 条准则驯服 Claude Code——从 Vibe Coding 陷阱到生产级代码自律、从 CLAUDE.md 到 AI Agent 行为工程的完全指南(2026)
2026-06-20 00:24:37 +0800 CST
view 371
深度剖析 Andrej Karpathy 的 Claude Code Skills 项目——用 4 条准则驯服 AI 编程助手,从 Vibe Coding 陷阱到生产级代码自律,包含完整实战案例和性能测试数据。
AI编程
Claude Code
LLM
代码生成
Andrej Karpathy
Vibe Coding
CLAUDE.md
AI Agent
Karpathy Skills 深度解析:187K Star 的 AI 编程四原则——从错误假设到工程级代码的完整进化指南
编程
Karpathy Skills 深度解析:187K Star 的 AI 编程四原则——从错误假设到工程级代码的完整进化指南
2026-07-04 13:14:42 +0800 CST
view 302
深度解析 Andrej Karpathy Skills 项目:187K Star 的 AI 编程四原则,从错误假设、过度工程化、附带损伤、验证缺失四大痛点出发,详细阐述 Think Before Coding、Simplicity First、Surgical Changes、Goal-Driven Execution 四原则的技术原理、工程实践与代码示例。
Karpathy Skills
AI编程
CLAUDE.md
Claude Code
Cursor
提示工程
代码质量
LLM编程
四原则
工程实践
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
编程
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
2026-04-10 03:35:31 +0800 CST
view 894
claude-memory-compiler 把 AI 对话当作源代码,用 LLM 编译成结构化知识库,让 Claude Code 拥有跨会话记忆能力
Claude Code
AI Agent
Knowledge Management
LLM
Memory System
Headroom 深度实战:AI Agent 的上下文压缩革命——60%~95% Token 节省背后的架构原理与生产级实战
编程
Headroom 深度实战:AI Agent 的上下文压缩革命——60%~95% Token 节省背后的架构原理与生产级实战
2026-06-28 10:14:20 +0800 CST
view 446
深度解析 GitHub Trending 项目 Headroom:AI Agent 上下文压缩引擎的架构原理、6 种算法、60-95% Token 节省实战,涵盖 Rust 高性能核心、CCR 可逆压缩、MCP 服务器与生产级部署指南。
Headroom
AI Agent
上下文压缩
Token优化
Claude Code
Cursor
AI编程
Rust
Python
MCP
RAG
LLMOps
ADK-Rust 深度实战:当 AI Agent 学会「零成本抽象」——从 Trait 驱动架构到图工作流引擎的生产级完全指南(2026)
编程
ADK-Rust 深度实战:当 AI Agent 学会「零成本抽象」——从 Trait 驱动架构到图工作流引擎的生产级完全指南(2026)
2026-06-15 06:49:02 +0800 CST
view 553
ADK-Rust 生产级框架深度实战:从五大核心 Trait 架构到 GraphAgent 图工作流引擎,从 #[tool] 宏零样板工具定义到 MCP 集成,从 Session 加密到 RBAC 安全体系,从模型路由到评估流水线——完整覆盖 Rust 写 AI Agent 的生产级全链路
Rust
AI Agent
ADK-Rust
图工作流
LLM
Andrej Karpathy Skills 深度实战:当 AI 学会了「编程自律」——从 CLAUDE.md 四大原则到 AI 编程行为矫正、从错误假设捕获到极简代码生成的完全指南(2026)
编程
Andrej Karpathy Skills 深度实战:当 AI 学会了「编程自律」——从 CLAUDE.md 四大原则到 AI 编程行为矫正、从错误假设捕获到极简代码生成的完全指南(2026)
2026-06-21 14:25:24 +0800 CST
view 321
深入剖析 GitHub 149K+ Stars 爆火项目 andrej-karpathy-skills,揭示 Andrej Karpathy 如何通过一份 65 行的 CLAUDE.md 文件,将 AI 编程助手的准确率从 65% 提升到 94%。
AI编程
Claude Code
LLM
行为准则
代码质量
OpenCode 深度解析:157K Star 的开源 AI 编程智能体——如何打造 Claude Code 的完美平替
编程
OpenCode 深度解析:157K Star 的开源 AI 编程智能体——如何打造 Claude Code 的完美平替
2026-05-16 05:45:45 +0800 CST
view 722
深度解析OpenCode——157K Star的开源AI编程智能体,支持75+ LLM提供商,如何成为Claude Code的完美平替
AI编程
开源
OpenCode
Claude Code平替
LLM
Andrej Karpathy Skills 深度实战:终结LLM编程的「四大天坑」——从 CLAUDE.md 规范到生产级 AI 辅助编程的完全指南(2026)
编程
Andrej Karpathy Skills 深度实战:终结LLM编程的「四大天坑」——从 CLAUDE.md 规范到生产级 AI 辅助编程的完全指南(2026)
2026-06-10 12:47:30 +0800 CST
view 666
前 Tesla AI 总监 Andrej Karpathy 开源的 CLAUDE.md 配置项目,系统性解决 LLM 编程四大天坑。本文深度解析四大核心原则、架构设计、代码实战,助你从「AI 代码生成器」进化到「AI 工程协作」。
AI编程
LLM
Claude Code
Python
测试驱动开发
caveman 深度解析:当 Claude Code 用「穴居人语言」砍掉 75% Token 消耗,AI 编程正式进入「极简主义」时代
编程
caveman 深度解析:当 Claude Code 用「穴居人语言」砍掉 75% Token 消耗,AI 编程正式进入「极简主义」时代
2026-04-10 00:14:55 +0800 CST
view 1652
深度解析 caveman 开源项目:一个让 Claude Code 用「穴居人语言」说话的 skill,砍掉 75% Token 消耗同时保持 100% 技术准确率。
Claude Code
Token优化
AI编程
Prompt Engineering
LLM效率
开源工具
程序员工具
代码审查
AI 编程助手瘫痪了吗?Karpathy Skills 与 CLAUDE.md 如何用数学约束驯服 LLM 的混乱天性——从四大失败模式到生产级行为规则的完全指南
编程
AI 编程助手瘫痪了吗?Karpathy Skills 与 CLAUDE.md 如何用数学约束驯服 LLM 的混乱天性——从四大失败模式到生产级行为规则的完全指南
2026-05-23 00:46:41 +0800 CST
view 513
深度剖析 AI 编码代理的四大核心失败模式(静默假设、过度工程、范围蔓延、缺乏验证),介绍 Karpathy Skills 项目如何用行为约束体系替代模糊提示,以及如何使用 CLAUDE.md 构建可维护的 AI 辅助开发流程。
AI编程
LLM
Karpathy Skills
CLAUDE.md
行为约束
提示工程
Andrej Karpathy 的 CLAUDE.md 工程规范深度解析:AI 辅助编码的四大原则与生产级实践
编程
Andrej Karpathy 的 CLAUDE.md 工程规范深度解析:AI 辅助编码的四大原则与生产级实践
2026-06-30 00:42:36 +0800 CST
view 238
深度解析 Andrej Karpathy 的 CLAUDE.md 四大原则:先思考后编码、简洁优先、精准修改、目标驱动,附带完整代码实战与生产级落地方案。
Andrej Karpathy
CLAUDE.md
AI辅助编码
提示词工程
LLM
AI Agent
系统提示
Python
Everything Claude Code (ECC) 深度实战:当AI编程助手拥有48位专家团队成员——从182个Skill到Token优化、从MCP集成到生产级部署的完全指南(2026)
编程
Everything Claude Code (ECC) 深度实战:当AI编程助手拥有48位专家团队成员——从182个Skill到Token优化、从MCP集成到生产级部署的完全指南(2026)
2026-06-22 09:25:50 +0800 CST
view 405
Everything Claude Code (ECC) 是2026年GitHub最火的AI编程项目,近20万Star。本文深度解析ECC的六大核心模块、48个专业Agent、182个工作流Skill,以及Token优化、MCP集成、生产级部署等实战内容。
Claude Code
AI编程
ECC
Agent
LLM
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
79
下一页