程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Rig 深度拆解:8K Star 的 Rust LLM 框架如何用统一 API 打通 20+ 模型提供商——从类型安全的 Agent 编排到 WASM 边缘部署的全栈实战指南
编程
Rig 深度拆解:8K Star 的 Rust LLM 框架如何用统一 API 打通 20+ 模型提供商——从类型安全的 Agent 编排到 WASM 边缘部署的全栈实战指南
2026-08-04 09:43:57 +0800 CST
view 190
深度拆解8K Star开源Rust LLM应用框架Rig:20+模型提供商统一接口、类型安全Agent编排、结构化输出Extractor、10+向量存储集成、WASM边缘部署支持,附完整代码示例与性能基准对比
Rig
Rust
LLM
AI框架
类型安全
Agent
WASM
边缘计算
OpenAI
Anthropic
向量存储
MCP
TradingAgents 深度拆解:当多智能体决定「干掉华尔街交易员」——一个 85K Star 的开源框架如何用 7 个 AI 角色模拟真实交易公司的决策流程
编程
TradingAgents 深度拆解:当多智能体决定「干掉华尔街交易员」——一个 85K Star 的开源框架如何用 7 个 AI 角色模拟真实交易公司的决策流程
2026-08-04 11:45:05 +0800 CST
view 210
深度拆解85K Star开源多智能体金融交易框架TradingAgents:7个AI角色模拟真实交易公司、LangGraph状态图编排、结构化辩论消除幻觉、独立风险管理,附完整代码示例与性能基准对比
TradingAgents
多智能体
LangGraph
金融交易
AI Agent
LLM
量化交易
开源
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
编程
Claude Memory Compiler 深度解析:当 AI 编程助手第一次拥有「编译器思维」的记忆系统
2026-04-10 03:35:31 +0800 CST
view 1009
claude-memory-compiler 把 AI 对话当作源代码,用 LLM 编译成结构化知识库,让 Claude Code 拥有跨会话记忆能力
Claude Code
AI Agent
Knowledge Management
LLM
Memory System
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 175
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
编程
Headroom深度解析:AI Agent上下文压缩层的架构革命——Token成本暴降95%与可逆压缩的完整实战指南
2026-07-05 21:12:46 +0800 CST
view 481
深度解析Headroom上下文压缩中间层:六大压缩算法(SmartCrusher/CodeCompressor/Kompress-base/ImageCompressor/IntelligentContext/CacheAligner)、CCR可逆压缩、跨Agent记忆共享、KV Cache命中率优化。含完整代码实战、基准测试对比、竞品分析与生产部署指南。
Headroom
AI Agent
上下文压缩
Token优化
CCR
可逆压缩
Context Engineering
KV Cache
LLM
Python
智谱 ZCode 四项新功能深度拆解:从「对话辅助」到「复杂任务自主交付」的范式跃迁(2026)
编程
智谱 ZCode 四项新功能深度拆解:从「对话辅助」到「复杂任务自主交付」的范式跃迁(2026)
2026-08-13 14:14:26 +0800 CST
view 244
2026年8月智谱ZCode四项新功能深度拆解:Goal目标系统、Subagents并行任务、Remote Control远程操控、闲时任务,从对话辅助到复杂任务自主交付的范式跃迁。
ZCode
智谱
AI编程
GLM
Agent
Goal系统
Subagents
Coding Harness
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
编程
TriAttention深度解析:用三角函数革命性压缩KV Cache,让长推理从「显存地狱」中脱困
2026-05-17 04:14:18 +0800 CST
view 657
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
编程
vLLM 深度实战:从 PagedAttention 到 Speculative Decoding——2026年大模型推理引擎内核架构完全指南
2026-05-23 18:44:14 +0800 CST
view 731
2026年深度长文,从PagedAttention分页思想、Continuous Batching调度算法、Speculative Decoding并行验证机制到CUDA Kernel底层实现,全面拆解vLLM推理引擎内核架构,附生产级部署实战与框架横向对比。
vLLM
PagedAttention
Continuous Batching
Speculative Decoding
GPU推理
大模型部署
深度学习
CUDA
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
编程
【重制版】TriAttention深度解析:三角函数如何让长推理从显存地狱中脱困
2026-05-17 04:14:33 +0800 CST
view 563
深入解析MIT韩松团队提出的TriAttention方法,利用Pre-RoPE空间Q/K集中性和三角函数级数实现革命性的KV Cache压缩,在AIME25上以3072 KV budget达到与Full Attention持平的40.8%准确率,同时实现10.7倍KV显存压缩和2.5-6.3倍吞吐量提升。
LLM
KV Cache
TriAttention
MIT
英伟达
浙大
长推理
KV压缩
三角函数
RoPE
Attention优化
Skills 生态深度拆解:当 AI Agent 决定「用 Markdown 替代 JSON-RPC」——从 Karpathy 的防坑指南到万星 Skills 仓库,一个被 10 万+ 开发者采用的新范式如何重新定义 Agent 工程化的终极形态
编程
Skills 生态深度拆解:当 AI Agent 决定「用 Markdown 替代 JSON-RPC」——从 Karpathy 的防坑指南到万星 Skills 仓库,一个被 10 万+ 开发者采用的新范式如何重新定义 Agent 工程化的终极形态
2026-08-05 16:17:58 +0800 CST
view 275
深度拆解2026年AI Agent开发新范式Skills生态:Karpathy行为约束型Skills、Pocock工作流型Skills、SKILL.md架构设计、MCP vs Skills vs CLI三大范式对比,附完整生产级Skills构建实战与Token预算管理指南
Skills
AI Agent
MCP
Karpathy
Claude Code
LLM
Agent工程化
SKILL.md
提示工程
开源
Kimi K3 开源深度拆解:2.8T MoE 架构 + 三项 Infra 突破,国产大模型首次摸到开源前沿的天花板
编程
Kimi K3 开源深度拆解:2.8T MoE 架构 + 三项 Infra 突破,国产大模型首次摸到开源前沿的天花板
2026-07-30 15:44:58 +0800 CST
view 544
深度拆解 Kimi K3 技术架构:2.8T MoE 稀疏化、Stable LatentMoE 稳定性设计、KDA+Gated MLA 混合注意力、Attention Residuals 深度优化,以及 MoonEP/FlashKDA/AgentEnv 三项开源 Infra 技术的工程价值。
Kimi K3
MoE
KDA
Stable LatentMoE
MoonEP
FlashKDA
AgentEnv
LLM
开源大模型
国产AI
从碎片对话到结构化知识:腾讯 Agent Memory 四层记忆架构工程实践
编程
从碎片对话到结构化知识:腾讯 Agent Memory 四层记忆架构工程实践
2026-08-14 15:46:56 +0800 CST
view 132
深度拆解腾讯开源的 Agent Memory 项目:从 L0 原始对话层到 L3 用户画像层的四层渐进式记忆架构,配完整代码实战与生产级集成指南。
Agent Memory
腾讯云
AI记忆
LLM
TencentDB
知识图谱
个性化AI
向量数据库
Hermes Agent 深度拆解:三层记忆架构 × 五阶段学习闭环 × 八种执行后端,一个自进化 AI Agent 的工程化全景
编程
Hermes Agent 深度拆解:三层记忆架构 × 五阶段学习闭环 × 八种执行后端,一个自进化 AI Agent 的工程化全景
2026-08-01 10:15:57 +0800 CST
view 140
深度拆解 Hermes Agent 自进化 AI 框架:三层记忆架构(L1/L2/L3)、五阶段学习闭环、GEPA 自省引擎、八种执行后端、六种消息平台。从认知科学映射到工程实践,附完整部署指南与踩坑清单。
Hermes Agent
AI Agent
记忆系统
自进化
Nous Research
LLM
技能系统
学习闭环
分布式
工程实践
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
编程
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
2026-05-06 17:37:39 +0800 CST
view 862
深度解析 SGLang 推理框架的 RadixAttention 原理、DSL 编程范式、正则约束解码,以及在 Agent 系统和多轮对话场景的生产部署实践。
SGLang
LLM
推理加速
Agent
RadixAttention
结构化生成
OpenWorker 深度解析:吴恩达的桌面 AI 智能体,从 aisuite 到生产级 Agent 架构的完整演进
编程
OpenWorker 深度解析:吴恩达的桌面 AI 智能体,从 aisuite 到生产级 Agent 架构的完整演进
2026-07-26 12:13:55 +0800 CST
view 483
深度解析吴恩达开源的桌面AI智能体OpenWorker:aisuite统一模型接口、Agent运行时架构、权限沙箱、记忆系统、任务规划、ReAct执行循环、工具系统、多模型策略、成本优化与实战应用。
OpenWorker
AI Agent
aisuite
桌面智能体
吴恩达
Andrew Ng
多模型
Ollama
本地LLM
Agent架构
从 Caveman 令牌压缩到 Agent Skills:2026年7月 GitHub Trending AI 编码工具深度解析
编程
从 Caveman 令牌压缩到 Agent Skills:2026年7月 GitHub Trending AI 编码工具深度解析
2026-07-09 01:47:33 +0800 CST
view 623
深度解析2026年7月GitHub Trending上的AI编码工具生态:Caveman令牌压缩65%背后的工程原理、mattpocock/skills 354个生产级技能、openai/codex-plugin-cc多代理协作,以及这场正在发生的AI编程工具工程化革命。
AI编程工具
GitHub Trending
Caveman
Agent Skills
AI Agent
LLM
Copilot
2026技术
Hermes Agent 深度实战:从「LLM 审判官」到自进化 Skills——不训练模型也能越用越强的 Agent 工程全解(2026)
编程
Hermes Agent 深度实战:从「LLM 审判官」到自进化 Skills——不训练模型也能越用越强的 Agent 工程全解(2026)
2026-07-22 07:45:42 +0800 CST
view 217
深度解析 Hermes Agent 自进化机制:LLM 审判官、三层记忆系统、Skill 自动生成的工程实现。不训练模型也能越用越强的 Agent 架构全解,含源码分析、部署指南与竞品对比。
Hermes Agent
AI Agent
自进化
记忆系统
Skill生成
LLM
开源项目
Nous Research
英伟达ASPIRE深度解析:具身智能的Skill时刻——从Coding Agent到机器人技能库、从经验沉淀到持续学习范式的完整技术指南(2026)
编程
英伟达ASPIRE深度解析:具身智能的Skill时刻——从Coding Agent到机器人技能库、从经验沉淀到持续学习范式的完整技术指南(2026)
2026-07-04 08:12:57 +0800 CST
view 658
2026年7月1日,英伟达GEAR团队开源机器人技能库ASPIRE,具身智能负责人Jim Fan称之为范式转变。深度解析ASPIRE的核心原理、技术架构、实现细节,以及它如何像Coding Agent一样让机器人通过写代码、看执行轨迹、修程序、沉淀技能来实现持续学习。
NVIDIA ASPIRE
具身智能
机器人技能库
持续学习
Coding Agent
Skill Refinement
经验沉淀
LLM
GPT-4
Claude
Jim Fan
GEAR团队
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 339
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
给 AI Agent 装上生产级可观测性:用 OpenTelemetry 把 LLM 工作流从黑盒变白盒
编程
给 AI Agent 装上生产级可观测性:用 OpenTelemetry 把 LLM 工作流从黑盒变白盒
2026-07-10 11:47:48 +0800 CST
view 331
深度解析2026年AI工程化最关键方向——AI Agent可观测性,涵盖OpenTelemetry LLM语义约定、MCP协议链路追踪、OpenLIT全链路平台,附生产级Go代码实现
AI Agent
OpenTelemetry
LLM
可观测性
生产级
Go
链路追踪
Token优化
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
编程
2026 大模型推理优化:TensorRT-LLM v0.19 + Blackwell + 低比特量化实战手册
2026-04-09 03:15:44 +0800 CST
view 1170
2026年TensorRT-LLM v0.19全面解析:Skip Softmax稀疏注意力、Paged KV Cache显存管理、INT8/INT4低比特量化完整实战,Blackwell架构适配指南,70B模型单卡部署方案
TensorRT-LLM
低比特量化
Blackwell
INT8
INT4
推理优化
NVIDIA
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 589
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 652
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 390
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
6
7
8
9
10
...
78
下一页