程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
WorldMonitor 深度拆解:73K Star 的「全球态势感知面板」,Vanilla TypeScript 扛住 500+ 数据源与 65+ 外部 API,不用框架反而赢了
编程
WorldMonitor 深度拆解:73K Star 的「全球态势感知面板」,Vanilla TypeScript 扛住 500+ 数据源与 65+ 外部 API,不用框架反而赢了
2026-07-28 05:46:45 +0800 CST
view 272
深度拆解 73K Star 开源项目 WorldMonitor:单代码库 6 站点变体、281 个 Protobuf 契约、三级缓存聚合 65+ 数据源、无框架 Vanilla TS + WebGL 双地图引擎,附 CLI/SDK/MCP 接入实战与四个可复用工程设计。
WorldMonitor
开源
TypeScript
MCP
AI Agent
数据可视化
Tauri
deck.gl
边缘计算
Protobuf
开源追上闭源!OpenRouter 2026开源F4深度解析:DeepSeek GLM MiniMax NVIDIA谁才是你的菜
编程
开源追上闭源!OpenRouter 2026开源F4深度解析:DeepSeek GLM MiniMax NVIDIA谁才是你的菜
2026-06-29 07:42:37 +0800 CST
view 460
OpenRouter 2026年6月发布最值得关注的4个开源模型:DeepSeek V4 Flash极致性价比、GLM 5.2智力天花板、MiniMax M3原生多模态、NVIDIA Nemotron企业级部署。本文从架构、性能、成本、场景四维度深度解析,助你做出正确技术选型。
AI
开源模型
DeepSeek
GLM
MiniMax
NVIDIA
技术选型
Anthropic 玻璃翼计划深度解析:当最锋利的矛变成最坚固的盾
编程
Anthropic 玻璃翼计划深度解析:当最锋利的矛变成最坚固的盾
2026-04-10 01:23:24 +0800 CST
view 760
2026年4月7日,Anthropic发布Claude Mythos Preview并联合12家科技巨头启动Project Glasswing安全计划。本文深度解析这一事件的技术细节、战略意图及对安全行业的深远影响。
AI安全
Anthropic
Claude Mythos
Project Glasswing
网络安全
漏洞挖掘
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 768
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
编程
WorldMonitor 深度拆解:一个人写出的「全球态势感知室」——500+ 信源、双地图引擎与 60+ Edge Function 的无后端架构
2026-07-28 16:45:43 +0800 CST
view 185
深度拆解 GitHub Trending 项目 WorldMonitor:500+信源AI聚合、CII国家不稳定指数算法、globe.gl+deck.gl双地图引擎、60+ Edge Function无后端架构、Tauri 2桌面端与MCP Agent生态,附完整代码实战与冷思考。
WorldMonitor
OSINT
deck.gl
Tauri
Edge Function
态势感知
开源
TypeScript
MCP
Transformers.js
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
编程
SGLang深度解析:RadixAttention架构下的大模型推理革命——从零到生产的高性能LLM服务框架实战指南
2026-07-05 18:13:38 +0800 CST
view 495
深度解析SGLang高性能大模型推理框架:RadixAttention自动前缀缓存、零开销C++调度器、PD分离架构、多LoRA批处理、推测解码。含完整代码实战与vLLM/TensorRT-LLM对比。
SGLang
RadixAttention
LLM
推理引擎
大模型
vLLM
GPU
高并发
AI基础设施
性能优化
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
编程
SGLang 深度拆解:当 LLM 推理引擎决定「干掉全部慢吞吞的 GPU 服务器」——从 RadixAttention 到 GB300 NVL72 的 25 倍飞跃,一个 27K Star 的 Python 框架如何重新定义大模型推理的终极形态
2026-08-04 19:22:29 +0800 CST
view 101
深度拆解SGLang 27K Star开源LLM推理框架:RadixAttention基数树前缀缓存实现3-8倍加速、自研FlashInfer CUDA Kernel、Prefill-Decode分离架构、GB300 NVL72上25倍性能飞跃、DFlash投机采样、多LoRA热切换,附完整部署与调优指南
SGLang
LLM推理
RadixAttention
FlashInfer
GPU加速
大模型部署
推理引擎
PagedAttention
PD分离
投机采样
CUDA
开源
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
编程
vLLM 与 SGLang 深度横评:两种推理范式的工程哲学对决
2026-07-24 06:14:45 +0800 CST
view 285
深度对比vLLM与SGLang两大LLM推理引擎:PagedAttention vs RadixAttention,Continuous Batching原理,吞吐与延迟实战选型指南
vLLM
SGLang
LLM推理
PagedAttention
RadixAttention
Continuous Batching
GPU优化
推理引擎
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 +0800 CST
view 216
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
World Monitor 深度拆解:500+ 信息源、56 种地图图层、一套代码发 6 个站,日增 300 星的开源态势感知仪表盘怎么造
编程
World Monitor 深度拆解:500+ 信息源、56 种地图图层、一套代码发 6 个站,日增 300 星的开源态势感知仪表盘怎么造
2026-07-24 08:17:48 +0800 CST
view 449
深度拆解 GitHub Trending 榜首 World Monitor:500+ 信息源聚合去重管线、deck.gl/globe.gl 双地图引擎、281 个 Protobuf 防腐层、三层缓存、一套代码发 6 个变体站与 Tauri sidecar 安全教训,配可运行代码复现核心机制。
World Monitor
开源
deck.gl
Tauri
态势感知
信息聚合
边缘计算
Transformers.js
Ollama
TypeScript
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
编程
SGLang 深度解析:RadixAttention 如何重塑大模型推理的「结构化革命」
2026-06-30 11:16:18 +0800 CST
view 327
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
编程
SGLang 深度解析:RadixAttention 前缀缓存与结构化 LLM 推理革命——从 RAG/Agent 场景到生产级部署的完整指南
2026-06-30 11:17:15 +0800 CST
view 387
深度解析 SGLang 大模型推理框架:RadixAttention 前缀缓存、零开销 CPU 调度器、结构化输出约束、推测解码、PD 分离等核心技术,对比 vLLM/TensorRT-LLM 选型,提供完整代码示例与生产级部署实践
SGLang
大模型推理
RadixAttention
前缀缓存
结构化输出
推测解码
PD分离
vLLM
TensorRT-LLM
3MB就能跑PostgreSQL:PGlite如何用WebAssembly彻底改变前端数据库生态
编程
3MB就能跑PostgreSQL:PGlite如何用WebAssembly彻底改变前端数据库生态
2026-05-11 17:27:19 +0800 CST
view 524
PGlite将完整PostgreSQL编译为WebAssembly,在浏览器里跑真正的数据库。3MB gzip、无依赖、完整SQL支持、ACID事务、pgvector向量搜索。本文深度解析PGlite技术架构,并从零构建本地优先AI笔记应用实战。
PGlite
PostgreSQL
WebAssembly
前端数据库
WASM
本地优先
pgvector
万字深度解析 Ghostty:当 Zig 遇上 GPU 加速——下一代终端模拟器的架构革命(2026)
编程
万字深度解析 Ghostty:当 Zig 遇上 GPU 加速——下一代终端模拟器的架构革命(2026)
2026-07-01 03:13:50 +0800 CST
view 337
2026年Ghostty终端模拟器万字深度解析:Zig语言实现、GPU加速渲染、平台原生UI、libghostty跨平台库架构,从技术原理到代码实战全覆盖
Ghostty
Zig
终端模拟器
GPU加速
系统编程
跨平台
Metal
OpenGL
GTK4
libghostty
Claude Mythos Preview 深度解析:当 AI 成为漏洞挖掘机,网络安全格局的范式转移
编程
Claude Mythos Preview 深度解析:当 AI 成为漏洞挖掘机,网络安全格局的范式转移
2026-04-12 17:55:58 +0800 CST
view 1197
深度解析 Anthropic 发布 Claude Mythos Preview:72.4%零日漏洞挖掘成功率、发现 OpenBSD 27年漏洞、FFmpeg 16年漏洞,12家机构联合启动 Project Glasswing 网络安全计划。
AI安全
网络安全
Claude
Anthropic
漏洞挖掘
零日漏洞
Project Glasswing
AI编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
编程
大模型推理引擎 2026 终极对决:vLLM vs SGLang,从 PagedAttention 到 RadixAttention,一次把 LLM 部署讲透(深度实战)
2026-07-13 05:12:59 +0800 CST
view 245
深度对比 vLLM 与 SGLang 两大 LLM 推理引擎:从 KV Cache、PagedAttention、RadixAttention、连续批处理、分块预填充、推测解码、P/D 分离到量化部署,配可直接运行的生产级代码与基准测试。
vLLM
SGLang
LLM推理
大模型部署
PagedAttention
RadixAttention
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
编程
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
2026-07-19 14:42:08 +0800 CST
view 409
深度拆解 colibrì 项目:一位意大利开发者用 10 天、1300 行纯 C 代码,在 25GB 笔记本上运行 7440 亿参数大模型的工程全貌。涵盖 MoE 稀疏推理、NVMe 流式专家、MLA 注意力、MTP 推测解码等核心技术的完整解析。
C语言
MoE
大模型
NVMe
量化
GPU
深度学习
GLM-5.2
推理引擎
推测解码
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
编程
LLM 推理服务引擎深度拆解:从 PagedAttention 到 PD 分离,把 GPU 榨干的七层优化栈
2026-07-30 21:49:19 +0800 CST
view 122
深度拆解 LLM 推理服务的七层优化栈:PagedAttention 分页显存与写时复制、连续批处理消灭队头阻塞、前缀缓存命中率实操、Chunked Prefill 与 PD 分离决策、KV Cache 分层复用的拉取/重算临界点、投机解码加速比数学与失效场景、量化与并行选型。附大量可运行代码、压测骨架、调优顺序与七个常见误区。
LLM推理
vLLM
SGLang
PagedAttention
PD分离
KV Cache
前缀缓存
投机解码
Chunked Prefill
性能优化
WorldMonitor 深度解剖:68k Stars 的开源全球情报仪表板——无框架 TypeScript、三级缓存、CII 评分模型与 281 个 Proto 的契约工程
编程
WorldMonitor 深度解剖:68k Stars 的开源全球情报仪表板——无框架 TypeScript、三级缓存、CII 评分模型与 281 个 Proto 的契约工程
2026-07-25 12:46:01 +0800 CST
view 220
深度拆解 GitHub 68k Stars 开源项目 WorldMonitor:无框架 TypeScript 与双地图引擎、500+ 信源三级缓存管道、CII 国家不稳定指数评分模型、281 个 Proto 契约工程、Tauri sidecar 安全边界与 MCP Agent 集成。
WorldMonitor
开源
TypeScript
deck.gl
Protobuf
MCP
Tauri
数据聚合
态势感知
AI Agent
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
编程
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
2026-04-22 09:27:57 +0800 CST
view 837
DeepSeek官方推荐!SGLang高性能大模型推理框架速通指南,RadixAttention前缀缓存、零开销调度、OpenAI API兼容,性能碾压vLLM。
SGLang
大模型推理
DeepSeek
开源
vLLM
WebGPU 深度解析:当浏览器真正拥有「显卡驱动」——从 WGSL 计算着色器到浏览器端 AI 推理的完整实战指南
编程
WebGPU 深度解析:当浏览器真正拥有「显卡驱动」——从 WGSL 计算着色器到浏览器端 AI 推理的完整实战指南
2026-07-07 12:44:09 +0800 CST
view 273
深度解析WebGPU图形与计算API:WGSL计算着色器实战、浏览器端AI推理、渲染管线优化、生产级应用场景,从架构原理到完整代码示例的全面指南。
WebGPU
WGSL
Compute Shader
GPU
Browser AI
Rendering
WebGL
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
编程
万字深度解析 LMCache:当 LLM 推理遇见「KV 缓存革命」——从 Transformer 注意力机制到多层存储分级、从 vLLM/SGLang 集成到生产级 PD 拆分的完整技术指南(2026)
2026-07-02 08:42:52 +0800 CST
view 343
深度解析 LMCache 开源项目:LLM 推理 KV 缓存管理层,涵盖架构设计、多级存储、Multiprocess 模式、非前缀复用、PD 拆分等核心技术,15+ 可运行代码示例。
LMCache
LLM推理
KV缓存
vLLM
SGLang
AI推理优化
GPU优化
分布式缓存
SGLang 深度实战:当 RadixAttention 重新定义 LLM 推理——从架构原理到生产部署的完整工程指南(2026)
编程
SGLang 深度实战:当 RadixAttention 重新定义 LLM 推理——从架构原理到生产部署的完整工程指南(2026)
2026-07-20 17:18:01 +0800 CST
view 288
深度解析SGLang推理框架核心技术:RadixAttention基数树KV缓存、连续批处理与CPU-GPU调度重叠、约束解码结构化输出、CVE-2026-5760安全漏洞修复、生产部署实战,以及与vLLM的完整对比选型指南。
SGLang
LLM
RadixAttention
PagedAttention
推理优化
Python
深度学习
向量检索
Agent
RAG
vLLM
CVE
Rust
高性能计算
ZCode 3.0深度解析:自研Agent内核如何重构国产AI编程体验
编程
ZCode 3.0深度解析:自研Agent内核如何重构国产AI编程体验
2026-07-07 20:50:43 +0800 CST
view 229
测试
ZCode
智谱
GLM-5.2
AI编程
国产工具
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
4
5
6
7
8
...
58
下一页