程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
编程
DiffusionGemma 深度实战:当 Google 用「扩散」颠覆自回归——从离散文本扩散原理到 MoE 架构、本地推理加速与生产级部署的完全指南(2026)
2026-06-16 18:52:52 +0800 CST
view 9
Google DeepMind联合NVIDIA发布DiffusionGemma——基于离散文本扩散的实验性开源模型。本文深入解读26B MoE架构、双向注意力机制、本地推理4倍加速原理,附完整代码示例和部署实战。
Google
DiffusionGemma
扩散模型
MoE
开源LLM
本地推理
AI推理加速
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
编程
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
2026-05-28 19:39:07 +0800 CST
view 306
深入解析 DFlash 块扩散投机解码方案:如何让 Qwen3-8B 实现 6 倍无损加速,超越 EAGLE-3 与 llama.cpp,附 SGLang/vLLM/MLX 完整部署指南。
LLM推理
投机解码
块扩散
DFlash
推理加速
Transformer优化
GPU
CUDA
SGLang
vLLM
DFlash 深度实战:当扩散模型遇上推测解码——从原理到生产级 LLM 推理加速完全指南(2026)
编程
DFlash 深度实战:当扩散模型遇上推测解码——从原理到生产级 LLM 推理加速完全指南(2026)
2026-06-06 01:38:49 +0800 CST
view 185
DFlash(Block Diffusion for Flash Speculative Decoding)是ZLab于2026年提出的LLM推理加速框架,用块扩散模型替代传统自回归草稿模型,实现6倍以上无损加速。
LLM推理加速
推测解码
扩散模型
块扩散
DFlash
ZLab
大模型优化
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
编程
SGLang 深度实战:新一代 LLM 编程与推理框架——从 RadixAttention 原理到 Agent 系统生产部署
2026-05-06 17:37:39 +0800 CST
view 448
深度解析 SGLang 推理框架的 RadixAttention 原理、DSL 编程范式、正则约束解码,以及在 Agent 系统和多轮对话场景的生产部署实践。
SGLang
LLM
推理加速
Agent
RadixAttention
结构化生成
小米MiMo-V2.5-Pro-UltraSpeed深度实战:当万亿参数模型突破1000 Tokens/s——从全链路优化到生产级推理加速的完全指南(2026)
编程
小米MiMo-V2.5-Pro-UltraSpeed深度实战:当万亿参数模型突破1000 Tokens/s——从全链路优化到生产级推理加速的完全指南(2026)
2026-06-09 13:18:45 +0800 CST
view 458
深度解析小米MiMo-V2.5-Pro-UltraSpeed如何在通用GPU上实现1000 Tokens/s的推理速度,包括FP4量化、DFlash解码引擎、TileRT执行系统等核心技术。
AI
推理加速
大模型
小米
GPU优化
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
编程
DFlash 深度实战:块扩散模型如何实现 6 倍无损加速——从自回归瓶颈到并行生成的范式跃迁
2026-05-23 11:16:44 +0800 CST
view 241
深度解析UC San Diego Z Lab提出的DFlash(Block Diffusion for Flash Speculative Decoding),详解块扩散草稿模型如何突破自回归瓶颈,在Qwen3-8B上实现6倍无损加速的架构原理、训练方法与生产级实战代码
LLM推理,投机解码,块扩散模型,大模型加速,DFlash,Speculative Decoding,UC San Diego,PyTorch,深度学习,AI推理优化
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 270
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
W3C震撼官宣:WebAssembly正式成为Web一等编程语言——从 "JavaScript小弟" 到 "原生级性能霸主" 的完整技术解析
编程
W3C震撼官宣:WebAssembly正式成为Web一等编程语言——从 "JavaScript小弟" 到 "原生级性能霸主" 的完整技术解析
2026-05-16 21:49:12 +0800 CST
view 283
2026年3月W3C正式将WebAssembly定为Web一等编程语言。本文深度解析WASM如何打破JavaScript垄断,直接DOM操作、多语言支持(Rust/C++/Go/Python)、并行计算与GPU加速,以及Blazor从4.2秒优化到300ms的实战案例。
WebAssembly
WASM
Rust
性能优化
浏览器
WASI
边缘计算
并行计算
GPU加速
Go 1.26 深度实战:从 Green Tea GC 到 SIMD 加速——2026 年 Go 语言性能革命完全指南
编程
Go 1.26 深度实战:从 Green Tea GC 到 SIMD 加速——2026 年 Go 语言性能革命完全指南
2026-05-24 21:22:46 +0800 CST
view 153
Go 1.26 于 2026 年 2 月发布,是 Go 语言有史以来更新最庞大的版本。本文深度解析 Green Tea GC、SIMD 加速、new(expr) 语法、递归类型约束等核心新特性,配有大量代码示例和性能测试。
Go语言
Go1.26
GC优化
SIMD加速
性能优化
DuckDB 深度解析:嵌入式 OLAP 的性能之王——从列式存储到 GPU 加速的完整技术内幕
编程
DuckDB 深度解析:嵌入式 OLAP 的性能之王——从列式存储到 GPU 加速的完整技术内幕
2026-05-18 05:16:02 +0800 CST
view 361
深度解析 DuckDB 嵌入式 OLAP 数据库的核心技术:列式存储、自适应编码、向量化执行引擎、MVCC 事务模型,以及 AliSQL 集成和 Sirius GPU 加速等最新技术突破。
DuckDB
OLAP
数据库
性能优化
GPU加速
18年老用户的"决裂宣言":Ghostty 如何用 Zig + GPU 加速重新定义终端模拟器——从架构设计到 GitHub 迁移的全链路深度解析
编程
18年老用户的"决裂宣言":Ghostty 如何用 Zig + GPU 加速重新定义终端模拟器——从架构设计到 GitHub 迁移的全链路深度解析
2026-05-05 18:35:35 +0800 CST
view 477
深入剖析 Ghostty 终端模拟器的技术架构,以及其作者 Mitchell Hashimoto 决定将项目迁出 GitHub 的深层原因。从 Zig 语言选型到 GPU 渲染优化,全面解析这个 5.2 万 Star 项目的核心技术。
Zig
终端模拟器
GPU加速
GitHub迁移
系统编程
开源项目
turbovec 深度实战:当 Google 把向量索引做到「内存极简」——从 TurboQuant 算法到生产级 Rust SIMD 检索引擎的完全指南(2026)
编程
turbovec 深度实战:当 Google 把向量索引做到「内存极简」——从 TurboQuant 算法到生产级 Rust SIMD 检索引擎的完全指南(2026)
2026-06-14 14:51:19 +0800 CST
view 51
基于 Google Research ICLR 2026 TurboQuant 算法,深度拆解 turbovec 如何用 4-bit 量化将向量索引内存压缩 16 倍,同时搜索速度超越 FAISS。涵盖算法原理、Rust SIMD 内核、过滤搜索与生产级 RAG 集成。
Rust
SIMD
向量检索
TurboQuant
turbovec
向量量化
RAG
FAISS
PyO3
SIMD加速
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
编程
Newton 深度解析:NVIDIA、DeepMind、Disney 三巨头联手打造的 GPU 物理引擎——机器人仿真的下一个十年(2026 完全指南)
2026-05-28 21:06:26 +0800 CST
view 198
Newton是由Disney Research、Google DeepMind和NVIDIA联合开发的开源GPU加速物理仿真引擎,支持多物理场仿真、可微分仿真和大规模并行RL训练。
Newton
NVIDIA Warp
物理仿真
机器人
GPU加速
MuJoCo
开源项目
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
编程
小米 MiMo UltraSpeed 深度解析:当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST
view 25
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度,从O(n²)困境到极致跨越的完整技术指南。
SWA
Sliding Window Attention
LLM推理
小米MiMo
推理优化
Transformer
PagedAttention
量化推理
端侧AI
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 88
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 532
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
编程
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 +0800 CST
view 87
深度解析 Redis 之父 antirez 最新开源项目 ds4(DwarfStar):一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署,完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎
DeepSeek
本地推理
系统编程
开源项目
C语言
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
编程
vLLM 深度解析:LLM 推理性能的终极引擎——从 PagedAttention 到生产级部署的完整技术内幕
2026-05-18 08:22:35 +0800 CST
view 412
全面解析 vLLM 推理引擎的核心架构,从 PagedAttention 原理到生产级部署实战,涵盖量化推理、多GPU并行、性能调优等完整技术栈
vLLM
LLM推理
PagedAttention
GPU优化
量化推理
深度解析
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
编程
Microsoft BitNet 深度实战:1比特大模型推理框架——让CPU跑起千亿参数模型的技术革命(2026完全指南)
2026-05-26 12:35:43 +0800 CST
view 181
深入解析 Microsoft BitNet 1比特大模型推理框架,从原理到实战,让CPU跑起千亿参数模型。包含完整代码示例、性能优化策略和应用场景分析。
BitNet
模型量化
大模型推理
CPU推理
1-bit LLM
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
编程
vLLM 深度实战:当 LLM 推理遇上 PagedAttention——从 KV 缓存管理到生产级高并发服务的完全指南(2026)
2026-06-08 22:52:24 +0800 CST
view 117
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
编程
2026 年 vLLM 推理服务实战:PagedAttention 原理、分布式部署与性能调优完全指南
2026-06-08 22:53:03 +0800 CST
view 82
深度解析vLLM推理框架的核心原理、PagedAttention创新机制、分布式推理架构,以及生产环境部署的最佳实践。
vLLM
PagedAttention
LLM推理
KV缓存
分布式推理
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
编程
分布式 LLM 推理架构深度实战:从 vLLM 单节点到 llm-d 多集群的生产级演进全链路解析
2026-05-09 03:39:58 +0800 CST
view 388
深度解析分布式 LLM 推理架构,从 vLLM 单节点到 llm-d 多集群的生产级演进。涵盖推理引擎层、编排调度层、Kubernetes 多机多卡部署实战、性能优化技巧及成本优化策略。
LLM
vLLM
分布式推理
Kubernetes
Ray
推理引擎
Google AI Edge Gallery:手机离线跑大模型时代来了,2.2万Star端侧AI神器
案例
Google AI Edge Gallery:手机离线跑大模型时代来了,2.2万Star端侧AI神器
2026-05-09 07:36:45 +0800 CST
view 466
Google开源AI神器AI Edge Gallery斩获2.2万Star,支持iOS和Android手机离线运行Gemma 4等大模型,提供AI Chat、Ask Image、Audio Scribe、Agent Skills四大功能,消费级入口形态让普通用户轻松体验端侧AI
端侧AI
手机大模型
离线推理
Gemma 4
Google开源
iOS
Android
BrickNet开源:AI玩乐高不再翻车,连接图让积木组装零误差
案例
BrickNet开源:AI玩乐高不再翻车,连接图让积木组装零误差
2026-05-09 07:38:19 +0800 CST
view 270
BrickNet开源项目:用连接图替代绝对坐标预测,解决AI乐高组装的误差累积问题。基于Qwen 3训练,标注五种连接器类型,使用32万+组装样本数据集,生成物理可行的分步组装程序,可直接用于机器人执行
AI乐高
连接图生成
3D组装
Qwen 3
结构推理
LDraw
机器人组装
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
下一页