程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
编程
vLLM 2026 推理引擎全解:从 PagedAttention 到分离式 Prefill,如何把大模型跑出 GPU 极限性能
2026-06-29 17:16:04 +0800 CST
view 589
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
编程
万字长文拆解 vLLM 0.18:PagedAttention 如何用操作系统思维颠覆大模型推理
2026-06-29 17:17:00 +0800 CST
view 363
2026年vLLM 0.18深度解析:PagedAttention显存管理、EAGLE3推测解码、连续批处理、分离式Prefill、FP4量化,附生产级部署代码与Benchmark对比
vLLM
LLM推理
PagedAttention
推测解码
EAGLE3
FP4量化
CUDA
GPU性能优化
DeepSeek DeepGEMM 2026年4月重磅更新:Mega MoE融合算子、FP4精度与极致性能优化
编程
DeepSeek DeepGEMM 2026年4月重磅更新:Mega MoE融合算子、FP4精度与极致性能优化
2026-04-23 08:41:45 +0800 CST
view 788
深度解析DeepSeek DeepGEMM 2026年4月重大更新:Mega MoE融合算子(dispatch+Linear+SwiGLU+Combine五合一,NVLink通信与Tensor Core计算重叠)、FP8xFP4 GEMM、FP4 Indexer、PDL调度优化与JIT加速,附完整代码实战。
DeepGEMM
DeepSeek
GPU优化
CUDA
FP8
FP4
MoE
AI Infra
高性能计算
NVIDIA
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 341
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
编程
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
2026-07-30 05:44:46 +0800 CST
view 114
深度拆解月之暗面开源的 Kimi K3:2.8T 参数 Stable Latent MoE(896选16)、KDA 混合线性注意力、AttnRes 与 MXFP4 量化训练,附玩具级代码实现、1M 上下文整库审查实战与冷静的成本边界分析。
Kimi K3
开放权重
MoE
线性注意力
KDA
长上下文
大模型
MXFP4
AI Agent
开源
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
编程
Shimmy 深度解剖:Airframe 引擎与 TurboShimmy INT4 KV——纯 Rust WebGPU 推理如何用 4GB 显存跑起 7B 模型
2026-07-25 10:15:27 +0800 CST
view 228
深度拆解 Shimmy v2.x 的 Airframe 纯 Rust WebGPU 推理引擎与 TurboShimmy INT4 KV Cache 压缩技术:从 WGSL shader 到 GGUF 模型加载,从跨平台 GPU 适配到 4GB 显存跑 7B 模型的工程真相。
Shimmy
WebGPU
GGUF
LLM推理
Rust
Inference Engine
TurboShimmy
INT4量化
消费级GPU
本地部署
wgpu
WGSL
Airframe
OpenAI API
Vite 6 深度解析:构建工具的新里程碑,如何让前端开发快上加快
编程
Vite 6 深度解析:构建工具的新里程碑,如何让前端开发快上加快
2026-05-12 02:18:40 +0800 CST
view 698
深度解析Vite 6的核心架构升级:Environment API实现浏览器/SSR/Edge Workers多环境统一构建、依赖预构建并行化让冷启动缩短40%、模块级HMR让热更新延迟低于10ms、Rollup 4集成提升生产构建速度29%、完整迁移指南与破坏性变更详解
Vite6,前端构建工具,Environment API,HMR,热更新,Rollup4,esbuild,性能优化,迁移指南,React,Vue,Svelte
Intel OpenVINO 2026.3 深度拆解:当推理工具包决定拥抱 Agentic AI——从 MoE 磁盘卸载到 GenAI 三条流水线全链路实战
编程
Intel OpenVINO 2026.3 深度拆解:当推理工具包决定拥抱 Agentic AI——从 MoE 磁盘卸载到 GenAI 三条流水线全链路实战
2026-08-12 14:45:58 +0800 CST
view 39
深度拆解 Intel OpenVINO 2026.3:MoE 磁盘卸载让 300 亿参数模型跑在 16GB 内存、三条 GenAI 新流水线(多模态 Omni/ASR/嵌入生成)、FP8 量化和持续批处理全链路实战,配完整 Python 代码与 15 条生产踩坑清单
OpenVINO
Intel
AI推理
MoE
GenAI
边缘计算
模型压缩
FP8量化
持续批处理
推测解码
Intel OpenVINO 2026.3 深度拆解:让 300 亿参数 MoE 模型跑进 16GB 内存的工程实践
编程
Intel OpenVINO 2026.3 深度拆解:让 300 亿参数 MoE 模型跑进 16GB 内存的工程实践
2026-08-09 03:16:31 +0800 CST
view 116
深度拆解 Intel OpenVINO 2026.3:MoE 模型磁盘卸载(16GB 运行 30B MoE)、FP8 量化、NNCF、持续批处理、至强 6+ AMX 加速、Omni 多模态流水线等核心新特性,含可运行代码与十大生产踩坑清单。
OpenVINO
Intel
AI推理
模型部署
LLM
MoE
FP8量化
持续批处理
异构计算
NPU
CPU优化
OpenVINO 2026.3 深度拆解:从 MoE 磁盘卸载到 FP8 量化,Intel 的端侧 AI 推理全家桶又升级了
编程
OpenVINO 2026.3 深度拆解:从 MoE 磁盘卸载到 FP8 量化,Intel 的端侧 AI 推理全家桶又升级了
2026-08-10 11:46:27 +0800 CST
view 87
深度拆解 Intel OpenVINO 2026.3 四大核心更新:MoE 磁盘卸载让 300B 模型跑在 16GB 机器上、Linux 懒加载消除权重复制、FP8 量化新能力、三条 GenAI 新流水线,配完整代码实战与性能数据对比
OpenVINO
Intel
AI推理
MoE
FP8量化
端侧部署
NNCF
LLM
CPU推理
DeepGEMM 深度解析:DeepSeek 开源的 FP8 GEMM 内核如何重塑 AI 推理性能边界
编程
DeepGEMM 深度解析:DeepSeek 开源的 FP8 GEMM 内核如何重塑 AI 推理性能边界
2026-04-21 05:16:09 +0800 CST
view 1092
深入剖析 DeepSeek 开源的 DeepGEMM 库:从 FP8 精度革命到 1550 TFLOPS 性能突破,揭秘现代 AI 推理基础设施的底层优化技术
DeepGEMM
FP8
DeepSeek
CUDA
AI推理
GPU优化
GEMM
TensorCore
NVIDIA Vera CPU 深度实战:首款 Agentic AI 原生 CPU 架构解析(2026)
编程
NVIDIA Vera CPU 深度实战:首款 Agentic AI 原生 CPU 架构解析(2026)
2026-06-18 16:29:37 +0800 CST
view 477
深度解析 NVIDIA 首款 Agentic AI 原生 CPU——Vera CPU 的架构设计、Olympus 核心创新、统一内存架构、CPU-GPU 协同方案,并提供 Python/Go 代码实战示例。
NVIDIA
Vera CPU
Agentic AI
Olympus架构
FP8
NVLink-C2C
Rubin GPU
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
编程
BitNet 1.58-bit:微软如何用三个值就让大模型在 CPU 上飞奔
2026-05-11 13:55:11 +0800 CST
view 709
微软开源BitNet 1.58-bit大模型推理框架,2B参数模型仅需0.4GB内存、29ms/token推理速度。核心创新:训练时量化、-1/0/+1三值权重、位运算加速,精度损失<5%却比INT4表现更好。纯CPU运行,71%能耗降低。
BitNet,1.58bit,微软,大模型量化,1bit LLM,CPU推理,bitnet.cpp,训练时量化,位运算加速,模型压缩
AI量化交易多智能体框架深度解析:从TradingAgents到Qlib,一场颠覆传统量化投资的技术革命
编程
AI量化交易多智能体框架深度解析:从TradingAgents到Qlib,一场颠覆传统量化投资的技术革命
2026-04-22 02:49:55 +0800 CST
view 1126
深入剖析TradingAgents、Qlib、VeighNa三大AI量化交易框架的技术架构与实战方法,从多智能体协作到工业级部署,一篇搞定AI量化的核心技术与最佳实践。
AI量化交易
多智能体
TradingAgents
Qlib
VeighNa
Python
量化投资
LLM
TradingAgents-CN 深度实战:当 AI 多智能体遇上量化交易——从架构原理到 A 股智能决策的完全指南(2026)
编程
TradingAgents-CN 深度实战:当 AI 多智能体遇上量化交易——从架构原理到 A 股智能决策的完全指南(2026)
2026-06-10 03:50:20 +0800 CST
view 799
深入解析 TradingAgents-CN 的核心架构、多智能体协作机制、A 股本地化适配方案,从零搭建生产级 AI 量化交易系统。
AI量化交易
多智能体系统
TradingAgents
量化交易
金融AI
Vibe-Trading 深度解析:HKUDS 开源 AI 量化交易 Agent——从自然语言到可执行策略、从多智能体架构到生产级部署的完整技术指南(2026)
编程
Vibe-Trading 深度解析:HKUDS 开源 AI 量化交易 Agent——从自然语言到可执行策略、从多智能体架构到生产级部署的完整技术指南(2026)
2026-07-04 17:12:17 +0800 CST
view 740
深度解析 HKUDS Vibe-Trading:AI 驱动的量化交易 Agent,支持自然语言驱动的策略研究、69+ 金融技能、16 通道 IM 消息、多智能体协作、Alpha Zoo 因子库,从架构原理到代码实战的完整技术指南。
Vibe-Trading
AI量化交易
多智能体
量化投资
开源
Python
LLM Agent
ReAct
因子研究
A股
FastAPI
ClickHouse 深度拆解:当关系型数据库学会「按列思考」——从 MergeTree 引擎、向量化执行到稀疏索引与生产级 OLAP 完全指南(2026)
编程
ClickHouse 深度拆解:当关系型数据库学会「按列思考」——从 MergeTree 引擎、向量化执行到稀疏索引与生产级 OLAP 完全指南(2026)
2026-07-17 02:44:42 +0800 CST
view 258
深度拆解 ClickHouse v25.8 LTS:从列存与向量化执行原理、MergeTree 引擎家族、稀疏主键索引、物理存储布局,到物化视图、跳数索引、Kafka 接入与 Python 实战、生产级性能优化完全指南。
ClickHouse
OLAP
列式存储
MergeTree
向量化执行
物化视图
数据分析
数据库
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
编程
RLX 深度拆解:MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
2026-08-04 01:43:34 +0800 CST
view 151
深度拆解MIT RLX纯Rust ML编译器架构:统一IR贯穿图优化到内核调度、15种硬件后端支持、JAX形自动微分、INT8量化感知训练、FPGA综合、Iroh NAT穿透分布式训练,附完整代码示例与性能优化实战指南
RLX
Rust
ML编译器
张量IR
自动微分
边缘计算
WebGPU
CUDA
Apple Silicon
量化部署
开源
Kronos 深度拆解:34K Star 的金融 K 线「大模型」,为什么说时间序列预测也迎来了自己的 GPT 时刻
编程
Kronos 深度拆解:34K Star 的金融 K 线「大模型」,为什么说时间序列预测也迎来了自己的 GPT 时刻
2026-07-28 06:43:51 +0800 CST
view 234
深度拆解 34K Star 的 AAAI 2026 开源项目 Kronos:首个金融 K 线基础模型,分层量化 Tokenizer + 自回归 Transformer 架构解析,附预测/批量推理/Qlib 微调 A 股实战与五条生产落地建议。
Kronos
时间序列
基础模型
量化交易
K线预测
Transformer
Qlib
金融AI
开源
深度学习
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
编程
2026年大模型推理框架横评:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST
view 405
深度对比2026年四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理,配生产级代码示例与实测性能数据。
LLM
vLLM
TensorRT-LLM
TGI
DeepSpeed
推理优化
量化
AI部署
FinceptTerminal 深度实战:当金融终端遇见C++20原生性能——从Bloomberg颠覆者到37个AI Agent的生产级完全指南(2026)
编程
FinceptTerminal 深度实战:当金融终端遇见C++20原生性能——从Bloomberg颠覆者到37个AI Agent的生产级完全指南(2026)
2026-06-16 05:46:53 +0800 CST
view 435
Bloomberg Terminal年费$24,000,FinceptTerminal以C++20+Qt6+嵌入式Python打造开源替代方案。深度剖析三层架构、现代C++20特性、Qt6渲染优化、Python零拷贝集成、GPU加速蒙特卡洛模拟,附完整可运行代码示例。
C++20
Qt6
金融终端
量化分析
Bloomberg替代
DuckDB 深度拆解:当「分析界的 SQLite」装上湖仓引擎——从向量化执行、VARIANT 类型到 DuckLake 三层架构革命(2026)
编程
DuckDB 深度拆解:当「分析界的 SQLite」装上湖仓引擎——从向量化执行、VARIANT 类型到 DuckLake 三层架构革命(2026)
2026-07-17 04:43:20 +0800 CST
view 236
深度拆解 DuckDB 1.5 Variegata:进程内向量化执行引擎、VARIANT 半结构化类型、与 DuckLake 湖仓三层架构,含 Python/SQL 实战与性能优化。
DuckDB
OLAP
向量化执行
VARIANT
DuckLake
湖仓一体
列式存储
数据分析
FinceptTerminal 深度实战:当 C++20 遇见金融终端——从 Qt6 原生渲染到 37 个 AI 智能体、从 QuantLib 定价引擎到 16 家券商直连的生产级完全指南(2026)
编程
FinceptTerminal 深度实战:当 C++20 遇见金融终端——从 Qt6 原生渲染到 37 个 AI 智能体、从 QuantLib 定价引擎到 16 家券商直连的生产级完全指南(2026)
2026-06-21 16:55:33 +0800 CST
view 515
深度解析开源金融终端FinceptTerminal:C++20+Qt6原生UI、内嵌Python量化引擎、37个AI智能体多角度分析、QuantLib定价、16家券商直连、零拷贝行情架构的完整实战指南
C++
Qt6
金融终端
量化交易
AI Agent
FinceptTerminal
QuantLib
Python
期权定价
开源
零成本跑AI股票分析,29.9K Star开源神器来了
编程
零成本跑AI股票分析,29.9K Star开源神器来了
2026-04-18 19:05:22 +0800 CST
view 1073
go-stock开源股票分析工具,AI赋能股票分析、选股、盯盘、报警推送,29.9K Stars
开源
Python
AI
股票
量化交易
工具
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
...
8
下一页