程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
编程
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
2026-07-29 09:44:03 +0800 CST
view 281
深度拆解清华开源的 KTransformers:MoE 稀疏性卸载、AMX/Marlin 高性能算子、CUDA Graph 与 YAML 注入框架四层架构,单张 4090 跑满血 DeepSeek-R1 671B,附完整部署实战与性能调优清单。
KTransformers
异构推理
MoE
DeepSeek
AMX
CUDA Graph
大模型部署
性能优化
开源
GuppyLM:5分钟从零训练一个LLM,870万参数小鱼模型的完整教学
编程
GuppyLM:5分钟从零训练一个LLM,870万参数小鱼模型的完整教学
2026-05-01 04:35:06 +0800 CST
view 709
GuppyLM是开源教育项目,870万参数小鱼角色扮演模型,5分钟Colab训练,覆盖数据生成到ONNX部署全流程,适合LLM初学者。
LLM
深度学习
开源
教学
Transformer
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 +0800 CST
view 281
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
编程
Stanford CS336 深度实战:从零实现大语言模型——数据清洗、Transformer 架构、FlashAttention 系统优化到 RL 对齐的完全指南(2026)
2026-06-02 20:14:38 +0800 CST
view 827
Stanford CS336 课程深度解读:从零实现大语言模型,覆盖 Tokenizer、Transformer、FlashAttention-2、FSDP 分布式训练、Scaling Law、Common Crawl 数据清洗去重、SFT 与 GRPO 对齐,配完整代码示例。
LLM
Transformer
Stanford CS336
FlashAttention
PyTorch
AI工程
分布式训练
强化学习
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 420
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 443
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
Transformers.js v4 深度解析:WebGPU 原生化让 AI 推理在 Node/Bun/Deno 中真正起飞
编程
Transformers.js v4 深度解析:WebGPU 原生化让 AI 推理在 Node/Bun/Deno 中真正起飞
2026-04-12 04:55:32 +0800 CST
view 1121
深度解析 Transformers.js v4 的 WebGPU 原生化架构:如何用 C++ 重写 WebGPU Runtime、与 ONNX Runtime 深度集成、在 Node/Bun/Deno 中实现原生 GPU AI 推理。包含代码实战、性能对比与生产部署指南。
JavaScript
AI
WebGPU
Transformers
HuggingFace
Node.js
Bun
Deno
ONNX
NVIDIA Cosmos 3 深度实战:当世界模型重塑 Physical AI——从 MoT 架构到机器人策略的生产级完全指南(2026)
编程
NVIDIA Cosmos 3 深度实战:当世界模型重塑 Physical AI——从 MoT 架构到机器人策略的生产级完全指南(2026)
2026-06-12 15:50:50 +0800 CST
view 770
深入解析 NVIDIA Cosmos 3 全模态物理 AI 世界模型:MoT 双塔架构、统一动作表征、3D MRoPE 位置编码,以及 Hugging Face 实战代码。适合机器人、自动驾驶、AI 研究者和工程师。
NVIDIA
Cosmos
世界模型
Physical AI
MoT
机器人
Transformer
具身智能
JoyAI-Video-Edit 深度拆解:当京东决定「让视频边播边改」——从流式推理引擎到帧级实时编辑,一个今天刚开源的模型如何用「720P/30fps」重新定义视频创作的终极形态
编程
JoyAI-Video-Edit 深度拆解:当京东决定「让视频边播边改」——从流式推理引擎到帧级实时编辑,一个今天刚开源的模型如何用「720P/30fps」重新定义视频创作的终极形态
2026-08-05 16:46:18 +0800 CST
view 228
深度拆解京东开源的实时流式视频编辑模型JoyAI-Video-Edit:720P/30fps实时推理、滑动窗口注意力机制、帧间一致性约束、四大编辑能力(全局风格/局部替换/局部删除/字幕编辑),OpenVE-Bench全面领先,覆盖电商直播到具身智能的完整应用生态
JoyAI-Video-Edit
京东
视频编辑
流式推理
Diffusion Transformer
实时编辑
OpenVE-Bench
开源
AI视频
多模态
2.8秒超越4小时调优:TabPFN如何用Transformer重写表格数据机器学习
编程
2.8秒超越4小时调优:TabPFN如何用Transformer重写表格数据机器学习
2026-05-12 00:20:07 +0800 CST
view 744
深度解析TabPFN如何用Transformer架构重写表格数据机器学习范式:从合成数据预训练、先验数据拟合原理、2.8秒vs4小时性能对比,到TabPFN-2.5的10万行处理能力与SAP收购战略意义,附完整代码示例
TabPFN,表格数据,Transformer,AutoML,机器学习,XGBoost,PriorLabs,深度学习,基础模型,Python
10天破3800星!Claude Code Skill一句话生成7种风格技术图表
编程
10天破3800星!Claude Code Skill一句话生成7种风格技术图表
2026-04-21 11:04:25 +0800 CST
view 853
fireworks-tech-graph:10天3800星的Claude Code Skill,用自然语言生成7种风格的技术图表,支持RAG、Mem0、多Agent等架构图,Mermaid画不出来的它能补位
Claude Code
Skill
AI画图
图表生成
Claude Code Skills
技术图
架构图
Mermaid
开源
GitHub
Chrome DevTools MCP 深度解析:Google 官方 45K Stars 的 AI 浏览器调试协议如何让编码 Agent 掌控 Console、Network、Performance 全链路——从 MCP 协议架构到生产级前端调试工作流的完整实战指南
编程
Chrome DevTools MCP 深度解析:Google 官方 45K Stars 的 AI 浏览器调试协议如何让编码 Agent 掌控 Console、Network、Performance 全链路——从 MCP 协议架构到生产级前端调试工作流的完整实战指南
2026-07-07 01:12:47 +0800 CST
view 413
深度解析Google官方开源的Chrome DevTools MCP:45K+ Stars,通过MCP协议将Chrome DevTools的完整调试能力暴露给AI编码Agent。从协议架构、10大类40+工具清单、与Playwright MCP对比到WebMCP下一代标准。
Chrome DevTools
MCP
AI Agent
浏览器调试
Google
Console
Performance
前端开发
开源
Gemma 4 MoE 架构技术深度解析:Dense MLP + Routed MoE 双路径设计如何重塑开源大模型
编程
Gemma 4 MoE 架构技术深度解析:Dense MLP + Routed MoE 双路径设计如何重塑开源大模型
2026-04-21 14:22:20 +0800 CST
view 811
深度解析 Google Gemma 4 的 Dual-Path 混合架构设计:Dense MLP 保障通用基座能力,Routed MoE 释放专业化推理效率。一文吃透技术原理、部署实战与选型对比。
Gemma 4
MoE架构
Dense MLP
Routed MoE
Google DeepMind
开源大模型
Transformer
模型部署
混合专家
Anthropic 在 Claude 内部发现了"意识前厅":J空间如何重写 AI 可解释性与安全格局
编程
Anthropic 在 Claude 内部发现了"意识前厅":J空间如何重写 AI 可解释性与安全格局
2026-07-13 15:14:42 +0800 CST
view 375
2026年7月Anthropic重磅论文解读:Claude内部自发涌现的J空间(雅可比空间)与人类全局工作空间高度相似,从神经科学理论到五大因果实验,从AI可解释性突破到安全范式革命,一次把大模型内部黑箱讲透。
Claude
Anthropic
J空间
全局工作空间
AI可解释性
AI安全
大模型
意识科学
Transformer
AGI
红队测试
WebAssembly Component Model 深度解析:用 WIT 接口定义 + 跨语言互操作把 WASM 从「语言孤岛」变成「组件联邦」
编程
WebAssembly Component Model 深度解析:用 WIT 接口定义 + 跨语言互操作把 WASM 从「语言孤岛」变成「组件联邦」
2026-07-07 12:16:32 +0800 CST
view 404
深度解析 WebAssembly Component Model:WIT 接口类型语言、World 世界定义、WASI 0.2.0 系统接口、跨语言互操作、Rust+Go+JS 多组件组合实战、Wasmtime 和 Fermyon Spin 生产级部署。
WebAssembly
WASM
Component Model
WIT
WASI
跨语言
Bytecode Alliance
wasmtime
Fermyon
流式3D重建的工程革命:lingbot-map 如何用几何上下文Transformer颠覆实时空间感知
编程
流式3D重建的工程革命:lingbot-map 如何用几何上下文Transformer颠覆实时空间感知
2026-07-25 19:44:11 +0800 CST
view 212
深度解析2026年GitHub爆火项目lingbot-map:从传统离线重建困境到前馈式流式架构,深入拆解几何上下文Transformer的极线约束、深度先验机制,附完整Python实战代码与性能调优指南。
流式3D重建
lingsbot-map
几何上下文Transformer
实时重建
计算机视觉
点云
SLAM
深度学习
前馈网络
机器人导航
MiniMax M3 & MSA 深度实战:当国产大模型用「稀疏注意力」重写 Transformer 规则——从 1M 上下文架构原理到生产级 Agent 部署的完全指南(2026)
编程
MiniMax M3 & MSA 深度实战:当国产大模型用「稀疏注意力」重写 Transformer 规则——从 1M 上下文架构原理到生产级 Agent 部署的完全指南(2026)
2026-06-13 23:46:46 +0800 CST
view 659
深度拆解MiniMax M3的MSA稀疏注意力架构:两级路由原理、MSA vs MoE技术对比、1M上下文实战、Agent部署、性能基准测试、选型决策指南
MiniMax M3
MSA
稀疏注意力
大模型
Agent
AI
Transformer
开源模型
嵌入式Rust vs C工业级实测:ST+Inria 10周盲测揭秘——Rust真的能在C的主场打败C?
编程
嵌入式Rust vs C工业级实测:ST+Inria 10周盲测揭秘——Rust真的能在C的主场打败C?
2026-06-26 18:16:38 +0800 CST
view 447
ST微电子与Inria研究所联合研究:两个团队并行开发相同固件功能,Rust团队内存占用比C少45%,JSON序列化速度提升3倍,且Rust团队开发经验更少。深入解析两种语言的嵌入式开发范式差异。
Rust
嵌入式
STM32
Cortex-M
no_std
Embassy
serde-json-core
memory-safety
ARM
IoT
AirLLM深度拆解:用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标
编程
AirLLM深度拆解:用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标
2026-08-09 08:42:54 +0800 CST
view 215
深度拆解AirLLM:用分层流式推理打破显存壁垒,从4GB显卡跑通70B大模型的工程原理到MoE时代的新坐标,配完整代码示例与实战指南。
AirLLM
LLM推理
显存优化
MoE
Transformer
Python
AI部署
MiniMax H3 开源全模态视频模型深度解析:从架构设计到本地部署实战
编程
MiniMax H3 开源全模态视频模型深度解析:从架构设计到本地部署实战
2026-08-09 09:15:42 +0800 CST
view 298
深度解析MiniMax H3开源视频模型的技术架构、核心原理与本地部署实战,涵盖Contextual Omni Representation、H3-VAE、H3-Omni Transformer、In-context Regeneration四项核心技术与完整部署指南。
AI
开源
视频生成
MiniMax
H3
多模态
Transformer
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
编程
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
2026-04-15 17:20:25 +0800 CST
view 857
深度解析中科院与腾讯微信联合研发的 FlashPrefill 如何通过即时注意力模式发现和动态阈值筛选,将 25.6 万字符长文本处理速度提升 27.78 倍,同时保持近乎完美的精度。
LLM推理优化
FlashAttention
GPU计算
长文本处理
注意力机制
Transformer
深度学习
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
编程
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
2026-05-28 19:39:07 +0800 CST
view 1020
深入解析 DFlash 块扩散投机解码方案:如何让 Qwen3-8B 实现 6 倍无损加速,超越 EAGLE-3 与 llama.cpp,附 SGLang/vLLM/MLX 完整部署指南。
LLM推理
投机解码
块扩散
DFlash
推理加速
Transformer优化
GPU
CUDA
SGLang
vLLM
MELT架构深度解析:高通如何让AI"深度思考"不再耗尽内存——循环Transformer的内存革命
编程
MELT架构深度解析:高通如何让AI"深度思考"不再耗尽内存——循环Transformer的内存革命
2026-05-19 13:46:15 +0800 CST
view 542
高通AI研究院提出的MELT架构通过门控机制让循环Transformer的内存消耗保持恒定,无论思考多少轮。本文深度解析其架构原理、数学推导、训练策略与性能实测。
AI
Transformer
内存优化
深度推理
高通
腾讯开源Agent Memory:上下文卸载+Mermaid任务画布,Token消耗降低61%
编程
腾讯开源Agent Memory:上下文卸载+Mermaid任务画布,Token消耗降低61%
2026-05-14 15:31:52 +0800 CST
view 959
腾讯云开源TencentDB Agent Memory,通过上下文卸载+Mermaid任务画布为Agent长任务提供记忆压缩,实测Token消耗降低61%同时提升成功率,兼容OpenClaw/Hermes,零依赖SQLite本地存储。
AI Agent
腾讯开源
上下文管理
Token优化
Mermaid
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
5
6
7
8
9
...
95
下一页