程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
编程
KTransformers 深度拆解:单张 4090 跑满血 DeepSeek-R1 671B,清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
2026-07-29 09:44:03 +0800 CST
view 222
深度拆解清华开源的 KTransformers:MoE 稀疏性卸载、AMX/Marlin 高性能算子、CUDA Graph 与 YAML 注入框架四层架构,单张 4090 跑满血 DeepSeek-R1 671B,附完整部署实战与性能调优清单。
KTransformers
异构推理
MoE
DeepSeek
AMX
CUDA Graph
大模型部署
性能优化
开源
GuppyLM:5分钟从零训练一个LLM,870万参数小鱼模型的完整教学
编程
GuppyLM:5分钟从零训练一个LLM,870万参数小鱼模型的完整教学
2026-05-01 04:35:06 +0800 CST
view 679
GuppyLM是开源教育项目,870万参数小鱼角色扮演模型,5分钟Colab训练,覆盖数据生成到ONNX部署全流程,适合LLM初学者。
LLM
深度学习
开源
教学
Transformer
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 +0800 CST
view 236
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
World Monitor 深度拆解:500+ 信息源、56 种地图图层、一套代码发 6 个站,日增 300 星的开源态势感知仪表盘怎么造
编程
World Monitor 深度拆解:500+ 信息源、56 种地图图层、一套代码发 6 个站,日增 300 星的开源态势感知仪表盘怎么造
2026-07-24 08:17:48 +0800 CST
view 517
深度拆解 GitHub Trending 榜首 World Monitor:500+ 信息源聚合去重管线、deck.gl/globe.gl 双地图引擎、281 个 Protobuf 防腐层、三层缓存、一套代码发 6 个变体站与 Tauri sidecar 安全教训,配可运行代码复现核心机制。
World Monitor
开源
deck.gl
Tauri
态势感知
信息聚合
边缘计算
Transformers.js
Ollama
TypeScript
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
编程
LCLM 深度实战:当「潜在上下文」颠覆大模型记忆困境——从 8.8 倍速提升到工业级部署的完整指南(2026)
2026-06-17 08:57:22 +0800 CST
view 381
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
编程
当「潜在上下文」颠覆大模型记忆困境:LCLM 8.8 倍速提升完整拆解与工业部署指南(2026)
2026-06-17 08:57:46 +0800 CST
view 393
深入解析2026年LCLM潜在上下文语言模型,8.8倍速度提升背后的技术原理与工业级部署实战,含完整代码示例与性能对比。
大模型
上下文压缩
KV缓存
LCLM
Transformer
AI优化
推理加速
NVIDIA Cosmos 3 深度实战:当世界模型重塑 Physical AI——从 MoT 架构到机器人策略的生产级完全指南(2026)
编程
NVIDIA Cosmos 3 深度实战:当世界模型重塑 Physical AI——从 MoT 架构到机器人策略的生产级完全指南(2026)
2026-06-12 15:50:50 +0800 CST
view 688
深入解析 NVIDIA Cosmos 3 全模态物理 AI 世界模型:MoT 双塔架构、统一动作表征、3D MRoPE 位置编码,以及 Hugging Face 实战代码。适合机器人、自动驾驶、AI 研究者和工程师。
NVIDIA
Cosmos
世界模型
Physical AI
MoT
机器人
Transformer
具身智能
JoyAI-Video-Edit 深度拆解:当京东决定「让视频边播边改」——从流式推理引擎到帧级实时编辑,一个今天刚开源的模型如何用「720P/30fps」重新定义视频创作的终极形态
编程
JoyAI-Video-Edit 深度拆解:当京东决定「让视频边播边改」——从流式推理引擎到帧级实时编辑,一个今天刚开源的模型如何用「720P/30fps」重新定义视频创作的终极形态
2026-08-05 16:46:18 +0800 CST
view 135
深度拆解京东开源的实时流式视频编辑模型JoyAI-Video-Edit:720P/30fps实时推理、滑动窗口注意力机制、帧间一致性约束、四大编辑能力(全局风格/局部替换/局部删除/字幕编辑),OpenVE-Bench全面领先,覆盖电商直播到具身智能的完整应用生态
JoyAI-Video-Edit
京东
视频编辑
流式推理
Diffusion Transformer
实时编辑
OpenVE-Bench
开源
AI视频
多模态
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
编程
µP 深度拆解:当调参侠终于破解 scaling 诅咒——从最大更新参数化到万亿参数大模型超参迁移的工程全貌(2026)
2026-07-19 08:43:41 +0800 CST
view 249
深度拆解微软/ OpenAI 的 µP(最大更新参数化)理论:从 Tensor Programs 数学框架、为什么标准参数化失效、到 PyTorch mup 库完整实战代码,含 Transformer 层、AdamW 配置、跨尺度超参数迁移验证与生产级 Pipeline。
µP
Max Update Parametrization
超参数迁移
Tensor Programs
深度学习
Transformer
LLM训练
AdamW
mup
微软
2.8秒超越4小时调优:TabPFN如何用Transformer重写表格数据机器学习
编程
2.8秒超越4小时调优:TabPFN如何用Transformer重写表格数据机器学习
2026-05-12 00:20:07 +0800 CST
view 697
深度解析TabPFN如何用Transformer架构重写表格数据机器学习范式:从合成数据预训练、先验数据拟合原理、2.8秒vs4小时性能对比,到TabPFN-2.5的10万行处理能力与SAP收购战略意义,附完整代码示例
TabPFN,表格数据,Transformer,AutoML,机器学习,XGBoost,PriorLabs,深度学习,基础模型,Python
Chrome DevTools MCP 深度解析:Google 官方 45K Stars 的 AI 浏览器调试协议如何让编码 Agent 掌控 Console、Network、Performance 全链路——从 MCP 协议架构到生产级前端调试工作流的完整实战指南
编程
Chrome DevTools MCP 深度解析:Google 官方 45K Stars 的 AI 浏览器调试协议如何让编码 Agent 掌控 Console、Network、Performance 全链路——从 MCP 协议架构到生产级前端调试工作流的完整实战指南
2026-07-07 01:12:47 +0800 CST
view 352
深度解析Google官方开源的Chrome DevTools MCP:45K+ Stars,通过MCP协议将Chrome DevTools的完整调试能力暴露给AI编码Agent。从协议架构、10大类40+工具清单、与Playwright MCP对比到WebMCP下一代标准。
Chrome DevTools
MCP
AI Agent
浏览器调试
Google
Console
Performance
前端开发
开源
Anthropic 在 Claude 内部发现了"意识前厅":J空间如何重写 AI 可解释性与安全格局
编程
Anthropic 在 Claude 内部发现了"意识前厅":J空间如何重写 AI 可解释性与安全格局
2026-07-13 15:14:42 +0800 CST
view 226
2026年7月Anthropic重磅论文解读:Claude内部自发涌现的J空间(雅可比空间)与人类全局工作空间高度相似,从神经科学理论到五大因果实验,从AI可解释性突破到安全范式革命,一次把大模型内部黑箱讲透。
Claude
Anthropic
J空间
全局工作空间
AI可解释性
AI安全
大模型
意识科学
Transformer
AGI
红队测试
Forge Admin:SpringBoot3+Vue3 企业级管理框架,AI写代码+一键生成大屏
编程
Forge Admin:SpringBoot3+Vue3 企业级管理框架,AI写代码+一键生成大屏
2026-05-12 12:15:31 +0800 CST
view 710
Forge Admin是一个微内核+插件化的企业级管理框架,基于SpringBoot3+JDK17+Vue3,AI驱动代码生成和一键数据大屏,支持7家AI供应商,核心只有几百KB,按需引入绝不冗余。
Forge Admin
SpringBoot3
Vue3
AI代码生成
数据大屏
微内核
Shepherd 深度解析:Stanford 把 Git 搬进 AI Agent 运行时——让 Agent 从「能跑」到「可回退、可监督、可训练」的完整实战指南
编程
Shepherd 深度解析:Stanford 把 Git 搬进 AI Agent 运行时——让 Agent 从「能跑」到「可回退、可监督、可训练」的完整实战指南
2026-07-07 13:19:13 +0800 CST
view 201
Stanford Christopher Manning团队发布Shepherd,把Git式版本控制引入AI Agent运行时:可逆执行轨迹让Agent执行可回退、可分叉、可重放;Syscall Jail把权限约束压到OS内核层物理不可绕过;Tree-GRPO让RL训练翻倍加速。完整实战+代码示例。
Shepherd
AI Agent
Meta-Agent
Git
Stanford
可逆执行
RL训练
Agent工程
版本控制
Python
流式3D重建的工程革命:lingbot-map 如何用几何上下文Transformer颠覆实时空间感知
编程
流式3D重建的工程革命:lingbot-map 如何用几何上下文Transformer颠覆实时空间感知
2026-07-25 19:44:11 +0800 CST
view 170
深度解析2026年GitHub爆火项目lingbot-map:从传统离线重建困境到前馈式流式架构,深入拆解几何上下文Transformer的极线约束、深度先验机制,附完整Python实战代码与性能调优指南。
流式3D重建
lingsbot-map
几何上下文Transformer
实时重建
计算机视觉
点云
SLAM
深度学习
前馈网络
机器人导航
InsForge 深度实战:面向AI编码代理的后端开发平台——2026年完全指南
编程
InsForge 深度实战:面向AI编码代理的后端开发平台——2026年完全指南
2026-05-25 03:34:05 +0800 CST
view 487
本文深入讲解InsForge的核心概念、架构设计、实战安装与插件开发,以及性能优化方法,帮助开发者全面掌握这一2026年热门的AI编码代理后端开发平台。
InsForge
AI编码代理
后端开发平台
开源项目
2026
MiniMax M3 & MSA 深度实战:当国产大模型用「稀疏注意力」重写 Transformer 规则——从 1M 上下文架构原理到生产级 Agent 部署的完全指南(2026)
编程
MiniMax M3 & MSA 深度实战:当国产大模型用「稀疏注意力」重写 Transformer 规则——从 1M 上下文架构原理到生产级 Agent 部署的完全指南(2026)
2026-06-13 23:46:46 +0800 CST
view 591
深度拆解MiniMax M3的MSA稀疏注意力架构:两级路由原理、MSA vs MoE技术对比、1M上下文实战、Agent部署、性能基准测试、选型决策指南
MiniMax M3
MSA
稀疏注意力
大模型
Agent
AI
Transformer
开源模型
AirLLM深度拆解:用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标
编程
AirLLM深度拆解:用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标
2026-08-09 08:42:54 +0800 CST
view 121
深度拆解AirLLM:用分层流式推理打破显存壁垒,从4GB显卡跑通70B大模型的工程原理到MoE时代的新坐标,配完整代码示例与实战指南。
AirLLM
LLM推理
显存优化
MoE
Transformer
Python
AI部署
MiniMax H3 开源全模态视频模型深度解析:从架构设计到本地部署实战
编程
MiniMax H3 开源全模态视频模型深度解析:从架构设计到本地部署实战
2026-08-09 09:15:42 +0800 CST
view 178
深度解析MiniMax H3开源视频模型的技术架构、核心原理与本地部署实战,涵盖Contextual Omni Representation、H3-VAE、H3-Omni Transformer、In-context Regeneration四项核心技术与完整部署指南。
AI
开源
视频生成
MiniMax
H3
多模态
Transformer
TimesFM 深度解析:Google Research 的时序预测基础模型,如何让预测速度提升 5 倍
编程
TimesFM 深度解析:Google Research 的时序预测基础模型,如何让预测速度提升 5 倍
2026-05-14 00:45:45 +0800 CST
view 615
TimesFM是Google Research开源的时序预测基础模型,支持Zero-Shot推理,预测速度比LSTM快15倍。本文深度解析其Decoder-Only Transformer架构、Next Patch Prediction预训练目标、代码实战及性能优化技巧。
TimesFM
Google
时序预测
基础模型
Transformer
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
编程
万字深度解析百度 Unlimited OCR:当长文档解析遇见 R-SWA 革命——从常数级 KV Cache 到 40 页一次性识别的完整技术指南(2026)
2026-07-02 18:16:20 +0800 CST
view 606
深度解析百度 Unlimited OCR 的 R-SWA 参考滑动窗口注意力机制,将 KV Cache 从线性增长压至常数级;3B MoE 解码器架构、DeepEncoder 视觉编码器;完整本地部署代码、KV Cache 监控脚本与 SGLang 生产推理优化指南。OmniDocBench v1.6 综合得分 93.92%,端到端 OCR 新 SOTA。
OCR
R-SWA
KV Cache
MoE
百度
长文档解析
Transformer
深度学习
Python
性能优化
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
编程
FlashPrefill 深度解析:当瞬时注意力遇上 GPU 原语——从 O(N²) 困境到 27 倍速的工程革命
2026-04-15 17:20:25 +0800 CST
view 807
深度解析中科院与腾讯微信联合研发的 FlashPrefill 如何通过即时注意力模式发现和动态阈值筛选,将 25.6 万字符长文本处理速度提升 27.78 倍,同时保持近乎完美的精度。
LLM推理优化
FlashAttention
GPU计算
长文本处理
注意力机制
Transformer
深度学习
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
编程
DFlash 深度解析:块扩散模型如何让 LLM 推理加速 6 倍——2026 投机解码完全指南
2026-05-28 19:39:07 +0800 CST
view 912
深入解析 DFlash 块扩散投机解码方案:如何让 Qwen3-8B 实现 6 倍无损加速,超越 EAGLE-3 与 llama.cpp,附 SGLang/vLLM/MLX 完整部署指南。
LLM推理
投机解码
块扩散
DFlash
推理加速
Transformer优化
GPU
CUDA
SGLang
vLLM
Pulumi 深度实战:当基础设施即代码终于学会「说人话」——从 HCL 方言困境、资源图到自动化 API 与策略即代码的生产级完全指南(2026)
编程
Pulumi 深度实战:当基础设施即代码终于学会「说人话」——从 HCL 方言困境、资源图到自动化 API 与策略即代码的生产级完全指南(2026)
2026-07-21 14:27:26 +0800 CST
view 232
2026 深度实战 Pulumi:从 HCL 方言困境、资源图与引擎架构,到 Go/TypeScript/Python 三栈代码实战、自动化 API、策略即代码与性能优化的生产级完全指南。
Pulumi
基础设施即代码
IaC
HCL
Terraform
OpenTofu
Go
TypeScript
Python
自动化API
策略即代码
云原生
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
3
4
5
6
7
...
68
下一页