程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Kimi K3 深度拆解:当月之暗面决定「把开源模型的天花板从 1.6T 抬到 2.8T」——KDA 注意力、Stable LatentMoE 与自进化 GPU 内核如何重新定义 3 万亿级开源大模型的终极形态
编程
Kimi K3 深度拆解:当月之暗面决定「把开源模型的天花板从 1.6T 抬到 2.8T」——KDA 注意力、Stable LatentMoE 与自进化 GPU 内核如何重新定义 3 万亿级开源大模型的终极形态
2026-08-05 03:45:07 +0800 CST
view 263
深度拆解2.8万亿参数全球最大开源模型Kimi K3:KDA混合线性注意力机制、Stable LatentMoE稀疏专家路由、Attention Residuals选择性深度表示、Per-Head Muon逐头优化器,附完整架构分析与部署指南
Kimi K3
月之暗面
开源大模型
KDA注意力
MoE
2.8万亿参数
AI Agent
GPU内核优化
DeepSeek V4 Flash 深度拆解:当一个「轻量级」模型单日吞掉8万亿Token——静态知识分离、MoE稀疏路由与百万上下文如何重新定义AI推理的经济底线
编程
DeepSeek V4 Flash 深度拆解:当一个「轻量级」模型单日吞掉8万亿Token——静态知识分离、MoE稀疏路由与百万上下文如何重新定义AI推理的经济底线
2026-08-05 04:13:52 +0800 CST
view 272
深度拆解DeepSeek V4 Flash:284B总参数13B激活参数的MoE架构如何通过静态知识分离和两级路由器实现单日8万亿Token调用量,百万token上下文+极致定价重新定义AI推理经济底线
DeepSeek
V4 Flash
MoE
静态知识分离
稀疏路由
百万Token上下文
AI推理
开源大模型
成本优化
DiffusionGemma 深度实战:当离散文本扩散颠覆自回归霸权——从并行去噪原理到 MoE 架构、本地推理优化与混合范式展望的生产级完全指南(2026)
编程
DiffusionGemma 深度实战:当离散文本扩散颠覆自回归霸权——从并行去噪原理到 MoE 架构、本地推理优化与混合范式展望的生产级完全指南(2026)
2026-06-17 07:55:50 +0800 CST
view 452
Google开源DiffusionGemma:基于离散文本扩散的26B MoE模型,并行去噪实现4倍推理加速,双向注意力天然支持代码补全与行内编辑
DiffusionGemma
LLM
扩散模型
推理加速
MoE
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的旗舰模型开源」——MoE 稀疏路由、百万 Token 上下文与自主编码能力如何重新定义开源大模型的终极形态
编程
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的旗舰模型开源」——MoE 稀疏路由、百万 Token 上下文与自主编码能力如何重新定义开源大模型的终极形态
2026-08-05 05:46:24 +0800 CST
view 241
深度拆解阿里Qwen3.8-Max:2.4万亿参数MoE旗舰模型,950亿激活参数,100万Token上下文,原生多模态,自主编码16天265次提交,Arena全球第二,Max级模型首次开源
Qwen3.8
MoE
开源大模型
阿里
千问
混合专家
100万Token
自主编码
多模态
2.4万亿参数
Kimi K2.7 Code 深度实战:当 1 万亿参数 MoE 架构遇见编码 Agent——从 256K 超长上下文到 thinking-token 暴降 30% 的生产级完全指南(2026)
编程
Kimi K2.7 Code 深度实战:当 1 万亿参数 MoE 架构遇见编码 Agent——从 256K 超长上下文到 thinking-token 暴降 30% 的生产级完全指南(2026)
2026-06-17 08:28:27 +0800 CST
view 600
深度解析月之暗面Kimi K2.7 Code开源编程模型:1T MoE架构、256K超长上下文、thinking-token暴降30%的生产级完全指南。涵盖架构原理、API接入、本地部署、Agent集成、性能优化等全链路实战。
Kimi
K2.7
AI编程
MoE架构
长上下文
Agent
Kimi K2.7 Code 完全指南:当 1 万亿参数 MoE 遇见编码 Agent——256K 上下文×thinking-token 暴降 30% 的生产级实战(2026)
编程
Kimi K2.7 Code 完全指南:当 1 万亿参数 MoE 遇见编码 Agent——256K 上下文×thinking-token 暴降 30% 的生产级实战(2026)
2026-06-17 08:28:57 +0800 CST
view 564
深度解析月之暗面Kimi K2.7 Code开源编程模型:1T MoE架构、256K超长上下文、thinking-token暴降30%的生产级完全指南。涵盖架构原理、API接入、本地部署、Agent集成、性能优化等全链路实战。
Kimi
K2.7
AI编程
MoE架构
长上下文
Agent
Qwen3.8-2.4T-A95B 深度技术拆解:从2.4万亿参数MoE架构到本地部署的完整工程实践(2026)
编程
Qwen3.8-2.4T-A95B 深度技术拆解:从2.4万亿参数MoE架构到本地部署的完整工程实践(2026)
2026-08-13 19:44:17 +0800 CST
view 216
深度拆解阿里开源的Qwen3.8-2.4T-A95B模型:2.4万亿参数、512专家MoE架构、混合注意力机制、MTP多Token预测、9芯适配、vLLM/SGLang部署实战与性能优化,附15条生产踩坑清单。
Qwen3.8
MoE架构
混合专家
开源大模型
本地部署
人工智能
百度开源Unlimited OCR:3B参数500M激活拿下全球第一,疑似DeepSeek出走大神之作
编程
百度开源Unlimited OCR:3B参数500M激活拿下全球第一,疑似DeepSeek出走大神之作
2026-06-22 20:57:32 +0800 CST
view 1037
百度开源Unlimited OCR:3B参数500M激活,在OmniDocBench v1.6拿下93.92%端到端SOTA超越Qwen3-VL和Gemini。核心技术R-SWA参考滑动窗口注意力+DeepEncoder 16倍视觉压缩,实现40+页长程解析不失忆。疑似DeepSeek OCR核心作者魏浩然出走百度之作。
百度
OCR
开源
R-SWA
DeepEncoder
MoE
长程解析
SOTA
DeepSeek V4 Pro 深度拆解:1.6万亿参数MoE与百万上下文,从 CSA/HCA 分层注意力到 Agent 实战的完整指南(2026)
编程
DeepSeek V4 Pro 深度拆解:1.6万亿参数MoE与百万上下文,从 CSA/HCA 分层注意力到 Agent 实战的完整指南(2026)
2026-08-13 23:12:57 +0800 CST
view 164
深度拆解 DeepSeek V4 Pro:1.6万亿参数MoE、49B激活、CSA/HCA分层注意力、百万上下文成本结构、OpenAI/Anthropic双协议兼容与Agent代码实战,附15条生产踩坑清单。
DeepSeek V4 Pro
MoE
长上下文
Agent
大模型
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
编程
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
2026-05-11 10:53:54 +0800 CST
view 779
DeepSeek-V4-Pro 以 1.6T 总参数、49B 激活参数的 MoE 架构,原生支持 100 万 token 上下文,同时将推理算力降至 V3.2 的 27%、KV Cache 降至 10%。本文深度解析 CSA/HCA 混合注意力机制、mHC 流形约束超连接、KV Cache 极致优化、Muon 优化器等核心技术创新,以及如何在 Ollama、vLLM、官方 API 三种方式下部署运行。
DeepSeek-V4,MoE架构,CSA注意力,HCA注意力,KV Cache,1M上下文,长文本推理,开源大模型
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
编程
百度 Unlimited-OCR 深度解析:R-SWA 注意力机制如何用 3B 参数打爆百亿模型
2026-06-30 16:16:03 +0800 CST
view 361
2026年6月百度开源Unlimited-OCR深度解析:R-SWA参考滑动窗口注意力机制将KV Cache从线性增长压成常数,3B MoE模型用500M激活参数在OmniDocBench上以93.92%总分刷新SOTA,打爆Qwen3-VL 72B和Gemini 2.5 Pro。万字长文从架构原理到代码实战全覆盖。
Unlimited-OCR
端到端OCR
R-SWA
百度
注意力机制
大模型
MoE
深度学习
AI开源
文档解析
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
编程
DwarfStar 4 深度拆解:当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存,一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 +0800 CST
view 240
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4:One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层,附完整架构分析与性能基准
DwarfStar
DeepSeek
本地推理
MoE
Metal
Apple Silicon
antirez
Redis
AI推理
开源
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
编程
Kimi K3 深度拆解:2.8 万亿参数开放权重,KDA 线性注意力与 896 专家稀疏路由如何撑起 100 万 token 上下文
2026-07-30 05:44:46 +0800 CST
view 169
深度拆解月之暗面开源的 Kimi K3:2.8T 参数 Stable Latent MoE(896选16)、KDA 混合线性注意力、AttnRes 与 MXFP4 量化训练,附玩具级代码实现、1M 上下文整库审查实战与冷静的成本边界分析。
Kimi K3
开放权重
MoE
线性注意力
KDA
长上下文
大模型
MXFP4
AI Agent
开源
LongCat-2.0 深度解析:美团万亿参数大模型如何用「零计算专家」和「稀疏注意力」在国产算力上跑出 SWE-bench Pro 59.5 分——从架构设计到 API 接入的完整实战指南
编程
LongCat-2.0 深度解析:美团万亿参数大模型如何用「零计算专家」和「稀疏注意力」在国产算力上跑出 SWE-bench Pro 59.5 分——从架构设计到 API 接入的完整实战指南
2026-07-06 11:44:38 +0800 CST
view 543
深度解析美团开源LongCat-2.0万亿参数大模型:MoE架构1.6T参数/48B激活、LongCat稀疏注意力(LSA)实现1M上下文、零计算专家动态激活、MOPD多专家融合、五万卡国产算力全流程训练、SWE-bench Pro 59.5超越GPT-5.5。含完整API接入代码实战。
LongCat
美团
大模型
MoE
稀疏注意力
国产算力
Agentic Coding
开源
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的 Max 模型开源」——从 MoE 架构到 16 天自主编程,一个首次开源的旗舰大模型如何用「激活 95B 跑出 2.4T 效果」重新定义开源模型的终极形态
编程
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的 Max 模型开源」——从 MoE 架构到 16 天自主编程,一个首次开源的旗舰大模型如何用「激活 95B 跑出 2.4T 效果」重新定义开源模型的终极形态
2026-08-05 18:47:19 +0800 CST
view 252
深度拆解阿里Qwen3.8-Max:2.4万亿参数MoE旗舰,首次开源Max级权重,100万token上下文,16天自主编程oh-my-cli项目,Gated DeltaNet混合注意力架构,Arena全球第二,Apache 2.0完全可商用
Qwen3.8
Qwen
阿里
大模型
MoE
开源
人工智能
Apache 2.0
自主编程
oh-my-cli
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
编程
万字深度解析百度 Unlimited OCR:当 R-SWA 遇见 MoE——3B 参数如何碾压端到端 OCR 全场(2026)
2026-07-01 03:42:17 +0800 CST
view 362
2026年6月百度开源Unlimited OCR,5天GitHub Star破万。深度解析R-SWA注意力机制、MoE架构、16倍视觉Token压缩,以及为何能将KV Cache从线性增长压成常数。
Unlimited OCR
OCR
R-SWA
MoE
百度
深度学习
计算机视觉
文档识别
KV Cache
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
编程
colibrì 深度拆解:当1300行纯C在25GB笔记本上跑起744B大模型——纯C运行时、MoE稀疏激活与智谱GLM-5.2的工程奇迹(2026)
2026-07-19 09:14:11 +0800 CST
view 1135
纯C语言实现的大模型推理引擎,仅用1300行代码在25GB内存笔记本上运行744B参数的GLM-5.2 MoE模型,含完整代码示例与技术解析
C语言
GLM-5.2
MoE
大模型推理
量化
AVX2
MLA注意力
推测解码
Apple Silicon
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
编程
170亿参数撬动万亿算力:Llama 4 Scout/Maverick如何用MoE架构重新定义开源大模型
2026-05-11 20:48:39 +0800 CST
view 884
深度解析Llama 4 Scout/Maverick的MoE架构、128专家设计、1000万token超长上下文,附本地部署实战与许可证分析
Meta
Llama4
MoE
开源大模型
混合专家架构
Scout
Maverick
iRoPE
DeepSeek V4 Flash 深度拆解:当后训练决定「不改架构只改脑子」——从 DSA2 混合注意力到 98% 缓存命中,一个 13B 激活参数的轻量模型如何用「后训练革命」在 9 项 Agent 基准上全面超越自家 1.6 万亿旗舰预览版
编程
DeepSeek V4 Flash 深度拆解:当后训练决定「不改架构只改脑子」——从 DSA2 混合注意力到 98% 缓存命中,一个 13B 激活参数的轻量模型如何用「后训练革命」在 9 项 Agent 基准上全面超越自家 1.6 万亿旗舰预览版
2026-08-05 22:19:15 +0800 CST
view 239
深度拆解DeepSeek V4-Flash正式版:13B激活参数如何通过后训练革命在9项Agent基准上超越1.6万亿旗舰预览版,98%缓存命中实现/bin/zsh.03单任务成本,DSA2混合注意力架构全面解析
DeepSeek
V4-Flash
MoE
DSA2
Agent
开源大模型
稀疏注意力
后训练
成本优化
国产算力
DiffusionGemma 深度实战:当谷歌用图像扩散的逻辑重塑文本生成——从离散扩散原理到 4 倍推理加速的生产级完全指南(2026)
编程
DiffusionGemma 深度实战:当谷歌用图像扩散的逻辑重塑文本生成——从离散扩散原理到 4 倍推理加速的生产级完全指南(2026)
2026-06-17 23:28:33 +0800 CST
view 668
2026年6月谷歌开源DiffusionGemma,26B MoE参数仅激活3.8B,通过离散扩散实现4倍推理加速。本文从原理、架构、代码实战、性能优化全面深度解析这一范式级创新。
DiffusionGemma
谷歌
文本扩散
MoE
AI推理
Gemma
开源模型
离散扩散
并行生成
深度学习
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
编程
万字深度解析 DeepSeek V4:当 1.6 万亿参数遇见 DSA 稀疏注意力——开源大模型如何让 API 账单暴降 95%(2026)
2026-07-01 07:13:58 +0800 CST
view 462
2026年4月DeepSeek V4发布,1.6万亿参数+百万上下文+SWE-Bench 80.6%,API成本暴降95%。深度解析DSA稀疏注意力、MoE架构、生产级部署实战。
DeepSeek V4
DSA 稀疏注意力
MoE 架构
百万上下文
开源大模型
API 成本优化
大模型部署
Agent 能力
SWE-Bench
DeepSeek
Go 1.23 深度解析:性能认知革命与云原生范式的深度适配
编程
Go 1.23 深度解析:性能认知革命与云原生范式的深度适配
2026-05-12 02:28:37 +0800 CST
view 710
深度解析Go 1.23的核心突破:性能认知框架从被动调优转向主动设计、GC P99停顿降低37%(启用gcplineline)、泛型约束简化(T语法)、net/http HTTP/3统一收口、strings/bytes包零分配优化、Windows UTF-8原生支持、GOEXPERIMENT特性(gcplineline/fieldtrack/bignum/rtmlock)、零拷贝切片操作unsafe.String/slice
Go1.23,性能优化,GC,泛型,HTTP/3,标准库,Windows,GOEXPERIMENT,零拷贝,云原生
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
编程
colibrì 深度拆解:1300行纯C代码驱动7440亿参数大模型——当「不可能」变成「只是慢」
2026-07-19 14:42:08 +0800 CST
view 532
深度拆解 colibrì 项目:一位意大利开发者用 10 天、1300 行纯 C 代码,在 25GB 笔记本上运行 7440 亿参数大模型的工程全貌。涵盖 MoE 稀疏推理、NVMe 流式专家、MLA 注意力、MTP 推测解码等核心技术的完整解析。
C语言
MoE
大模型
NVMe
量化
GPU
深度学习
GLM-5.2
推理引擎
推测解码
LongCat-2.0 深度解析:美团万亿参数 MoE 大模型如何用国产算力 + LSA 稀疏注意力 + 零计算专家打造 Agentic Coding 王者——从架构原理到生产级实战的完整指南
编程
LongCat-2.0 深度解析:美团万亿参数 MoE 大模型如何用国产算力 + LSA 稀疏注意力 + 零计算专家打造 Agentic Coding 王者——从架构原理到生产级实战的完整指南
2026-07-07 00:13:46 +0800 CST
view 370
深度解析美团开源的LongCat-2.0万亿参数MoE大模型:50K国产卡全流程训练、LSA稀疏注意力实现1M超长上下文、零计算专家动态激活33B-56B、MOPD多专家融合、SWE-bench Pro 59.5超越GPT-5.5。从架构原理到生产级实战的完整指南。
LongCat-2.0
美团
MoE
万亿参数
国产算力
LSA稀疏注意力
Agentic Coding
开源大模型
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
40
下一页