程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
DeepSeek V4 专家模式深度解析:当国产大模型终于学会「分场景思考」
编程
DeepSeek V4 专家模式深度解析:当国产大模型终于学会「分场景思考」
2026-04-10 07:21:56 +0800 CST
view 855
DeepSeek V4专家模式深度解析:双模式架构、LTM长期记忆技术、6710亿参数、场景分层设计,标志着国产大模型从参数比拼转向精细化竞争
DeepSeek
V4
专家模式
国产大模型
AI
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
编程
TileKernels 深度解析:DeepSeek 用 80 行代码榨干 GPU,算子开发范式的降维打击
2026-04-30 03:22:15 +0800 CST
view 947
深度解析 DeepSeek 开源的高性能 GPU 算子库 TileKernels:基于 TileLang DSL 用 80 行代码实现手写 CUDA 级性能,覆盖 MoE Gating/Routing、FP8/FP4 量化、Engram 门控等七大算子家族,首次原生支持 NVIDIA Blackwell 架构,并通过 TVM 编译器打通昇腾等国产芯片。
DeepSeek
TileKernels
GPU
CUDA
TileLang
MoE
算子优化
DeepSeek V4 Flash 深度解析:MoE架构如何重塑大模型推理效率
编程
DeepSeek V4 Flash 深度解析:MoE架构如何重塑大模型推理效率
2026-06-30 09:46:12 +0800 CST
view 516
2026年,大模型战场迎来最激烈的性能竞赛。DeepSeek V4 Flash以2840亿总参数、130亿激活参数、百万token上下文支持,横扫开源模型性能榜单。本文从开发者视角出发,深入剖析其MoE架构设计、推理优化策略、国产算力适配,以及如何在实际项目中用好这个'性价比之王'。
MoE架构
DeepSeek
V4 Flash
大模型
AI推理
开源模型
Python
代码优化
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
编程
KTransformers 深度拆解:一块 RTX 5090 跑 100B+ 大模型,CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 +0800 CST
view 225
KTransformers 通过 CPU/GPU 异构计算,让一块 RTX 5090(32GB 显存)能跑起 100B+ MoE 大模型,且无需量化压缩,保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术,以及实战部署指南。
KTransformers
LLM推理
MoE
异构计算
DeepSeek
SGLang
CPU Offload
本地部署
GPU优化
DeepSeek V4 Flash 深度拆解:当一个「轻量级」模型单日吞掉8万亿Token——静态知识分离、MoE稀疏路由与百万上下文如何重新定义AI推理的经济底线
编程
DeepSeek V4 Flash 深度拆解:当一个「轻量级」模型单日吞掉8万亿Token——静态知识分离、MoE稀疏路由与百万上下文如何重新定义AI推理的经济底线
2026-08-05 04:13:52 +0800 CST
view 140
深度拆解DeepSeek V4 Flash:284B总参数13B激活参数的MoE架构如何通过静态知识分离和两级路由器实现单日8万亿Token调用量,百万token上下文+极致定价重新定义AI推理经济底线
DeepSeek
V4 Flash
MoE
静态知识分离
稀疏路由
百万Token上下文
AI推理
开源大模型
成本优化
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
编程
1.6万亿参数,1M上下文,仅需27%算力:DeepSeek-V4-Pro 如何重新定义长文本推理
2026-05-11 10:53:54 +0800 CST
view 731
DeepSeek-V4-Pro 以 1.6T 总参数、49B 激活参数的 MoE 架构,原生支持 100 万 token 上下文,同时将推理算力降至 V3.2 的 27%、KV Cache 降至 10%。本文深度解析 CSA/HCA 混合注意力机制、mHC 流形约束超连接、KV Cache 极致优化、Muon 优化器等核心技术创新,以及如何在 Ollama、vLLM、官方 API 三种方式下部署运行。
DeepSeek-V4,MoE架构,CSA注意力,HCA注意力,KV Cache,1M上下文,长文本推理,开源大模型
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
编程
DSpark深度解析:DeepSeek联合北大开源的推测解码框架——半自回归生成+置信度调度如何让大模型推理速度飙升85%
2026-07-06 07:43:51 +0800 CST
view 508
深度解析DeepSeek联合北京大学开源的DSpark推测解码推理加速框架:半自回归生成架构解决后缀衰减、置信度调度验证机制避免算力浪费、单用户生成速度提升60%-85%、吞吐量最高暴涨661%。含完整代码实战与性能基准测试。
DSpark
DeepSeek
推测解码
Speculative Decoding
推理加速
半自回归
置信度调度
大模型推理
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
编程
ds4 深度解析:当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 +0800 CST
view 753
深度解析 Redis 之父 antirez 最新开源项目 ds4(DwarfStar):一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署,完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎
DeepSeek
本地推理
系统编程
开源项目
C语言
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
编程
英伟达免费开放H100算力:DeepSeek、Kimi、GLM等主流大模型API免费用
2026-04-21 13:09:34 +0800 CST
view 2227
英伟达Build平台免费开放H100算力和主流大模型API,支持DeepSeek、Kimi、GLM等,3步拿到Key,代码对接OpenAI格式即可使用。
NVIDIA
大模型
免费API
DeepSeek
Kimi
DeepSeek V4 Flash 深度拆解:第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战(2026)
编程
DeepSeek V4 Flash 深度拆解:第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战(2026)
2026-07-20 01:43:13 +0800 CST
view 243
2026年OpenRouter开源F4之首DeepSeek V4 Flash深度拆解:MoE稀疏架构、百万上下文、FP8单卡部署与Agentic工具调用实战
DeepSeek
V4
MoE
开源大模型
AI智能体
vLLM
推理部署
Meetily 深度解析:16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南
编程
Meetily 深度解析:16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南
2026-07-07 05:42:52 +0800 CST
view 333
深度解析GitHub 16K+ Stars的Meetily隐私优先AI会议助手:基于Rust+Tauri架构,集成Whisper/Parakeet双引擎实时转录、说话人分离、Ollama本地LLM摘要生成。100%本地处理,数据永远不出设备。从架构原理到生产级部署实战,含完整代码示例与竞品对比分析。
Meetily
Rust
隐私优先
AI会议助手
语音转录
Whisper
Parakeet
Ollama
Tauri
开源
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
编程
大模型部署太慢?这个超级引擎帮你搞定!SGLang速通指南
2026-04-22 09:27:57 +0800 CST
view 844
DeepSeek官方推荐!SGLang高性能大模型推理框架速通指南,RadixAttention前缀缓存、零开销调度、OpenAI API兼容,性能碾压vLLM。
SGLang
大模型推理
DeepSeek
开源
vLLM
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
编程
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
2026-06-26 00:46:56 +0800 CST
view 309
2026年,大语言模型的参数量已经突破1.2万亿(DeepSeek R2),但推理时的计算量只相当于200亿参数的稠密模型。这背后的核心技术就是Mixture of Experts(MoE)架构。本文深度解析MoE的核心原理、工程实现、负载均衡策略,以及DeepSeek R2和GPT-5中的最新优化技巧。包含完整的PyTorch代码实战,从零实现MoE层。
MoE架构
混合专家
DeepSeek R2
稀疏激活
门控网络
负载均衡
大模型推理
细粒度MoE
共享专家
GPT-5
DeepSeek-TUI 深度解析:用 Rust 重塑终端 AI 编程体验——从双二进制架构到 1M 上下文的工程实践
编程
DeepSeek-TUI 深度解析:用 Rust 重塑终端 AI 编程体验——从双二进制架构到 1M 上下文的工程实践
2026-05-18 10:28:09 +0800 CST
view 525
深度解析 DeepSeek-TUI 的架构设计、核心特性与实战应用,一款用 Rust 编写的终端原生 AI 编程代理,支持 1M 上下文、子代理并行执行和 MCP 协议扩展。
AI
编程
Rust
终端
DeepSeek
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
编程
万字深度解析 DeepSeek V4:当 1.6T 开源模型遇见「架构效率革命」——从 mHC 稳压机制到 CSA/HCA 稀疏注意力、从 FP4 量化到 Muon 优化器的完整技术指南(2026)
2026-07-02 06:43:56 +0800 CST
view 336
DeepSeek V4 技术架构深度解析:从 mHC 流形约束超连接、CSA/HCA 混合稀疏注意力、FP4 量化感知训练到 Muon 优化器,完整拆解 1.6T 开源模型如何用架构创新把 1M token 推理效率提升到 V3.2 的 10%。
DeepSeek V4
大模型架构
MoE
CSA/HCA 注意力
FP4 量化
mHC
AI 开源
长上下文
DeepSeek-TUI 技术解密:Rust 编写的终端 AI 编程助手——双二进制架构与百万 token 上下文实战
编程
DeepSeek-TUI 技术解密:Rust 编写的终端 AI 编程助手——双二进制架构与百万 token 上下文实战
2026-05-18 10:29:38 +0800 CST
view 517
深度解析 DeepSeek-TUI 的架构设计、核心特性与实战应用,一款用 Rust 编写的终端原生 AI 编程代理,支持 1M 上下文、子代理并行执行和 MCP 协议扩展。
AI
编程
Rust
终端
DeepSeek
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
编程
DwarfStar 4 深度实战:当 Redis 之父手写 AI 推理引擎——从 284B MoE 模型塞进 MacBook 到生产级本地 Agent 的完全指南(2026)
2026-06-13 20:17:57 +0800 CST
view 750
Redis之父antirez新作DwarfStar 4深度解析:专为DeepSeek V4 Flash打造的本地推理引擎,非对称2-bit量化、磁盘KV缓存、Metal图执行、分布式推理、方向引导,MacBook上284B模型跑出26 tok/s的完全指南
ds4
DwarfStar
DeepSeek
本地推理
Metal
MoE
量化
KV缓存
GitHub 3.5K Star!DeepSeek TUI:终端中的深度思考编码智能体
案例
GitHub 3.5K Star!DeepSeek TUI:终端中的深度思考编码智能体
2026-05-05 19:10:30 +0800 CST
view 1194
GitHub 3.5K Star!DeepSeek TUI把V4模型搬进终端,原生RLM并行推理、实时思考模式展示、1M Token超上下文、三种工作模式,会话保存与工作区回滚
AI编程
DeepSeek
TUI
终端工具
编码智能体
Claude Code平替
1MToken
用AI做失败复盘:一张提示词,让核心问题自动浮现
资讯
用AI做失败复盘:一张提示词,让核心问题自动浮现
2026-04-23 21:28:06 +0800 CST
view 665
本文探讨了失败复盘的正确方法,指出常见复盘误区(归咎外部、情绪化分析),并介绍了一套AI提示词,通过六步结构化流程(接收结果、澄清边界、确认动机、提取核心事实、单线深入、点出核心)引导用户从模糊感受转向具体事实,找到真正导致失败的行为断裂点。提示词设计为中立复盘引导者,不猜测心理,只基于事实链分析。实测在DeepSeek上效果理想,强调信息越具体分析越精准。
提示词工程
AI工具
复盘方法论
DeepSeek
LLM应用
自我提升
结构化思维
DeepSeek V4 深度技术解析:从 MoE 架构到百万上下文的生产级实战指南
编程
DeepSeek V4 深度技术解析:从 MoE 架构到百万上下文的生产级实战指南
2026-07-08 01:51:46 +0800 CST
view 341
深度解析DeepSeek V4的MoE架构、DSA稀疏注意力、百万Token上下文、国产算力适配等核心技术,配完整API接入代码与成本优化指南
DeepSeek-V4
MoE架构
DSA稀疏注意力
大模型
AI编程
开源模型
百万上下文
华为昇腾
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
编程
LMCache 深度拆解:当 KV Cache 变成可复用资产——LLM 推理的「免费午餐」完整指南
2026-07-14 18:47:11 +0800 CST
view 190
深度拆解 LMCache 项目:从 Transformer Attention 机制出发,详细讲解 KV Cache 原理、三层存储架构、生产部署实战、Docker Compose 配置、CacheGen 压缩算法、PD 分离、跨实例 KV Cache 共享,以及与 vLLM/SGLang 的集成,配完整代码示例与性能调优指南。实测 DeepSeek 多轮对话 3~5 倍 TTFT 改善。
LMCache
KV Cache
LLM推理
vLLM
SGLang
推理优化
DeepSeek
分布式缓存
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
编程
DeepSeek-V4预览版深度解析:MoE架构+百万上下文+1.6T参数,开源旗舰模型全面升级
2026-04-24 17:19:28 +0800 CST
view 870
2026年4月24日DeepSeek发布V4预览版,总参1.6T/284B,激活49B/13B,100万Token上下文,DSA稀疏注意力,兼容OpenAI+Anthropic双协议,昇腾与寒武纪Day 0适配,深度解析其架构与API用法。
DeepSeek
V4
MoE
大模型
开源
百万上下文从「奢侈品」变「日用品」:DeepSeek V4 CSA/HCA 混合注意力架构深度解析
编程
百万上下文从「奢侈品」变「日用品」:DeepSeek V4 CSA/HCA 混合注意力架构深度解析
2026-07-21 16:47:21 +0800 CST
view 219
深度解析 DeepSeek V4 的 CSA/HCA 混合注意力架构,涵盖压缩稀疏注意力、重度压缩注意力、流形约束超连接等核心创新,配有 Python 代码示例与工程价值判断。
DeepSeek
V4
CSA
HCA
注意力机制
MoE
KV缓存
长上下文
大模型架构
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
编程
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
2026-05-19 12:42:27 +0800 CST
view 595
2026年,边缘AI不再只是云端模型的精简版。本文深入剖析DeepSeek-R1 CPU版的技术原理,从模型蒸馏、量化技术的底层原理到生产环境的完整部署方案,提供可直接落地的代码和可量化的性能数据。
DeepSeek
R1
边缘计算
AI推理
模型蒸馏
量化
llama.cpp
Ollama
端侧AI
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
9
10
11
12
13
...
110
下一页