Agent本地部署-程序员茄子

DwarfStar 4 深度拆解：当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 +0800 CST view 122
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎：专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行，在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar Redis antirez DeepSeek MoE 本地推理 LLM 推理引擎 2-Bit量化 KV缓存 Apple Metal CUDA 开源

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 +0800 CST view 1029
Redis之父antirez新作ds4深度解析：非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化，284B模型在MacBook上跑出26 tok/s的完全指南
ds4 DeepSeek 本地推理 Metal KV缓存量化 antirez Redis

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态

编程

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 +0800 CST view 161
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4：One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层，附完整架构分析与性能基准
DwarfStar DeepSeek 本地推理 MoE Metal Apple Silicon antirez Redis AI推理开源

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化

编程

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化
2026-08-01 08:18:35 +0800 CST view 210
深度拆解 llama.cpp 全栈架构：从 GGML 到 GGUF 格式演进、K-Quant 量化内核原理、ggml 张量计算图层、libllama 推理逻辑层、10+ 硬件后端调度，以及生产调优实战与踩坑清单。
llama.cpp GGUF GGML 量化本地LLM CPU推理 GPU加速跨平台 K-Quant

DwarfStar 4 深度实战：当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南（2026）

编程

DwarfStar 4 深度实战：当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南（2026）
2026-06-14 09:48:41 +0800 CST view 1092
Redis之父antirez的ds4项目深度解析：非对称2-bit量化、磁盘KV缓存一等公民、session_sync增量推理、方向引导、分布式推理的工程实战指南
ds4 DwarfStar 本地推理 DeepSeek MoE KV缓存 antirez Metal 量化

RLX 深度拆解：MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学

编程

RLX 深度拆解：MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学
2026-08-04 01:43:34 +0800 CST view 148
深度拆解MIT RLX纯Rust ML编译器架构：统一IR贯穿图优化到内核调度、15种硬件后端支持、JAX形自动微分、INT8量化感知训练、FPGA综合、Iroh NAT穿透分布式训练，附完整代码示例与性能优化实战指南
RLX Rust ML编译器张量IR 自动微分边缘计算 WebGPU CUDA Apple Silicon 量化部署开源

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

编程

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9
2026-07-10 17:44:16 +0800 CST view 402
深度对比2026年四大主流LLM推理框架：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9，涵盖PagedAttention、FP8量化、ZeRO-3、连续批处理等核心技术原理，配生产级代码示例与实测性能数据。
LLM vLLM TensorRT-LLM TGI DeepSpeed 推理优化量化 AI部署

SwanLab 深度实战：当国产开源 AI 训练跟踪工具遇见 W&B 替代方案——从 PyTorch 全链路监控到私有化部署、从硬件感知到多框架集成的生产级完全指南（2026）

编程

SwanLab 深度实战：当国产开源 AI 训练跟踪工具遇见 W&B 替代方案——从 PyTorch 全链路监控到私有化部署、从硬件感知到多框架集成的生产级完全指南（2026）
2026-06-21 18:24:22 +0800 CST view 438
深度解析 SwanLab——国产开源 AI 训练跟踪工具，对标 W&B 和 MLflow。涵盖架构设计、PyTorch/Transformers/LLaMA Factory 集成、硬件全链路监控、实验对比、私有化部署（Docker/K8s）、SDK v0.8.0 性能优化等内容。
SwanLab AI训练 PyTorch W&B替代 MLflow 实验跟踪硬件监控私有化部署

Go Fiber v3 深度实战：当 Express 风格遇上 Go 高性能——从零基础到生产级 Web 开发的完全指南（2026）

编程

Go Fiber v3 深度实战：当 Express 风格遇上 Go 高性能——从零基础到生产级 Web 开发的完全指南（2026）
2026-06-11 02:16:42 +0800 CST view 481
Go Fiber v3 深度实战教程，从零开始构建生产级 Web 应用，涵盖路由系统、中间件、数据库集成、性能优化和容器化部署
Go Fiber v3 Go Web 框架 Express 风格高性能 Web 开发生产级部署

大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析

编程

大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析
2026-07-11 13:14:24 +0800 CST view 348
深度拆解2026年四大主流LLM推理框架(vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9)的技术内核,通过统一性能基准测试,量化对比吞吐量、延迟、成本等核心指标,提供不同场景的技术选型建议和实战代码示例。
大模型推理优化 vLLM TensorRT 性能调优成本控制生产部署

KTransformers 深度拆解：单张 4090 跑满血 DeepSeek-R1 671B，清华团队如何用 CPU/GPU 异构推理实现 28 倍加速

编程

KTransformers 深度拆解：单张 4090 跑满血 DeepSeek-R1 671B，清华团队如何用 CPU/GPU 异构推理实现 28 倍加速
2026-07-29 09:44:03 +0800 CST view 210
深度拆解清华开源的 KTransformers：MoE 稀疏性卸载、AMX/Marlin 高性能算子、CUDA Graph 与 YAML 注入框架四层架构，单张 4090 跑满血 DeepSeek-R1 671B，附完整部署实战与性能调优清单。
KTransformers 异构推理 MoE DeepSeek AMX CUDA Graph 大模型部署性能优化开源

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

编程

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST view 920
深度对比vLLM与TensorRT-LLM两大LLM推理框架，从PagedAttention到Kernel Fusion，从量化技术到生产部署，助你做出正确的技术选型决策
LLM vLLM TensorRT-LLM 推理优化大模型部署量化技术 AI工程

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景

编程

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景
2024-11-18 13:34:51 +0800 CST view 2195
Gunicorn是一个高性能、易于使用的PythonWSGIHTTP服务器，适用于多种应用部署场景。它支持多种工作模式，能够高效处理并发请求，并兼容多种PythonWeb框架。本文详细介绍了Gunicorn的安装方法、主要特性、基本和高级功能，以及实际应用场景，帮助开发者全面掌握该库的使用。
Python Web开发服务器并发处理应用部署

Openship 深度拆解：桌面控制平面 + 零 YAML，自托管部署平台的新范式

编程

Openship 深度拆解：桌面控制平面 + 零 YAML，自托管部署平台的新范式
2026-07-24 19:44:05 +0800 CST view 294
深度拆解 GitHub Trending 开源项目 Openship：桌面控制平面的安全创新、零配置栈检测原理、内置邮件/CDN/备份的全家桶设计、MCP 原生 AI Agent 接口，以及与 Coolify/Dokploy/Kamal 的横向选型对比。
Openship 自托管 CI/CD 部署平台 Docker DevOps MCP 开源 Vercel替代 PaaS

智谱 slime 深度实战：当 RL 后训练终于有了工业级「炼丹炉」——从 Megatron+SGLang 三模块联调到 GLM-5.2 两天完成 OPD 后训练的生产级完全指南（2026）

编程

智谱 slime 深度实战：当 RL 后训练终于有了工业级「炼丹炉」——从 Megatron+SGLang 三模块联调到 GLM-5.2 两天完成 OPD 后训练的生产级完全指南（2026）
2026-06-23 07:54:24 +0800 CST view 520
2026年6月智谱开源RL后训练框架slime，支撑GLM-5.2仅用2天完成OPD后训练。本文深度解析其三模块架构、原生引擎透传设计、PD分离、增量权重同步等核心技术，附完整生产级部署实战代码。
强化学习 RL训练 slime框架智谱AI GLM-5.2 Megatron SGLang 后训练开源框架生产级部署

DeepSeek V4 Flash 深度拆解：第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战（2026）

编程

DeepSeek V4 Flash 深度拆解：第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战（2026）
2026-07-20 01:43:13 +0800 CST view 256
2026年OpenRouter开源F4之首DeepSeek V4 Flash深度拆解：MoE稀疏架构、百万上下文、FP8单卡部署与Agentic工具调用实战
DeepSeek V4 MoE 开源大模型 AI智能体 vLLM 推理部署

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

编程

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南
2026-06-18 17:54:54 +0800 CST view 840
深度横评2026年四大主流大模型推理框架，涵盖PagedAttention架构、ContinuousBatching、算子融合、FP8量化、NVMe卸载等核心技术，配实测数据与生产级选型指南
大模型 LLM 推理框架 vLLM TensorRT-LLM TGI DeepSpeed GPU推理 AI部署 NVIDIA

嵌入式AI模型部署实战：从服务器到Arduino的模型压缩与优化指南

编程

嵌入式AI模型部署实战：从服务器到Arduino的模型压缩与优化指南
2026-05-13 17:55:43 +0800 CST view 628
本文详细介绍如何将训练好的神经网络部署到Arduino、树莓派等嵌入式设备，涵盖模型量化、剪枝、知识蒸馏三大压缩技术，以及不同硬件平台的部署方案和实战经验。
嵌入式AI 模型部署神经网络压缩 Arduino 树莓派模型量化

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）

编程

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）
2026-07-21 01:43:04 +0800 CST view 361
2026年Qwen3.8深度实战：2.4T MoE架构原理、Preview API接入、流式调用、函数调用、RAG检索增强、vLLM/SGLang本地部署与QLoRA微调的完整工程指南
Qwen3.8 MoE 大模型部署函数调用 QLoRA vLLM 通义千问 2026

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载

编程

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载
2024-11-18 20:57:45 +0800 CST view 1750
本文讨论了如何实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载。通过定义简单的计算器接口及其实现，展示了两种热部署方式：一种是通过反射加载Jar包，另一种是通过Spring上下文管理。还介绍了工具类DeployUtils的实现，提供了读取Jar包、判断SpringBean及生成Bean名称的方法，并提供了Jar包删除时同步删除SpringBean的代码示例。
Java 开发热部署 Spring 编程

Cloudflare Workers AI 模型绑定深度剖析：从架构内幕到生产级部署的完整指南（2026）

编程

Cloudflare Workers AI 模型绑定深度剖析：从架构内幕到生产级部署的完整指南（2026）
2026-05-26 13:10:20 +0800 CST view 546
深度剖析 Cloudflare Workers AI 的模型绑定机制、边缘推理架构内幕，以及生产级部署中最实用的优化策略与避坑指南。
Cloudflare Workers AI 边缘计算 AI推理 Serverless 模型部署低延迟 2026

万字深度解析 PostgreSQL 18：当关系型数据库遇见原生向量搜索革命——从内核优化到生产级 RAG 系统的完整技术指南（2026）

编程

万字深度解析 PostgreSQL 18：当关系型数据库遇见原生向量搜索革命——从内核优化到生产级 RAG 系统的完整技术指南（2026）
2026-07-02 14:15:24 +0800 CST view 180
深度解析 PostgreSQL 18 原生向量搜索能力：从内核优化、HNSW/IVFFlat 索引机制、异步 I/O 子系统到生产级 RAG 系统完整实现，含 10000+ 字深度技术指南与完整 Python 代码实战
PostgreSQL 向量搜索 RAG 数据库优化 AI pgvector HNSW IVFFlat 异步IO 生产部署

AirLLM深度拆解：用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标

编程

AirLLM深度拆解：用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标
2026-08-09 08:42:54 +0800 CST view 102
深度拆解AirLLM：用分层流式推理打破显存壁垒，从4GB显卡跑通70B大模型的工程原理到MoE时代的新坐标，配完整代码示例与实战指南。
AirLLM LLM推理显存优化 MoE Transformer Python AI部署

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

上一页 1...3 456 7...73 下一页

AI,自己全程接管维护

DwarfStar 4 深度拆解：当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化

DwarfStar 4 深度实战：当 Redis 之父用 C 语言重新发明本地推理——从磁盘 KV 一等公民到 284B 模型跑进 MacBook 的工程完全指南（2026）

RLX 深度拆解：MIT 如何用纯 Rust 写出一个「编译器+运行时合一」的 ML 框架——从 JAX 形状的张量 IR 到 15 种硬件后端的全栈工程哲学

2026年大模型推理框架横评：vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9

SwanLab 深度实战：当国产开源 AI 训练跟踪工具遇见 W&B 替代方案——从 PyTorch 全链路监控到私有化部署、从硬件感知到多框架集成的生产级完全指南（2026）

Go Fiber v3 深度实战：当 Express 风格遇上 Go 高性能——从零基础到生产级 Web 开发的完全指南（2026）

大模型推理框架 2026 终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构内核、性能基准到成本防线的生产级全景解析

KTransformers 深度拆解：单张 4090 跑满血 DeepSeek-R1 671B，清华团队如何用 CPU/GPU 异构推理实现 28 倍加速

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景

Openship 深度拆解：桌面控制平面 + 零 YAML，自托管部署平台的新范式

智谱 slime 深度实战：当 RL 后训练终于有了工业级「炼丹炉」——从 Megatron+SGLang 三模块联调到 GLM-5.2 两天完成 OPD 后训练的生产级完全指南（2026）

DeepSeek V4 Flash 深度拆解：第一个为智能体而生的开源 MoE——从 2840 亿参数稀疏架构、百万上下文到 Agentic 工作流实战（2026）

GraphRAG 知识图谱增强检索实战：从 Leiden 社区检测到生产级部署，一次把图谱 RAG 讲透（2026 深度长文）

2026大模型推理框架年度横评：vLLM/TGI/TensorRT-LLM/DeepSpeed-MII 架构深度解析与生产级选型指南

嵌入式AI模型部署实战：从服务器到Arduino的模型压缩与优化指南

Qwen3.8 深度实战：2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南（2026）

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载

Cloudflare Workers AI 模型绑定深度剖析：从架构内幕到生产级部署的完整指南（2026）

万字深度解析 PostgreSQL 18：当关系型数据库遇见原生向量搜索革命——从内核优化到生产级 RAG 系统的完整技术指南（2026）

AirLLM深度拆解：用分层流式推理打破显存壁垒——从4GB显卡跑通70B大模型的工程极限到MoE时代的新坐标

大家都在搜索什么？