本地推理-程序员茄子

Google AI Edge Gallery 深度实战：让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南（2026）
2026-06-04 21:14:37 +0800 CST view 518
深入剖析 Google AI Edge Gallery 的技术架构、Gemma 模型家族、端侧部署全流程，并通过完整代码示例，带你从零构建一个生产级本地 AI 应用。
Google AI Edge Gallery 本地AI Gemma模型端侧推理 Mac AI Android AI

把大模型装进机房：Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透（2026）

编程

把大模型装进机房：Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透（2026）
2026-07-14 03:43:32 +0800 CST view 250
深度拆解 Ollama 本地大模型推理工程化：从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存，到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优，配完整可运行代码与 vLLM 对比。
Ollama 本地大模型 llama.cpp GGUF量化大模型部署 AI工程化隐私计算推理优化

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化

编程

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化
2026-08-01 08:18:35 +0800 CST view 178
深度拆解 llama.cpp 全栈架构：从 GGML 到 GGUF 格式演进、K-Quant 量化内核原理、ggml 张量计算图层、libllama 推理逻辑层、10+ 硬件后端调度，以及生产调优实战与踩坑清单。
llama.cpp GGUF GGML 量化本地LLM CPU推理 GPU加速跨平台 K-Quant

oMLX 深度解析：Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣

编程

oMLX 深度解析：Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣
2026-05-21 22:30:11 +0800 CST view 880
深入解析 oMLX 的分层 KV 缓存架构（热 RAM + 冷 SSD）、Copy-on-Write 优化、与 Claude Code 的深度集成，以及 Apple Silicon 原生的推理性能优化。
oMLX Apple Silicon 本地大模型 KV缓存 MLX 推理服务器

ds4 深度解析：Redis 作者的最后一战？—— DwarfStar 4 本地推理引擎的技术革命

编程

ds4 深度解析：Redis 作者的最后一战？—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST view 930
深入解析 antirez（Redis 作者）新开源项目 ds4：DwarfStar 4 本地推理引擎，专门为 DeepSeek V4 Flash 打造，支持 Metal/CUDA 后端，2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理本地部署 DeepSeek Redis Apple Silicon CUDA Metal MoE 量化

当 C/C++ 遇上 Rust：llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战

编程

当 C/C++ 遇上 Rust：llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
2026-07-16 12:50:04 +0800 CST view 234
深度对比 llama.cpp 与 LiteBox 两大本地 LLM 推理框架：GGUF 格式设计、K-Quant 量化内核、KV cache 管理、多后端抽象、并发架构，配完整代码实战与性能实测数据。
llama.cpp LiteBox GGUF 量化 KV cache 本地LLM 推理框架 Rust C/C++ 模型压缩

DwarfStar 4深度解析：Redis之父如何用500行C代码重塑本地大模型推理

编程

DwarfStar 4深度解析：Redis之父如何用500行C代码重塑本地大模型推理
2026-06-29 01:19:31 +0800 CST view 306
Redis创始人antirez开源项目DwarfStar 4深度解析：如何用5000行C代码为DeepSeek V4 Flash打造专用推理引擎，实现Mac上26 tok/s的本地大模型推理体验。
AI推理本地大模型 DeepSeek C语言 Metal

llama.cpp 深度实战：当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南（2026）

编程

llama.cpp 深度实战：当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南（2026）
2026-06-16 01:17:28 +0800 CST view 785
llama.cpp 是端侧 LLM 推理的事实标准（180K+ Stars）。本文从源码架构、GGUF 格式、量化方法、跨平台后端、生产部署、性能优化到 DeepSeek V4 Flash 实战，全方位讲解本地 AI 推理。
llama.cpp GGUF 量化端侧推理本地AI C/C++ Apple Silicon

2026 大模型推理框架深度对比：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量

编程

2026 大模型推理框架深度对比：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量
2026-07-23 08:13:30 +0800 CST view 261
2026年四大主流大模型推理框架深度对比：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从核心技术优化、吞吐量延迟、算力成本、部署适配性四大维度开展极致测评，为企业技术选型提供精准参考。
vLLM TensorRT-LLM TGI DeepSpeed-MII 大模型推理 PagedAttention FlashAttention 量化推理 GPU推理优化

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板

编程

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板
2026-08-03 09:43:58 +0800 CST view 123
深度拆解vLLM V1引擎四大核心架构：PagedAttention V2融合块表与前缀树缓存、分离式推理Prefill/Decode架构、KV Connector标准化接口、LMCache三层KV Cache管理，附完整部署配置与性能基准测试
vLLM PagedAttention LMCache 分离式推理大模型推理 KV Cache 推理引擎 LLM Serving GPU优化开源

小米 MiMo UltraSpeed 深度解析：当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越

编程

小米 MiMo UltraSpeed 深度解析：当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越
2026-06-15 21:20:49 +0800 CST view 306
深入解析小米MiMo UltraSpeed如何通过SWA架构在通用GPU上突破1000 tokens/s推理速度，从O(n²)困境到极致跨越的完整技术指南。
SWA Sliding Window Attention LLM推理小米MiMo 推理优化 Transformer PagedAttention 量化推理端侧AI

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

编程

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）
2026-06-16 03:46:31 +0800 CST view 427
MemPalace 深度实战：本地优先的 AI 记忆系统，96.6% R@5 召回率，33 个 MCP 工具，零 API Key，完全开源
AI Agent 记忆系统 MemPalace 本地优先 RAG

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

编程

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」
2026-04-09 07:55:23 +0800 CST view 1145
深度解析 METATRON：如何在本地零成本跑起一个完整的 AI 渗透测试助手，基于 Qwen 微调模型 + Ollama + MariaDB，无需 API Key，数据完全不出本地。
AI渗透测试 Ollama Qwen 本地大模型 MariaDB Pentest 安全工具 Agent

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

编程

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心
2026-04-28 18:27:20 +0800 CST view 1067
基于Docker的自托管图片编辑器SnapOtter：45+工具、REST API接入AI Agent、本地AI修图（OCR/背景移除/高清化）、数据永久存NAS。海康智存部署教程。
Docker NAS 图片处理 AI修图本地部署 REST API OpenClaw Hermes

Unsloth 深度实战：从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践

编程

Unsloth 深度实战：从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
2026-05-22 16:15:29 +0800 CST view 865
Unsloth通过底层算子优化让大模型微调显存降低70%、速度提升2-5x，本文从原理到生产实战全方位拆解，含完整代码。
Unsloth LoRA QLoRA 大模型微调本地训练

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

编程

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱
2026-04-10 05:35:25 +0800 CST view 829
Rowboat 是一个带长期记忆的开源 AI 同事，自动构建知识图谱，支持会议准备、文档生成、承诺追踪，采用本地优先架构，完全透明可控。
AI Agent 知识图谱开源工具本地优先生产力工具

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

编程

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解
2026-06-30 03:44:16 +0800 CST view 596
深度解析OpenClaw个人AI助手框架：从Gateway控制面、多通道消息路由、Skill技能生态、MCP协议集成、安全模型、会话管理到生产级部署，附完整代码示例与架构决策分析。
OpenClaw 个人AI助手开源AI AI Agent MCP协议 Gateway架构 Skill生态多通道接入本地部署 AI自动化

Ollama 深度实战：当本地大模型部署成为事实标准——从一行命令跑 Llama/Qwen/DeepSeek 到生产级 API 兼容与多语言接入完全指南（2026）

编程

Ollama 深度实战：当本地大模型部署成为事实标准——从一行命令跑 Llama/Qwen/DeepSeek 到生产级 API 兼容与多语言接入完全指南（2026）
2026-06-11 05:47:01 +0800 CST view 538
本文深入讲解Ollama的原理、实战部署、性能优化，帮助开发者快速掌握本地大模型部署能力
Ollama 本地大模型 AI部署 Go语言 Python

llmfit 深度拆解：一条命令算清你的机器能跑哪个大模型，Rust 硬件探测与适配度评分引擎全解析

编程

llmfit 深度拆解：一条命令算清你的机器能跑哪个大模型，Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST view 172
深度拆解 GitHub Trending 破万星的 llmfit：Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式，附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit Rust 本地大模型 Ollama llama.cpp 量化 KV cache MoE 硬件选型开源

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

编程

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案
2026-05-11 09:23:06 +0800 CST view 659
Goose 是由 Block 开源、现已捐献给 Linux 基金会 AAIF 的本地 AI 编程代理。最新版本 v1.32.0（2026年5月6日）支持 Exa AI 搜索、桌面通知、@agent 协作、/skills 命令、自动压缩上下文、语音听写等功能。Rust 开发，支持 MCP 协议，可连接任何 LLM（OpenAI、Ollama、Kimi Code 等），完全本地运行无需订阅。
Goose AI编程本地LLM MCP Rust Linux基金会 Block

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

编程

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命
2026-06-30 16:44:48 +0800 CST view 270
2026年最火爆的开源项目，30万Star背后的技术密码。万字长文拆解Gateway、Agent、Skills、Memory四大核心模块，从架构原理到代码实战全覆盖。
OpenClaw AI Agent Gateway Skills Memory 开源框架人工智能本地优先

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

编程

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）
2026-06-12 15:20:19 +0800 CST view 676
从 2000 年前古希腊记忆术到 96.6% R@5 的 AI 本地记忆系统，深度解析 MemPalace 的 Wing/Room/Drawer 架构、可插拔后端设计与 MCP 集成实践
AI记忆 MemPalace MCP 向量检索 RAG 本地部署 Python AI Agent

llmfit 深度拆解：一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖

编程

llmfit 深度拆解：一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04 +0800 CST view 175
深度拆解 GitHub Trending 开源工具 llmfit：四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准，从第一性原理讲透本地大模型的硬件适配方法论。
llmfit 本地大模型 LLM Rust 量化 Ollama llama.cpp Apple Silicon 硬件适配开源

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

AI,自己全程接管维护

Google AI Edge Gallery 深度实战：让 Mac/Android 离线运行 Gemma 3——从原理到生产级本地 AI 部署完全指南（2026）

把大模型装进机房：Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透（2026）

llama.cpp 架构深度拆解：从 GGML 到 GGUF、量化内核到跨平台推理栈，一文吃透本地 LLM 推理工程化

oMLX 深度解析：Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣

ds4 深度解析：Redis 作者的最后一战？—— DwarfStar 4 本地推理引擎的技术革命

当 C/C++ 遇上 Rust：llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战

DwarfStar 4深度解析：Redis之父如何用500行C代码重塑本地大模型推理

llama.cpp 深度实战：当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南（2026）

2026 大模型推理框架深度对比：vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9 性能与成本终极较量

vLLM V1 深度拆解：当一个 LLM 推理引擎决定「从零重写」——PagedAttention、分离式推理与 LMCache 如何重新定义大模型服务的性能天花板

小米 MiMo UltraSpeed 深度解析：当 SWA 架构重塑 LLM 推理——从 O(n²) 困境到 1000 tokens/s 的极致跨越

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

Unsloth 深度实战：从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

Ollama 深度实战：当本地大模型部署成为事实标准——从一行命令跑 Llama/Qwen/DeepSeek 到生产级 API 兼容与多语言接入完全指南（2026）

llmfit 深度拆解：一条命令算清你的机器能跑哪个大模型，Rust 硬件探测与适配度评分引擎全解析

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

llmfit 深度拆解：一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖

大家都在搜索什么？