本地大模型-程序员茄子

Open Design：31个Skills+72套设计系统，Claude Design的开源替代品
2026-05-09 06:34:08 view 1435
Open Design开源项目：Claude Design的开源替代品，31个Skills+72套设计系统，支持16种AI CLI工具，本地运行Apache-2.0协议，多模型支持，内置图片视频生成，MCP集成
AI设计 Claude Design替代开源设计工具本地运行多模型设计系统

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

编程

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）
2026-06-16 03:46:31 view 541
MemPalace 深度实战：本地优先的 AI 记忆系统，96.6% R@5 召回率，33 个 MCP 工具，零 API Key，完全开源
AI Agent 记忆系统 MemPalace 本地优先 RAG

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

编程

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心
2026-04-28 18:27:20 view 1243
基于Docker的自托管图片编辑器SnapOtter：45+工具、REST API接入AI Agent、本地AI修图（OCR/背景移除/高清化）、数据永久存NAS。海康智存部署教程。
Docker NAS 图片处理 AI修图本地部署 REST API OpenClaw Hermes

Wigolo：把搜索、抓取、爬取全部跑在本地，无 Key 无额度的 AI 网页能力工具

资讯

Wigolo：把搜索、抓取、爬取全部跑在本地，无 Key 无额度的 AI 网页能力工具
2026-08-26 15:10:35 view 17
wigolo 是一款本地优先的开源 AI 网页能力工具，以 MCP Server 形式接入 Claude Code、Cursor 等 Agent，支持搜索、抓取、爬取、结构化提取、本地缓存和页面监控等 10 个功能。核心功能无需 API Key、无额度限制，数据全部留在本机。本文详细介绍其功能、安装与实战体验。
AI Agent 网页抓取本地优先开源

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

案例

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s
2026-05-10 08:40:22 view 893
Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎ds4.c，C+Metal从头编写，Mac Studio M3 Ultra上预填充468 token/s。关键优化：非对称量化（MoE专家层2-bit）、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑，专为coding agent优化。
DeepSeek AI推理 Mac Redis antirez Metal 本地推理 MoE GGUF C语言 Apple Silicon Claude Code OpenAI API Anthropic API

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

编程

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱
2026-04-10 05:35:25 view 903
Rowboat 是一个带长期记忆的开源 AI 同事，自动构建知识图谱，支持会议准备、文档生成、承诺追踪，采用本地优先架构，完全透明可控。
AI Agent 知识图谱开源工具本地优先生产力工具

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

编程

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解
2026-06-30 03:44:16 view 698
深度解析OpenClaw个人AI助手框架：从Gateway控制面、多通道消息路由、Skill技能生态、MCP协议集成、安全模型、会话管理到生产级部署，附完整代码示例与架构决策分析。
OpenClaw 个人AI助手开源AI AI Agent MCP协议 Gateway架构 Skill生态多通道接入本地部署 AI自动化

LLM 只当演员，规则引擎当导演：heartmorrow 的架构与取舍

编程

LLM 只当演员，规则引擎当导演：heartmorrow 的架构与取舍
2026-08-27 00:05:49 view 9
从架构与设计取舍角度拆解开源项目 heartmorrow：浏览器只连本地服务器、密钥不出本机，规则引擎决定游戏事实、LLM 只负责生成内容，约会结算用独立校验 pass 避免数值漂移。适合关注 LLM 应用架构、AI 游戏设计的工程师参考。
LLM 架构开源 Node.js 本地部署 AI应用

DwarfStar 4 深度拆解：当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s

编程

DwarfStar 4 深度拆解：当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s
2026-08-04 22:46:33 view 268
深度拆解Redis创始人antirez打造的DwarfStar 4本地推理引擎：专用MoE推理栈、非对称2-Bit量化、磁盘KV缓存、SSD流式加载、多机流水线并行，在128GB MacBook上跑出26 tok/s的284B模型推理
DwarfStar Redis antirez DeepSeek MoE 本地推理 LLM 推理引擎 2-Bit量化 KV缓存 Apple Metal CUDA 开源

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

编程

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南
2026-06-11 07:51:35 view 1117
Redis之父antirez新作ds4深度解析：非对称2-bit量化、KV缓存磁盘持久化、Metal极致优化，284B模型在MacBook上跑出26 tok/s的完全指南
ds4 DeepSeek 本地推理 Metal KV缓存量化 antirez Redis

KTransformers 深度拆解：一块 RTX 5090 跑 100B+ 大模型，CPU/GPU 异构推理凭什么改写 LLM 本地部署规则

编程

KTransformers 深度拆解：一块 RTX 5090 跑 100B+ 大模型，CPU/GPU 异构推理凭什么改写 LLM 本地部署规则
2026-07-24 07:44:31 view 284
KTransformers 通过 CPU/GPU 异构计算，让一块 RTX 5090（32GB 显存）能跑起 100B+ MoE 大模型，且无需量化压缩，保持原精度 FP16。实测比 llama.cpp Q8_0 快 4.5 倍。本文深度拆解其专家细粒度卸载、异步预取、DMA 优化等核心技术，以及实战部署指南。
KTransformers LLM推理 MoE 异构计算 DeepSeek SGLang CPU Offload 本地部署 GPU优化

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）

编程

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）
2026-06-22 17:24:05 view 793
oMLX 是专为 Apple Silicon 优化的 LLM 推理服务器，通过连续批处理、分层 KV Cache、MLX 后端加速和 macOS 菜单栏管理，让本地 AI 推理从可用走向实用。
LLM Apple Silicon MLX 本地推理 MCP

Meta Muse Glimmer 深度拆解：300亿参数端侧Agent模型的工程革命——从知识蒸馏到4bit量化的完整实战指南（2026）

编程

Meta Muse Glimmer 深度拆解：300亿参数端侧Agent模型的工程革命——从知识蒸馏到4bit量化的完整实战指南（2026）
2026-08-13 18:49:00 view 134
深度拆解Meta 2026年8月发布的Muse Glimmer：300亿参数开放权重Dense模型，4bit量化可在单张RTX 3090/4090上本地运行。涵盖架构设计、知识蒸馏、量化原理、本地部署实战与性能基准测试。
Muse Glimmer 端侧AI 知识蒸馏 4bit量化 Agent本地部署 300亿参数 Meta Apache 2.0 llama.cpp Ollama

Muse Glimmer 端侧Agent革命：300亿参数模型如何在消费级GPU上跑出生产级性能（2026实战）

编程

Muse Glimmer 端侧Agent革命：300亿参数模型如何在消费级GPU上跑出生产级性能（2026实战）
2026-08-13 18:50:11 view 174
深度拆解Meta 2026年8月发布的Muse Glimmer：300亿参数开放权重Dense模型，4bit量化可在单张RTX 3090/4090上本地运行。涵盖架构设计、知识蒸馏、量化原理、本地部署实战与性能基准测试。
Muse Glimmer 端侧AI 知识蒸馏 4bit量化 Agent本地部署 300亿参数 Meta Apache 2.0 llama.cpp Ollama

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能

编程

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 view 2376
2026年深度拆解 llama.cpp 的核心架构：GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测，与 Ollama/vLLM 完整横评。
llama.cpp GGUF 量化 CUDA Metal LLM推理 C++ 本地部署性能优化 GGML

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南

编程

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 view 333
深度解析Ollama本地LLM推理引擎架构与实战
Ollama 本地推理 LLM Go llama.cpp GGUF GPU Modelfile

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

编程

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案
2026-05-11 09:23:06 view 769
Goose 是由 Block 开源、现已捐献给 Linux 基金会 AAIF 的本地 AI 编程代理。最新版本 v1.32.0（2026年5月6日）支持 Exa AI 搜索、桌面通知、@agent 协作、/skills 命令、自动压缩上下文、语音听写等功能。Rust 开发，支持 MCP 协议，可连接任何 LLM（OpenAI、Ollama、Kimi Code 等），完全本地运行无需订阅。
Goose AI编程本地LLM MCP Rust Linux基金会 Block

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

编程

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命
2026-06-30 16:44:48 view 325
2026年最火爆的开源项目，30万Star背后的技术密码。万字长文拆解Gateway、Agent、Skills、Memory四大核心模块，从架构原理到代码实战全覆盖。
OpenClaw AI Agent Gateway Skills Memory 开源框架人工智能本地优先

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态

编程

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态
2026-08-05 12:17:17 view 243
深度拆解Redis创始人antirez打造的DeepSeek V4 Flash专用本地推理引擎DwarfStar 4：One Model One Engine哲学、非对称量化策略、磁盘KV缓存、双协议兼容层，附完整架构分析与性能基准
DwarfStar DeepSeek 本地推理 MoE Metal Apple Silicon antirez Redis AI推理开源

omlx：Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践

编程

omlx：Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 view 346
深度解析 omlx：专为 Mac 优化的本地 LLM 推理服务器，通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理，实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM Mac Apple Silicon 推理优化本地部署 omlx

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

编程

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）
2026-06-12 15:20:19 view 747
从 2000 年前古希腊记忆术到 96.6% R@5 的 AI 本地记忆系统，深度解析 MemPalace 的 Wing/Room/Drawer 架构、可插拔后端设计与 MCP 集成实践
AI记忆 MemPalace MCP 向量检索 RAG 本地部署 Python AI Agent

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

编程

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态
2026-05-11 17:27:19 view 599
PGlite将完整PostgreSQL编译为WebAssembly，在浏览器里跑真正的数据库。3MB gzip、无依赖、完整SQL支持、ACID事务、pgvector向量搜索。本文深度解析PGlite技术架构，并从零构建本地优先AI笔记应用实战。
PGlite PostgreSQL WebAssembly 前端数据库 WASM 本地优先 pgvector

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解

编程

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解
2026-06-12 18:19:08 view 904
深度解析 Redis 之父 antirez 最新开源项目 ds4（DwarfStar）：一个纯 C 语言手写的 DeepSeek V4 Flash 本地推理引擎。从「窄而深」的工程哲学、非对称 2-bit 量化、磁盘 KV 缓存、Metal/CUDA 内核优化到实际部署，完整拆解这个 13K+ Star 项目的技术内幕。
AI推理引擎 DeepSeek 本地推理系统编程开源项目 C语言

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 python sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调

AI,自己全程接管维护

Open Design：31个Skills+72套设计系统，Claude Design的开源替代品

MemPalace 深度实战：当 AI Agent 遇见「记忆宫殿」——从本地优先架构到 96.6% 召回率的生产级完全指南（2026）

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

Wigolo：把搜索、抓取、爬取全部跑在本地，无 Key 无额度的 AI 网页能力工具

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

OpenClaw 深度解析：重塑个人 AI 助手范式的开源架构革命——从 Gateway 到 Skill 生态的全链路技术拆解

LLM 只当演员，规则引擎当导演：heartmorrow 的架构与取舍

DwarfStar 4 深度拆解：当 Redis 之父决定「干掉全部通用推理引擎」——一个专用 MoE 推理栈如何用 2-Bit 量化和磁盘 KV 缓存在 MacBook 上跑出 26 tok/s

ds4 深度实战：当 Redis 之父用纯 C 重写本地推理引擎——从 KV 缓存磁盘持久化到 Metal 极致优化的完全指南

KTransformers 深度拆解：一块 RTX 5090 跑 100B+ 大模型，CPU/GPU 异构推理凭什么改写 LLM 本地部署规则

oMLX 深度实战：当 macOS 菜单栏成为本地 LLM 推理的控制中心——从连续批处理到 SSD 分层缓存、从 MLX 后端加速到生产级部署的完全指南（2026）

Meta Muse Glimmer 深度拆解：300亿参数端侧Agent模型的工程革命——从知识蒸馏到4bit量化的完整实战指南（2026）

Muse Glimmer 端侧Agent革命：300亿参数模型如何在消费级GPU上跑出生产级性能（2026实战）

llama.cpp 深度实战：从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

OpenClaw 深度解析：30万星开源 AI Agent 框架的技术内核——从 Gateway 到 Memory 的完整架构革命

DwarfStar 4 深度拆解：当 Redis 之父决定「给 284B 大模型造一个专属引擎」——从 Metal GPU 到磁盘 KV 缓存，一个 10K Star 的极简推理栈如何用 One Model One Engine 哲学重新定义本地 AI 推理的终极形态

omlx：Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践

MemPalace 深度实战：当记忆宫殿遇上 AI Agent——从 2000 年前认知术到 96.6% 召回率的本地记忆系统完全指南（2026）

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

ds4 深度解析：当 Redis 之父用 C 语言手写 AI 推理引擎——从「窄而深」哲学到把 284B 模型塞进一台 MacBook 的技术全拆解

大家都在搜索什么？