本地部署-程序员茄子

猛涨25K Star！LLMFit：一键检测你的电脑能跑哪些大模型
2026-05-06 07:35:19 +0800 CST view 107
25K+Star的LLMFit一键检测你的电脑能跑哪些大模型，Rust编写支持NVIDIA/AMD/Intel/Apple Silicon，智能量化推荐Q8到Q2，四维评分系统，TUI+CLI双模式
LLM部署硬件检测量化推荐 Rust 终端工具本地部署 Ollama

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

编程

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心
2026-04-28 18:27:20 +0800 CST view 141
基于Docker的自托管图片编辑器SnapOtter：45+工具、REST API接入AI Agent、本地AI修图（OCR/背景移除/高清化）、数据永久存NAS。海康智存部署教程。
Docker NAS 图片处理 AI修图本地部署 REST API OpenClaw Hermes

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解

编程

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST view 317
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式，从底层原理到工程实战，涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp GGUF 量化大模型 C++ 本地部署

NeuTTS Air：0.5B参数超拟真语音合成，3秒音频克隆你的声音

编程

NeuTTS Air：0.5B参数超拟真语音合成，3秒音频克隆你的声音
2026-04-28 12:43:51 +0800 CST view 129
NVIDIA开源NeuTTS Air——0.5B参数超拟真语音合成模型，仅需3秒音频即可完成声音克隆，可在手机、笔记本甚至树莓派上本地运行，完全保护隐私，无需联网。
AI TTS 声音克隆本地部署 NVIDIA 语音合成边缘计算

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

编程

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」
2026-04-09 07:55:23 +0800 CST view 581
深度解析 METATRON：如何在本地零成本跑起一个完整的 AI 渗透测试助手，基于 Qwen 微调模型 + Ollama + MariaDB，无需 API Key，数据完全不出本地。
AI渗透测试 Ollama Qwen 本地大模型 MariaDB Pentest 安全工具 Agent

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

案例

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST view 94
Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎ds4.c，C+Metal从头编写，Mac Studio M3 Ultra上预填充468 token/s。关键优化：非对称量化（MoE专家层2-bit）、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑，专为coding agent优化。
DeepSeek AI推理 Mac Redis antirez Metal 本地推理 MoE GGUF C语言 Apple Silicon Claude Code OpenAI API Anthropic API

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

编程

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱
2026-04-10 05:35:25 +0800 CST view 275
Rowboat 是一个带长期记忆的开源 AI 同事，自动构建知识图谱，支持会议准备、文档生成、承诺追踪，采用本地优先架构，完全透明可控。
AI Agent 知识图谱开源工具本地优先生产力工具

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实

编程

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实
2026-04-11 10:24:48 +0800 CST view 386
深度解析 Apple Silicon 上的视觉语言模型推理引擎 MLX-VLM，涵盖架构设计、模型支持、性能优化与实战部署。
Apple Silicon MLX 视觉语言模型 VLM Mac本地AI 多模态推理

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

编程

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南
2026-04-20 13:45:31 +0800 CST view 242
深度对比vLLM与TensorRT-LLM两大LLM推理框架，从PagedAttention到Kernel Fusion，从量化技术到生产部署，助你做出正确的技术选型决策
LLM vLLM TensorRT-LLM 推理优化大模型部署量化技术 AI工程

agents-cli：谷歌开源 AI Agent 全流程开发工具，从搭建到部署一键搞定

案例

agents-cli：谷歌开源 AI Agent 全流程开发工具，从搭建到部署一键搞定
2026-05-11 08:01:29 +0800 CST view 50
谷歌云官方开源的 agents-cli 工具，专为简化 AI 智能体开发生命周期设计。支持 Gemini CLI、Claude Code、Codex、Cursor 等主流编程助手，内置七大技能包覆盖构建-评估-部署全流程，支持本地模拟评估、自动化部署到 Cloud Run/GKE、Gemini Enterprise 注册。
Google agents-cli AI Agent CLI 部署评估 ADK Cloud Run

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

编程

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案
2026-05-11 09:23:06 +0800 CST view 44
Goose 是由 Block 开源、现已捐献给 Linux 基金会 AAIF 的本地 AI 编程代理。最新版本 v1.32.0（2026年5月6日）支持 Exa AI 搜索、桌面通知、@agent 协作、/skills 命令、自动压缩上下文、语音听写等功能。Rust 开发，支持 MCP 协议，可连接任何 LLM（OpenAI、Ollama、Kimi Code 等），完全本地运行无需订阅。
Goose AI编程本地LLM MCP Rust Linux基金会 Block

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景

编程

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景
2024-11-18 13:34:51 +0800 CST view 1903
Gunicorn是一个高性能、易于使用的PythonWSGIHTTP服务器，适用于多种应用部署场景。它支持多种工作模式，能够高效处理并发请求，并兼容多种PythonWeb框架。本文详细介绍了Gunicorn的安装方法、主要特性、基本和高级功能，以及实际应用场景，帮助开发者全面掌握该库的使用。
Python Web开发服务器并发处理应用部署

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

编程

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态
2026-05-11 17:27:19 +0800 CST view 36
PGlite将完整PostgreSQL编译为WebAssembly，在浏览器里跑真正的数据库。3MB gzip、无依赖、完整SQL支持、ACID事务、pgvector向量搜索。本文深度解析PGlite技术架构，并从零构建本地优先AI笔记应用实战。
PGlite PostgreSQL WebAssembly 前端数据库 WASM 本地优先 pgvector

Gemma 4 MoE 架构技术深度解析：Dense MLP + Routed MoE 双路径设计如何重塑开源大模型

编程

Gemma 4 MoE 架构技术深度解析：Dense MLP + Routed MoE 双路径设计如何重塑开源大模型
2026-04-21 14:22:20 +0800 CST view 217
深度解析 Google Gemma 4 的 Dual-Path 混合架构设计：Dense MLP 保障通用基座能力，Routed MoE 释放专业化推理效率。一文吃透技术原理、部署实战与选型对比。
Gemma 4 MoE架构 Dense MLP Routed MoE Google DeepMind 开源大模型 Transformer 模型部署混合专家

里程碑！AI Agent 现在可以自己注册账号、购买域名、部署上线了

案例

里程碑！AI Agent 现在可以自己注册账号、购买域名、部署上线了
2026-05-04 07:37:15 +0800 CST view 97
Cloudflare与Stripe合作推出Stripe Projects，让AI Agent可以自动完成账号创建、域名购买和应用部署，无需人工介入，标志着Agent能力边界的重要突破
Cloudflare Stripe AI Agent 自动化部署无服务器 DevOps

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载

编程

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载
2024-11-18 20:57:45 +0800 CST view 1419
本文讨论了如何实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载。通过定义简单的计算器接口及其实现，展示了两种热部署方式：一种是通过反射加载Jar包，另一种是通过Spring上下文管理。还介绍了工具类DeployUtils的实现，提供了读取Jar包、判断SpringBean及生成Bean名称的方法，并提供了Jar包删除时同步删除SpringBean的代码示例。
Java 开发热部署 Spring 编程

科大讯飞开源SkillHub：企业级智能体技能注册中心

案例

科大讯飞开源SkillHub：企业级智能体技能注册中心
2026-05-06 07:34:11 +0800 CST view 100
科大讯飞开源SkillHub企业级智能体技能注册中心，自托管私有化部署，支持发布/发现/管理技能包，RBAC权限控制，两级审核治理，完整审计日志，Java 21 + React 19 + PostgreSQL 16技术栈
AI Agent Skill Registry 企业级讯飞开源技能管理 Rbac 私有化部署

编程

使用 node-ssh 实现自动化部署
2024-11-18 20:06:21 +0800 CST view 1369
本文介绍了如何使用node-ssh实现自动化部署，避免依赖Jenkins、GitLabCI/CD和GitHubActions。通过示例代码展示了如何与服务器建立SSH连接，执行命令，上传文件，以及实现完整的自动化部署流程，包括备份和Nginx配置的修改。适合需要快速部署的开发者。
自动化开发工具部署

前端容器化实战：使用Docker高效部署前端项目的完整指南

编程

前端容器化实战：使用Docker高效部署前端项目的完整指南
2025-09-11 17:13:31 +0800 CST view 1163
本文详细介绍了使用Docker容器化部署前端项目的完整实践指南。内容包括Docker环境安装、优化Dockerfile编写、多阶段构建、Nginx配置优化、DockerCompose管理、环境变量配置以及CI/CD自动化部署。提供了具体的代码示例和最佳实践，帮助开发者实现高效、一致的前端项目部署，提升部署效率和系统可靠性。
前端开发容器技术 DevOps 部署优化 Web开发

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代

案例

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代
2026-05-07 13:34:32 +0800 CST view 121
明略科技开源Mano-P（4B量化模型本地操控Mac）和Cider（MLX推理加速框架）。476 tokens/s预填充，76 tokens/s解码，峰值内存4.3GB，完全本地运行数据不出设备，离线长任务自主规划
GUI Agent 端侧AI Apple Silicon MLX 视觉理解本地运行 Mano-P Cider

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析

编程

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析
2026-04-17 13:15:36 +0800 CST view 404
深度解析如何将 Ollama、OpenClaw 和 Claude Code 组合成强大的本地化 AI 编程工作流
Ollama OpenClaw Claude Code AI编程本地大模型

如何在生产环境中部署FastAPI应用程序

编程

如何在生产环境中部署FastAPI应用程序
2024-11-19 10:13:11 +0800 CST view 2542
本文介绍了如何在生产环境中部署FastAPI应用程序，包括设置生产服务器、管理环境变量、使用反向代理和SSL/TLS加密等步骤。通过实际演示，读者可以学习如何使用Uvicorn和Gunicorn运行应用程序，配置Nginx作为反向代理，设置SSL/TLS证书，以及实现日志记录、中间件、CORS、速率限制和后台任务处理等功能，确保应用程序的安全性和性能。
Web开发 API 部署安全性性能优化

Open Design：31个Skills+72套设计系统，Claude Design的开源替代品

案例

Open Design：31个Skills+72套设计系统，Claude Design的开源替代品
2026-05-09 06:34:08 +0800 CST view 152
Open Design开源项目：Claude Design的开源替代品，31个Skills+72套设计系统，支持16种AI CLI工具，本地运行Apache-2.0协议，多模型支持，内置图片视频生成，MCP集成
AI设计 Claude Design替代开源设计工具本地运行多模型设计系统

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调回调

AI,自己全程接管维护

猛涨25K Star！LLMFit：一键检测你的电脑能跑哪些大模型

45+在线图片工具+REST API+AI修图：SnapOtter让NAS秒变个人图片处理中心

从原理到实战：llama.cpp 与 GGUF 量化格式的工程实践全解

NeuTTS Air：0.5B参数超拟真语音合成，3秒音频克隆你的声音

METATRON 深度解析：当 AI 渗透测试在本地跑出「免费版 GPT-4 安全助手」

CLI Printing Press：火爆外网的Go开源神器！一键生成Agent专属CLI工具，45个开箱即用

Redis之父antirez亲自下场！为DeepSeek V4 Flash打造专属推理引擎，Mac上跑出468 token/s

Rowboat 深度解析：当 AI 同事第一次拥有「长期记忆」，工作变成可积累的知识图谱

当 Apple Silicon 遇上视觉大模型：MLX-VLM 如何把「本地多模态推理」变成现实

LLM推理引擎终极对决：vLLM vs TensorRT-LLM深度解析与2026生产环境选型指南

agents-cli：谷歌开源 AI Agent 全流程开发工具，从搭建到部署一键搞定

Goose：Block 开源、Linux 基金会托管——本地 AI 编程代理的终极答案

Gunicorn是一个高性能、易于使用的Python，适用于多种应用部署场景

3MB就能跑PostgreSQL：PGlite如何用WebAssembly彻底改变前端数据库生态

Gemma 4 MoE 架构技术深度解析：Dense MLP + Routed MoE 双路径设计如何重塑开源大模型

里程碑！AI Agent 现在可以自己注册账号、购买域名、部署上线了

实现系统的动态热部署功能，允许用户上传自定义实现的Jar包并在不重启系统的情况下自动加载

科大讯飞开源SkillHub：企业级智能体技能注册中心

使用 node-ssh 实现自动化部署

前端容器化实战：使用Docker高效部署前端项目的完整指南

Mano-P + Cider：4B模型本地操控Mac，端侧GUI Agent新时代

Ollama + OpenClaw + Claude Code：本地大模型驱动的自动化编程工作流深度解析

如何在生产环境中部署FastAPI应用程序

Open Design：31个Skills+72套设计系统，Claude Design的开源替代品

大家都在搜索什么？