程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Odysseus 深度实战:当 YouTuber 之王用 Python 重写「AI 工作台」——从 FastAPI 微服务到 MCP Agent 与 ChromaDB 记忆系统的生产级完全指南(2026)
编程
Odysseus 深度实战:当 YouTuber 之王用 Python 重写「AI 工作台」——从 FastAPI 微服务到 MCP Agent 与 ChromaDB 记忆系统的生产级完全指南(2026)
2026-06-14 15:50:01 +0800 CST
view 190
深度剖析 PewDiePie 开源的 Odysseus 自托管 AI 工作空间:从 FastAPI 微服务架构到 MCP Agent 系统与 ChromaDB 记忆系统,含完整部署实战与性能优化指南
Odysseus
self-hosted
AI workspace
FastAPI
MCP
ChromaDB
Agent
自托管
本地AI
Deep Research
Mano-P + Cider:4B模型本地操控Mac,端侧GUI Agent新时代
案例
Mano-P + Cider:4B模型本地操控Mac,端侧GUI Agent新时代
2026-05-07 13:34:32 +0800 CST
view 333
明略科技开源Mano-P(4B量化模型本地操控Mac)和Cider(MLX推理加速框架)。476 tokens/s预填充,76 tokens/s解码,峰值内存4.3GB,完全本地运行数据不出设备,离线长任务自主规划
GUI Agent
端侧AI
Apple Silicon
MLX
视觉理解
本地运行
Mano-P
Cider
Papacito OS:本地转录+图片OCR+搜索,开源AI第二大脑有点实用
编程
Papacito OS:本地转录+图片OCR+搜索,开源AI第二大脑有点实用
2026-06-20 13:43:05 +0800 CST
view 88
Papacito OS 是一个本地优先的个人知识系统,基于 whisper.cpp 本地语音转文字 + Tesseract 图片 OCR + SQLite 关键词搜索。100% Local,适合会议录音、截图、白板、零散笔记整理。
AI
第二大脑
本地优先
知识管理
转录
OCR
语音转文字
开源
Next.js
whisper.cpp
Tesseract
Odysseus 深度实战:当 AI 工作空间学会「自托管」——从 PewDiePie 55K Star 爆款到本地私有 AI 全链路生产级完全指南(2026)
编程
Odysseus 深度实战:当 AI 工作空间学会「自托管」——从 PewDiePie 55K Star 爆款到本地私有 AI 全链路生产级完全指南(2026)
2026-06-15 05:17:47 +0800 CST
view 113
2026年5月底PewDiePie开源Odysseus自托管AI工作空间,48小时23K+Star。本文从架构、部署、实战、安全四个维度完整拆解。
AI
自托管
开源
GitHub
Odysseus
本地AI
MCP
Odysseus 深度实战:当 AI 工作空间学会「自托管」——从 PewDiePie 55K Star 爆款到本地私有 AI 全链路生产级完全指南[2026 年 6 月]
编程
Odysseus 深度实战:当 AI 工作空间学会「自托管」——从 PewDiePie 55K Star 爆款到本地私有 AI 全链路生产级完全指南[2026 年 6 月]
2026-06-15 05:19:17 +0800 CST
view 509
2026年5月底PewDiePie开源Odysseus自托管AI工作空间,48小时23K+Star。本文从架构、部署、实战、安全四个维度,完整拆解这款本地私有AI全链路生产级完全指南。
AI
自托管
开源
GitHub
Odysseus
本地AI
MCP协议
oMLX 深度解析:Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣
编程
oMLX 深度解析:Apple Silicon 原生的本地大模型推理服务器——从分层 KV 缓存到菜单栏级 AI 编码伴侣
2026-05-21 22:30:11 +0800 CST
view 401
深入解析 oMLX 的分层 KV 缓存架构(热 RAM + 冷 SSD)、Copy-on-Write 优化、与 Claude Code 的深度集成,以及 Apple Silicon 原生的推理性能优化。
oMLX
Apple Silicon
本地大模型
KV缓存
MLX
推理服务器
Goose 深度实战:当 Linux Foundation 为 AI Agent 建造「本地操作系统」——从 Rust 运行时到 ACP/MCP 全链路生产级完全指南(2026)
编程
Goose 深度实战:当 Linux Foundation 为 AI Agent 建造「本地操作系统」——从 Rust 运行时到 ACP/MCP 全链路生产级完全指南(2026)
2026-06-15 10:46:57 +0800 CST
view 190
深入解析 Linux Foundation AAIF 旗下的开源本地 AI Agent 项目 Goose:Rust 编写,桌面+CLI+API 三入口,支持 15+ 模型提供商和 70+ MCP 扩展,从架构设计到生产级部署的完整指南
AI Agent
Rust
MCP
Goose
Linux Foundation
本地运行时
ACP
Provider
开源
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
编程
ds4 深度解析:Redis 作者的最后一战?—— DwarfStar 4 本地推理引擎的技术革命
2026-05-15 17:47:40 +0800 CST
view 465
深入解析 antirez(Redis 作者)新开源项目 ds4:DwarfStar 4 本地推理引擎,专门为 DeepSeek V4 Flash 打造,支持 Metal/CUDA 后端,2-bit 量化可在 96GB 内存 MacBook 上运行 284B 参数模型。
AI推理
本地部署
DeepSeek
Redis
Apple Silicon
CUDA
Metal
MoE
量化
OpenHuman 深度实战:Rust+Tauri 构建本地优先的 AI 桌面助手——Memory Tree 持久记忆与 118+ 集成完全指南(2026)
编程
OpenHuman 深度实战:Rust+Tauri 构建本地优先的 AI 桌面助手——Memory Tree 持久记忆与 118+ 集成完全指南(2026)
2026-05-30 21:11:41 +0800 CST
view 280
OpenHuman 用 Rust+Tauri 构建本地优先的 AI 桌面助手,通过 Memory Tree 持久记忆和 118+ 集成让 Agent 拥有跨会话长期记忆。本文从架构原理到生产级部署完整拆解。
OpenHuman
Rust
Tauri
AI桌面助手
Memory Tree
知识图谱
本地AI
OpenClaw 深度实战:从"聊天AI"到"本地执行智能体"的范式跃迁——2026年最火开源AI Agent框架完全指南
编程
OpenClaw 深度实战:从"聊天AI"到"本地执行智能体"的范式跃迁——2026年最火开源AI Agent框架完全指南
2026-05-31 02:14:52 +0800 CST
view 411
深度解析 OpenClaw 2026年爆火的开源AI Agent框架,从架构原理到生产级部署,涵盖微服务、本地优先、隐私安全等核心技术。
OpenClaw
AI Agent
本地优先
微服务
开源框架
OpenClaw 深度实战:当本地 AI 助手遇上全平台自动化——从架构原理到生产级部署的完全指南(2026)
编程
OpenClaw 深度实战:当本地 AI 助手遇上全平台自动化——从架构原理到生产级部署的完全指南(2026)
2026-06-10 01:48:23 +0800 CST
view 250
OpenClaw(原名 Clawdbot/Moltbot)是2026年爆火的开源本地AI助手项目。本文从架构原理、核心概念、实战部署、Skills开发、多平台集成、性能优化等维度,全方位深入剖析OpenClaw如何将AI从聊天机器人进化为真正能做事的数字员工。
OpenClaw
AI助手
本地部署
自动化
Agent
Open-WebUI 深度实战:当本地大模型遇上生产级 Web 界面——从 RAG 管道到多模型统一编排的完全指南(2026)
编程
Open-WebUI 深度实战:当本地大模型遇上生产级 Web 界面——从 RAG 管道到多模型统一编排的完全指南(2026)
2026-06-10 03:16:35 +0800 CST
view 323
深入剖析 Open-WebUI 架构设计、RAG 实现原理、多模型编排机制,含大量可运行代码示例,覆盖从本地部署到生产级优化的完整流程。
Open-WebUI
本地大模型
RAG
FastAPI
Svelte
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
编程
SQLite-Vec 深度实战:当嵌入式数据库学会了向量搜索——从本地 RAG 到端侧 AI 应用的生产级完全指南(2026)
2026-06-21 10:26:56 +0800 CST
view 101
SQLite-Vec 完全指南:让嵌入式数据库拥有向量搜索能力。从架构原理到代码实战,详解本地 RAG 系统、向量索引优化、端侧部署方案,附带完整可运行代码。
SQLite
向量数据库
RAG
AI
嵌入式数据库
sqlite-vec
本地AI
Open Design:31个Skills+72套设计系统,Claude Design的开源替代品
案例
Open Design:31个Skills+72套设计系统,Claude Design的开源替代品
2026-05-09 06:34:08 +0800 CST
view 733
Open Design开源项目:Claude Design的开源替代品,31个Skills+72套设计系统,支持16种AI CLI工具,本地运行Apache-2.0协议,多模型支持,内置图片视频生成,MCP集成
AI设计
Claude Design替代
开源设计工具
本地运行
多模型
设计系统
NeuTTS Air:0.5B参数超拟真语音合成,3秒音频克隆你的声音
编程
NeuTTS Air:0.5B参数超拟真语音合成,3秒音频克隆你的声音
2026-04-28 12:43:51 +0800 CST
view 352
NVIDIA开源NeuTTS Air——0.5B参数超拟真语音合成模型,仅需3秒音频即可完成声音克隆,可在手机、笔记本甚至树莓派上本地运行,完全保护隐私,无需联网。
AI
TTS
声音克隆
本地部署
NVIDIA
语音合成
边缘计算
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
编程
TensorRT-LLM 深度实战:从 Blackwell 架构到 INT4 量化的 LLM 推理性能革命
2026-05-22 06:19:51 +0800 CST
view 376
深入解析TensorRT-LLM推理框架,从Paged KV Cache、连续批处理到INT4/INT8/FP8量化实战,覆盖Blackwell架构适配、Triton部署与K8s生产方案
TensorRT-LLM
LLM推理
量化
INT4
Blackwell
GPU优化
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
编程
vLLM 深度实战:当 PagedAttention 遇上生产级 LLM 推理——从内存革命到分布式部署的完全指南(2026)
2026-06-10 10:17:56 +0800 CST
view 151
深度解析 vLLM 的核心架构 PagedAttention 和 Continuous Batching,从内存管理原理到生产级分布式部署的完全指南。
vLLM
LLM推理
PagedAttention
GPU优化
大模型部署
AI推理
LiteLLM 深度解析:100+ 大模型统一网关的架构设计与生产实战
编程
LiteLLM 深度解析:100+ 大模型统一网关的架构设计与生产实战
2026-04-29 05:42:47 +0800 CST
view 404
深度解析开源AI网关LiteLLM:100+大模型统一接入、虚拟密钥体系、负载均衡与故障降级、MCP/A2A网关、生产级Docker部署实战
LiteLLM
AI网关
大模型
LLM
API网关
Python
Docker
云原生
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
编程
MCP 2026 深度解析:AI推理性能瓶颈诊断的12个隐性耗时陷阱——从TensorRT-LLM到vLLM再到Triton的全引擎实战
2026-04-30 14:21:13 +0800 CST
view 377
深度解析MCP 2026基准测试框架,拆解TensorRT-LLM、vLLM、Triton三大推理引擎的12个隐性耗时陷阱,提供可落地的诊断方法与修复路径。
AI推理
性能优化
TensorRT-LLM
vLLM
Triton
MCP2026
GPU优化
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
编程
2026 大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——从架构原理到生产级部署的完全指南
2026-06-16 23:24:43 +0800 CST
view 137
深度对比四大主流LLM推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9。从PagedAttention架构原理、FlashAttention优化、量化支持到生产级部署实战,包含统一环境下的性能测试数据与代码示例,帮助你做出最优选型决策。
LLM
推理框架
vLLM
TensorRT
DeepSpeed
性能优化
AI
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19 +0800 CST
view 80
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
编程
LLM推理引擎全栈优化实战:从PagedAttention到投机解码,榨干GPU的每一滴算力
2026-05-17 10:21:56 +0800 CST
view 372
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
编程
万字深度:PagedAttention、连续批处理与投机解码——LLM推理优化七层实战
2026-05-17 10:22:13 +0800 CST
view 351
深度拆解LLM推理引擎核心技术栈:PagedAttention消除内存碎片、连续批处理榨干GPU算力、NUMA感知调度、混合精度量化、投机解码加速、算子融合、分布式推理架构,附代码示例与性能数据
LLM
vLLM
PagedAttention
推理优化
量化
投机解码
ContinuousBatching
GPU
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
编程
2026大模型推理框架终极对决:vLLM 0.5 vs TGI 2.0 vs TensorRT-LLM 1.8 vs DeepSpeed-MII 0.9——谁才是生产级部署的真正王者?
2026-06-23 08:22:26 +0800 CST
view 63
深度对比2026年四大主流大模型推理框架:vLLM 0.5、TGI 2.0、TensorRT-LLM 1.8、DeepSpeed-MII 0.9,从核心架构、性能压测、成本分析到代码实战的完全指南。
vLLM
TensorRT-LLM
大模型推理
性能优化
DeepSpeed
TGI
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
2
3
4
5
...
17
下一页