程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
编程
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
2026-06-11 00:19:05 +0800 CST
view 427
全面解析 llama.cpp 推理引擎,从 GGUF 格式、量化原理、架构设计到跨平台部署,提供生产级代码实战和性能优化指南。
llama.cpp
GGUF
量化
端侧推理
大语言模型
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
案例
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎,Mac上跑出468 token/s
2026-05-10 08:40:22 +0800 CST
view 741
Redis之父antirez亲自下场!为DeepSeek V4 Flash打造专属推理引擎ds4.c,C+Metal从头编写,Mac Studio M3 Ultra上预填充468 token/s。关键优化:非对称量化(MoE专家层2-bit)、KV缓存搬硬盘、内置OpenAI/Anthropic双API。128GB Mac可跑,专为coding agent优化。
DeepSeek
AI推理
Mac
Redis
antirez
Metal
本地推理
MoE
GGUF
C语言
Apple Silicon
Claude Code
OpenAI API
Anthropic API
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 161
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
CVE-2026-7482深度剖析:30万台Ollama服务器的内存裸奔危机与防御实战
编程
CVE-2026-7482深度剖析:30万台Ollama服务器的内存裸奔危机与防御实战
2026-06-03 17:44:19 +0800 CST
view 381
Ollama高危漏洞CVE-2026-7482(BLEEDING LLAMA)深度剖析,CVSS 9.1分,攻击者可远程读取30万台服务器内存数据,提供企业级修复方案
安全
Ollama
GGUF
CVE
AI
大模型
漏洞
Ollama v0.14.3 深度实战:从本地部署到多模态 AI——2026 年私有化大模型工程化完全指南
编程
Ollama v0.14.3 深度实战:从本地部署到多模态 AI——2026 年私有化大模型工程化完全指南
2026-05-24 12:04:34 +0800 CST
view 362
Ollama v0.14.3 深度实战指南:从架构解析到生产部署,涵盖 GGUF 格式、API 集成、多模态模型、性能优化等核心内容,2026 年私有化大模型首选方案。
Ollama
大模型
本地部署
GGUF
多模态
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 965
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
编程
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
2026-07-25 15:14:38 +0800 CST
view 43
深度解析 Shimmy v2.3.0:纯 Rust WebGPU 推理引擎如何实现浏览器端原生运行 GGUF 量化模型,OpenAI API 兼容,零依赖部署。
WebGPU
Rust
GGUF
AI推理
浏览器
llama.cpp
OpenAI API
前端工程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 174
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
Ollama 深度拆解:从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌(2026·完整版)
编程
Ollama 深度拆解:从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌(2026·完整版)
2026-07-20 18:18:40 +0800 CST
view 176
深度拆解 Ollama 工程架构:Go 服务层封装 llama.cpp、CGO 内存边界、GGUF 量化格式、Modelfile DSL、OpenAI 兼容层、Metal GPU 加速与生产部署实战,配完整 Go/Python/Shell 代码示例。
Ollama
本地大模型
llama.cpp
GGUF
Go
CGO
量化
Apple Silicon
DwarfStar 深度解析:antirez 的 DeepSeek V4 Flash 本地推理引擎——Metal 与 CUDA 双轨优化革命(2026 完全指南)
编程
DwarfStar 深度解析:antirez 的 DeepSeek V4 Flash 本地推理引擎——Metal 与 CUDA 双轨优化革命(2026 完全指南)
2026-05-28 19:13:18 +0800 CST
view 491
DwarfStar(ds4)是Redis创始人antirez开发的DeepSeek V4 Flash专用推理引擎,支持Metal与CUDA双轨优化、磁盘KV Cache、imatrix量化和原生Agent集成。本文深入解析其架构设计与性能表现。
DeepSeek
ds4
Metal
CUDA
本地推理
MoE
量化
GGUF
Agent
Python
C
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
编程
Ollama 深度实战:当本地大模型成为生产级基础设施——从模型量化到高并发推理、从 REST API 到 Kubernetes 部署的完全指南(2026)
2026-06-20 01:25:22 +0800 CST
view 527
Ollama本地大模型生产级部署完全指南:从GGUF格式原理、INT4/INT8量化实战、REST API集成、多语言SDK(Python/Go/TypeScript)、GPU显存管理、Kubernetes+Helm生产部署、性能调优到RAG知识库构建,全流程深度实战。
Ollama
本地大模型
LLM部署
模型量化
GGUF
llama.cpp
REST API
Kubernetes
GPU
RAG
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
编程
Ollama 深度拆解:当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
2026-07-15 08:45:14 +0800 CST
view 161
从工程师视角深度拆解 Ollama 与本地大模型推理引擎:GGUF 单文件格式、K-quant/IQ-quant 量化家族、内存带宽墙、llama.cpp 计算图与 KV Cache,配 Modelfile、Python/Go 流式客户端与自量化实战。
Ollama
llama.cpp
GGUF
本地推理
大模型量化
KV Cache
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
编程
Ollama 融资 6500 万美元背后:2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
2026-07-16 11:45:03 +0800 CST
view 255
从 Ollama 6500 万美元融资事件切入,深度拆解 2026 年本地大模型运行时生态:Ollama、llama.cpp、LocalAI、LiteBox、vLLM 的架构设计、性能对比、API 设计、适用场景,配完整代码实战与生产部署踩坑指南。
Ollama
本地大模型
llama.cpp
LocalAI
LiteBox
本地LLM
推理引擎
量化
GGUF
MCP
OpenAI Codex CLI 深度实战:Rust 重写的 AI 编程代理——从沙箱安全到 Agent Loop、MCP 生态与 Triggers 自动化的完全指南(2026)
编程
OpenAI Codex CLI 深度实战:Rust 重写的 AI 编程代理——从沙箱安全到 Agent Loop、MCP 生态与 Triggers 自动化的完全指南(2026)
2026-05-31 07:51:56 +0800 CST
view 1171
深度解析 OpenAI Codex CLI 的 Rust 架构设计、三级沙箱安全模型、Agent Loop 状态机、MCP 生态集成与 2026 年 Triggers 自动化流水线实战
Codex
OpenAI
Rust
AI编程
Agent
MCP
沙箱安全
Triggers
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
编程
Ollama 本地大模型部署实战:从零到生产级应用的完全指南(2026)
2026-06-10 01:20:57 +0800 CST
view 562
2026年Ollama本地大模型部署完全指南:从架构原理、GGUF量化、ModelFile自定义、多语言集成(Python/JS/Go)、RAG实战到Docker/K8s生产部署,8500字深度长文。
Ollama
本地部署
大模型
LLM
生产级
GGUF
量化
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
编程
当 C/C++ 遇上 Rust:llama.cpp 与 LiteBox 深度架构对比——2026 年本地 LLM 推理框架的心智模型之战
2026-07-16 12:50:04 +0800 CST
view 149
深度对比 llama.cpp 与 LiteBox 两大本地 LLM 推理框架:GGUF 格式设计、K-Quant 量化内核、KV cache 管理、多后端抽象、并发架构,配完整代码实战与性能实测数据。
llama.cpp
LiteBox
GGUF
量化
KV cache
本地LLM
推理框架
Rust
C/C++
模型压缩
llama.cpp 深度实战:当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南(2026)
编程
llama.cpp 深度实战:当 C/C++ 重写遇见端侧 LLM 推理——从 GGUF 量化到 Apple Silicon 38 tokens/s 的生产级完全指南(2026)
2026-06-16 01:17:28 +0800 CST
view 624
llama.cpp 是端侧 LLM 推理的事实标准(180K+ Stars)。本文从源码架构、GGUF 格式、量化方法、跨平台后端、生产部署、性能优化到 DeepSeek V4 Flash 实战,全方位讲解本地 AI 推理。
llama.cpp
GGUF
量化
端侧推理
本地AI
C/C++
Apple Silicon
GitHub Actions 2026 深度解析:从 CI/CD 工具到平台级基础设施,架构重写与成本模型全面升级
编程
GitHub Actions 2026 深度解析:从 CI/CD 工具到平台级基础设施,架构重写与成本模型全面升级
2026-05-14 20:44:03 +0800 CST
view 532
GitHub Actions 在 2026 年完成架构全面重写:分布式执行器和全局调度器让并行 job 速度提升 40%,Actions Copilot 让 workflow 配置效率提升 5 倍,Stacking PRs 解决 AI 时代大模型代码审查难题,智能成本控制让费用降低 35%。深度解析架构演进、Actions Copilot、Stacking PRs、成本优化、与 GitLab CI/Jenkins 横向对比。
GitHub Actions
CI/CD
自动化
DevOps
GitHub Copilot
Stacking PRs
分布式
成本优化
GitHub Agentic Workflows 深度实战:用自然语言 Markdown 重写 CI/CD——GitHub 官方 AI 工作流引擎完全指南(2026)
编程
GitHub Agentic Workflows 深度实战:用自然语言 Markdown 重写 CI/CD——GitHub 官方 AI 工作流引擎完全指南(2026)
2026-06-04 20:46:11 +0800 CST
view 547
GitHub 官方 AI Agentic Workflows (gh-aw) 完全指南:用自然语言 Markdown 替代 YAML,实现 Issue 分类、PR 审查、Changelog 自动化,含安全模型深度解析和生产级实战代码。
GitHub Agentic Workflows
gh-aw
GitHub Actions
AI Agent
CI/CD
自然语言编程
当「无限续杯」时代落幕:GitHub Copilot 订阅危机深度解析与开发者应对指南
编程
当「无限续杯」时代落幕:GitHub Copilot 订阅危机深度解析与开发者应对指南
2026-04-23 11:41:08 +0800 CST
view 1216
2026年4月20日GitHub Copilot突然暂停新用户付费订阅注册,大幅收紧用量限制。深度解析危机根源与开发者应对策略。
GitHub Copilot
GitHub AI
AI编程
订阅危机
Token消耗
隐私政策
智能体编程
GitHub Agentic Workflows 深度解析:Don Syme 操刀的下一代 AI 工作流引擎,4300+ Stars 的技术内幕与实战指南
编程
GitHub Agentic Workflows 深度解析:Don Syme 操刀的下一代 AI 工作流引擎,4300+ Stars 的技术内幕与实战指南
2026-06-26 11:46:19 +0800 CST
view 211
深度解析 GitHub Agentic Workflows(gh-aw):F# 之父亲自操刀的下一代 AI 工作流引擎。涵盖架构设计、安全机制、实战指南、设计模式与生产部署,4300+ Stars 的技术内幕全揭秘。
GitHub
GitHub Actions
AI Agent
gh-aw
Don Syme
工作流自动化
Continuous AI
开发者工具
gh-aw 深度解析:GitHub Agentic Workflows 架构原理与生产级实战指南
编程
gh-aw 深度解析:GitHub Agentic Workflows 架构原理与生产级实战指南
2026-06-27 15:12:25 +0800 CST
view 267
深度解析GitHub最新开源的Agentic Workflows框架gh-aw:从架构原理、安全模型到生产级部署的完整实战指南,代码示例丰富
gh-aw
GitHub Agentic Workflows
GitHub Actions
AI Agent
CI/CD
DevOps
自动化
GitHub Agentic Workflows 完全实战:gh-aw 架构原理、安全模型与生产级部署指南
编程
GitHub Agentic Workflows 完全实战:gh-aw 架构原理、安全模型与生产级部署指南
2026-06-27 15:13:08 +0800 CST
view 340
深度解析GitHub最新开源的Agentic Workflows框架gh-aw:从架构原理、安全模型到生产级部署的完整实战指南
gh-aw
GitHub Agentic Workflows
GitHub Actions
AI Agent
CI/CD
DevOps
自动化
花束设计(Huashu Design)深度解析:当 Claude Code 拥有了一个「会设计的大脑」
编程
花束设计(Huashu Design)深度解析:当 Claude Code 拥有了一个「会设计的大脑」
2026-04-27 13:22:42 +0800 CST
view 1366
花束设计(Huashu Design)是一个给 Claude Code 的 HTML 原生设计 skill,7天获得6700+ Stars。本文深度解析其七大能力模块、防AI Slop规则系统、品牌资产协议和Stage+Sprite动画引擎。
Huashu Design
Claude Code
AI设计
Skill
HTML
前端
设计工具
开源
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
3
4
5
6
7
...
38
下一页