Ollama 相关技术文章

php mysql shell go vue css api接口对接支付接口对接

用 Go 单二进制搭一个 NotebookLM 替代品：Notex 的部署、模型模式与 RAG 参数

用 Go 单二进制搭一个 NotebookLM 替代品：Notex 的部署、模型模式与 RAG 参数
2026-09-28 00:03:46
Notex 是 Go 1.23 写的开源 NotebookLM 替代品，单二进制 + 本地 SQLite 向量库就能跑。这篇记录它的部署命令、OpenAI/Ollama 两种模型模式怎么选、MAX_SOURCES/CHUNK_SIZE 等 RAG 参数的作用，以及 markitdown、yt-dlp、vosk 这些外部命令的边界。
notebook lm 替代品 NotebookLM Notex Go RAG 自托管 SQLite Ollama

Ollama v0.34.0 版本解读：ChatGPT 桌面端可用本地模型

Ollama v0.34.0 版本解读：ChatGPT 桌面端可用本地模型
2026-09-10 12:17:52
Ollama v0.34.0（2026-09-09）发布：本地模型可直接在 ChatGPT Desktop 中使用（macOS 应用内设置），Apple Silicon 结构化输出性能提升，新增 OpenAI 兼容客户端工具搜索与响应压缩支持，并修复压缩响应中的图片输出。
Ollama LLM 本地模型 ChatGPT OpenAI 兼容

本地跑 LLM 的最短路径：Ollama 的安装、命令与边界

本地跑 LLM 的最短路径：Ollama 的安装、命令与边界
2026-08-29 20:31:34
用 Go 写的 Ollama 在本地拉模型跑对话有多快，本文给出安装、run/pull/list/serve 常用命令、本地 HTTP API 与 OpenAI 兼容端点、GPU 与 Modelfile 用法，并明确什么情况下不该用它（高并发、完整 OpenAI 生态、复杂编排）。
Ollama 大模型本地推理 Go LLM

llmfit 深度拆解：Rust 写就的本地大模型选型神器——一行命令把"显存够不够跑"从玄学变成算术

llmfit 深度拆解：Rust 写就的本地大模型选型神器——一行命令把"显存够不够跑"从玄学变成算术
2026-08-18 08:15:14
llmfit 是一款 Rust 编写的本地大模型选型工具，一行命令自动检测硬件配置，精确计算显存占用，给出 Fit 评分和速度估算，支持 Ollama、llama.cpp、MLX 等多运行时，配可运行代码与最佳实践。
llmfit Rust TUI 本地大模型 LLM推理 Ollama llama.cpp 模型选型量化 Apple Silicon GPU 显存计算 MLX 命令行工具

通义千问 Qwen3.8-27B 深度解析：Max 级旗舰权重首次开源，270 亿参数 Dense 模型如何在家用显卡上跑出旗舰性能

通义千问 Qwen3.8-27B 深度解析：Max 级旗舰权重首次开源，270 亿参数 Dense 模型如何在家用显卡上跑出旗舰性能
2026-08-17 18:44:06
深度拆解阿里 Qwen3.8-27B：2.4T 旗舰与 27B 开源版的关系、MoE 架构细节、Dense 模型设计、vLLM/Ollama/昇腾部署实战、性能实测，以及完整的本地 RAG 代码示例。Apache 2.0 开源，家用显卡可跑。
Qwen3.8 通义千问大模型 MoE Dense架构 vLLM Ollama 本地部署

Muse Glimmer 端侧Agent革命：300亿参数模型如何在消费级GPU上跑出生产级性能（2026实战）

Muse Glimmer 端侧Agent革命：300亿参数模型如何在消费级GPU上跑出生产级性能（2026实战）
2026-08-13 18:50:11
深度拆解Meta 2026年8月发布的Muse Glimmer：300亿参数开放权重Dense模型，4bit量化可在单张RTX 3090/4090上本地运行。涵盖架构设计、知识蒸馏、量化原理、本地部署实战与性能基准测试。
Muse Glimmer 端侧AI 知识蒸馏 4bit量化 Agent本地部署 300亿参数 Meta Apache 2.0 llama.cpp Ollama

Meta Muse Glimmer 深度拆解：300亿参数端侧Agent模型的工程革命——从知识蒸馏到4bit量化的完整实战指南（2026）

Meta Muse Glimmer 深度拆解：300亿参数端侧Agent模型的工程革命——从知识蒸馏到4bit量化的完整实战指南（2026）
2026-08-13 18:49:00
深度拆解Meta 2026年8月发布的Muse Glimmer：300亿参数开放权重Dense模型，4bit量化可在单张RTX 3090/4090上本地运行。涵盖架构设计、知识蒸馏、量化原理、本地部署实战与性能基准测试。
Muse Glimmer 端侧AI 知识蒸馏 4bit量化 Agent本地部署 300亿参数 Meta Apache 2.0 llama.cpp Ollama

WorldMonitor 深度拆解：73K Stars 的「全球态势感知」仪表盘，凭什么不用任何前端框架？

WorldMonitor 深度拆解：73K Stars 的「全球态势感知」仪表盘，凭什么不用任何前端框架？
2026-07-27 08:44:14
深度拆解一周涨1万Star的WorldMonitor：500+信源聚合、双地图引擎、零框架Vanilla TS前端、一套代码6个站点变体、本地Ollama兜底与MCP/SDK全家桶，附自托管与mini复刻实战。
WorldMonitor 开源态势感知 Vanilla TypeScript deck.gl MCP Ollama Tauri

OpenWorker 深度解析：吴恩达的桌面 AI 智能体，从 aisuite 到生产级 Agent 架构的完整演进

OpenWorker 深度解析：吴恩达的桌面 AI 智能体，从 aisuite 到生产级 Agent 架构的完整演进
2026-07-26 12:13:55
深度解析吴恩达开源的桌面AI智能体OpenWorker：aisuite统一模型接口、Agent运行时架构、权限沙箱、记忆系统、任务规划、ReAct执行循环、工具系统、多模型策略、成本优化与实战应用。
OpenWorker AI Agent aisuite 桌面智能体吴恩达 Andrew Ng 多模型 Ollama 本地LLM Agent架构

llmfit 深度拆解：一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖

llmfit 深度拆解：一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04
深度拆解 GitHub Trending 开源工具 llmfit：四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准，从第一性原理讲透本地大模型的硬件适配方法论。
llmfit 本地大模型 LLM Rust 量化 Ollama llama.cpp Apple Silicon 硬件适配开源

World Monitor 深度拆解：500+ 信息源、56 种地图图层、一套代码发 6 个站，日增 300 星的开源态势感知仪表盘怎么造

World Monitor 深度拆解：500+ 信息源、56 种地图图层、一套代码发 6 个站，日增 300 星的开源态势感知仪表盘怎么造
2026-07-24 08:17:48
深度拆解 GitHub Trending 榜首 World Monitor：500+ 信息源聚合去重管线、deck.gl/globe.gl 双地图引擎、281 个 Protobuf 防腐层、三层缓存、一套代码发 6 个变体站与 Tauri sidecar 安全教训，配可运行代码复现核心机制。
World Monitor 开源 deck.gl Tauri 态势感知信息聚合边缘计算 Transformers.js Ollama TypeScript

llmfit 深度拆解：一条命令算清你的机器能跑哪个大模型，Rust 硬件探测与适配度评分引擎全解析

llmfit 深度拆解：一条命令算清你的机器能跑哪个大模型，Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55
深度拆解 GitHub Trending 破万星的 llmfit：Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式，附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit Rust 本地大模型 Ollama llama.cpp 量化 KV cache MoE 硬件选型开源

Ollama 深度拆解：从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌（2026·完整版）

Ollama 深度拆解：从傻瓜式本地大模型部署到底层 llama.cpp 调度器的工程全貌（2026·完整版）
2026-07-20 18:18:40
深度拆解 Ollama 工程架构：Go 服务层封装 llama.cpp、CGO 内存边界、GGUF 量化格式、Modelfile DSL、OpenAI 兼容层、Metal GPU 加速与生产部署实战，配完整 Go/Python/Shell 代码示例。
Ollama 本地大模型 llama.cpp GGUF Go CGO 量化 Apple Silicon

Ollama 融资 6500 万美元背后：2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了

Ollama 融资 6500 万美元背后：2026 年本地大模型运行时生态深度拆解——为什么「极简主义」赢了
2026-07-16 11:45:03
从 Ollama 6500 万美元融资事件切入，深度拆解 2026 年本地大模型运行时生态：Ollama、llama.cpp、LocalAI、LiteBox、vLLM 的架构设计、性能对比、API 设计、适用场景，配完整代码实战与生产部署踩坑指南。
Ollama 本地大模型 llama.cpp LocalAI LiteBox 本地LLM 推理引擎量化 GGUF MCP

Ollama 深度拆解：当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型

Ollama 深度拆解：当大模型变成「一个文件」——GGUF、4-bit 量化与 llama.cpp 计算图如何重写本地推理的心智模型
2026-07-15 08:45:14
从工程师视角深度拆解 Ollama 与本地大模型推理引擎：GGUF 单文件格式、K-quant/IQ-quant 量化家族、内存带宽墙、llama.cpp 计算图与 KV Cache，配 Modelfile、Python/Go 流式客户端与自量化实战。
Ollama llama.cpp GGUF 本地推理大模型量化 KV Cache

把大模型装进机房：Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透（2026）

把大模型装进机房：Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透（2026）
2026-07-14 03:43:32
深度拆解 Ollama 本地大模型推理工程化：从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存，到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优，配完整可运行代码与 vLLM 对比。
Ollama 本地大模型 llama.cpp GGUF量化大模型部署 AI工程化隐私计算推理优化

本地优先的 AI 会议助手工程实战：从实时流式 ASR 到零云端 LLM 摘要全链路拆解

本地优先的 AI 会议助手工程实战：从实时流式 ASR 到零云端 LLM 摘要全链路拆解
2026-07-10 04:42:09
以 GitHub Trending 榜首 Meetily 为引，从零手搓本地优先的 AI 会议助手：麦克风采集、Silero VAD 切句、faster-whisper 流式转写、pyannote 说话人分离、Ollama 本地 LLM 摘要，含可运行代码与量化/延迟/内存优化。
本地AI 会议助手语音识别 Whisper Ollama 隐私计算实时转录

Meetily 深度解析：16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南

Meetily 深度解析：16K Stars 的 Rust 隐私优先 AI 会议助手如何用 Parakeet/Whisper 实时转录 + Ollama 本地摘要让企业会议数据永远不出设备——从 Tauri 架构到生产级部署的完整实战指南
2026-07-07 05:42:52
深度解析GitHub 16K+ Stars的Meetily隐私优先AI会议助手：基于Rust+Tauri架构，集成Whisper/Parakeet双引擎实时转录、说话人分离、Ollama本地LLM摘要生成。100%本地处理，数据永远不出设备。从架构原理到生产级部署实战，含完整代码示例与竞品对比分析。
Meetily Rust 隐私优先 AI会议助手语音转录 Whisper Parakeet Ollama Tauri 开源

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南

Ollama深度解析：Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17
深度解析Ollama本地LLM推理引擎架构与实战
Ollama 本地推理 LLM Go llama.cpp GGUF GPU Modelfile

chromem-go：纯 Go 嵌入式向量数据库，像 SQLite 一样给应用加上 RAG

chromem-go：纯 Go 嵌入式向量数据库，像 SQLite 一样给应用加上 RAG
2026-07-05 22:24:58
纯Go、零依赖、可嵌入的向量数据库。10万篇文档40毫秒查询，内置9种嵌入模型，支持Ollama本地离线运行，适合Go应用快速集成RAG能力。
Go 向量数据库 RAG chromem-go AI 嵌入式 Ollama 语义搜索

【深度长文】Ollama v0.20 工具调用实战：本地大模型 + JSON Schema + 生产级 Agent 系统搭建指南（2026）

【深度长文】Ollama v0.20 工具调用实战：本地大模型 + JSON Schema + 生产级 Agent 系统搭建指南（2026）
2026-07-03 08:47:18
深度长文：Ollama v0.20 Tool Calling 从协议原理到生产级多工具 Agent 实战，含天气查询、数据库操作、Web搜索三大案例与安全防护策略（2026）。
Ollama AI Agent Tool Calling 本地大模型生产级

Ollama Tool Calling × 本地 AI Agent：JSON Schema 协议 × 生产级多工具系统 × 安全防护实战

Ollama Tool Calling × 本地 AI Agent：JSON Schema 协议 × 生产级多工具系统 × 安全防护实战
2026-07-03 08:45:53
深度解析 Ollama v0.20 Tool Calling，从协议原理到生产级多工具 Agent 实战，含天气查询、数据库查询、Web搜索三大实战案例与安全防护策略。
Ollama AI Agent Tool Calling 本地大模型

Ollama v0.20 Tool Calling 深度解析：本地 AI Agent 的最后一公里——JSON Schema 协议 × 生产级多工具实战 × 安全防护全指南

Ollama v0.20 Tool Calling 深度解析：本地 AI Agent 的最后一公里——JSON Schema 协议 × 生产级多工具实战 × 安全防护全指南
2026-07-03 08:44:52
深度解析 Ollama v0.20 的 Tool Calling 能力，从 JSON Schema 协议原理到生产级多工具 Agent 实战，含安全防护与性能基准测试。
Ollama AI Agent Tool Calling 本地大模型 LangChain4j

Ollama v0.20 Tool Calling 深度解析：让本地大模型真正「动起手来」——从协议原理到生产级多工具 Agent 系统实战

Ollama v0.20 Tool Calling 深度解析：让本地大模型真正「动起手来」——从协议原理到生产级多工具 Agent 系统实战
2026-07-03 08:43:53
深度解析 Ollama v0.20 的 Tool Calling 能力：从 JSON Schema 协议原理、HTTP API 调用循环，到生产级多工具 Agent 系统的完整实战（天气查询/数据库查询/Web搜索），配套 LangChain4j 集成方案与安全防护策略。
Ollama AI Agent Tool Calling 本地大模型 LangChain4j 生产级实战

大家都在搜索什么？

devops 易支付一个官网+多少钱统一接受回调统一回调 python sub node 宝塔日志 mysql shell ElasticSearch css vue api接口对接 2025 支付接口对接 go php php回调