程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
编程
DeepSeek-R1边缘推理实战:从云端独占到本地智能的范式转移
2026-05-19 12:42:27 +0800 CST
view 589
2026年,边缘AI不再只是云端模型的精简版。本文深入剖析DeepSeek-R1 CPU版的技术原理,从模型蒸馏、量化技术的底层原理到生产环境的完整部署方案,提供可直接落地的代码和可量化的性能数据。
DeepSeek
R1
边缘计算
AI推理
模型蒸馏
量化
llama.cpp
Ollama
端侧AI
从Windsurf到Devin Desktop:AI编程工具的平台化战略转型深度解析
编程
从Windsurf到Devin Desktop:AI编程工具的平台化战略转型深度解析
2026-07-10 20:14:06 +0800 CST
view 301
2026年7月Windsurf更名为Devin Desktop,标志AI编程工具进入平台化时代。本文深度解析:从技术架构(ACP协议、Rust重写、Kanban看板)到战略意图(从工具到平台的升维竞争),以及开发者如何在新范式中保持竞争力。
AI编程
Devin Desktop
Windsurf
多Agent
ACP协议
Rust
VSCode 2026 Agent Runtime 深度解析:IDE 原生多智能体协同开发架构从零到一
编程
VSCode 2026 Agent Runtime 深度解析:IDE 原生多智能体协同开发架构从零到一
2026-06-01 18:25:03 +0800 CST
view 539
深入解析 VSCode 2026 原生 Agent Runtime 架构:ACP 协议、Intent Bus、WASM 沙箱、RAG-Augmented 工作流与生产级性能优化实践。
VSCode
多智能体
Agent Runtime
ACP协议
WASM
Intent Bus
AI编程
Python 3.14 无 GIL 深度实战:当 CPython 终于解开全局锁,多线程真能起飞吗?
编程
Python 3.14 无 GIL 深度实战:当 CPython 终于解开全局锁,多线程真能起飞吗?
2026-07-11 02:45:04 +0800 CST
view 266
深度拆解 Python 3.14 free-threaded(无 GIL)构建:从 GIL 黑历史、引用计数原子化、_PyMutex、线程安全陷阱,到 CPU 密集多线程基准、C 扩展迁移、子解释器沙箱与生产落地决策框架,附可运行代码。
Python 3.14
无 GIL
free-threaded
多线程
CPython
并发编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:48:24 +0800 CST
view 118
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
编程
TurboQuant+ 深度拆解:用 2bit KV Cache 压缩重构 LLM 推理经济学——从 Walsh-Hadamard 旋转到 llama.cpp 生产级落地
2026-07-28 11:50:04 +0800 CST
view 152
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
编程
TurboQuant+深度拆解:极坐标量化+QJL残差编码——2bit KV Cache压缩重构 LLM 推理经济学
2026-07-28 11:52:16 +0800 CST
view 197
深度拆解Google ICLR 2026论文TurboQuant及其工程增强TurboQuant+:极坐标量化+QJL残差编码实现2bit KV Cache压缩,配合llama.cpp跨后端(CUDA/ROCm/Metal/Vulkan)生产级落地,附完整代码实战与选型建议
TurboQuant
KV Cache
LLM推理
llama.cpp
量化
显存优化
Walsh-Hadamard
Vulkan
CUDA
ROCm
Grok Build 架构深度解析:xAI 开源终端 AI 工程师的工程哲学与技术内幕
编程
Grok Build 架构深度解析:xAI 开源终端 AI 工程师的工程哲学与技术内幕
2026-07-23 09:43:05 +0800 CST
view 270
深度解析 xAI 开源的 Grok Build:从 Rust monorepo 架构、ACP 开放协议、Actor 并发模型、三层沙箱安全到 Leader 多会话共享,配完整代码示例与生产部署指南
AI编程
Grok Build
xAI
Rust
多智能体
ACP协议
沙箱安全
IntelliJ IDEA 2026.1 深度解析:IDE 的战略升维——从代码编辑器到 AI Agent 开放平台
编程
IntelliJ IDEA 2026.1 深度解析:IDE 的战略升维——从代码编辑器到 AI Agent 开放平台
2026-05-09 23:43:15 +0800 CST
view 803
IntelliJ IDEA 2026.1深度解析:ACP协议开放AI Agent平台、Codex/Cursor/Claude多Agent协作、Spring运行时洞察、Java 26首日支持、虚拟线程调试工具链等核心新特性全剖析
IntelliJ IDEA
JetBrains
Java
Kotlin
AI Agent
ACP协议
IDE
编程工具
Spring
虚拟线程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
编程
LLM推理框架2026选型完全指南:从vLLM到TensorRT-LLM,一次讲透四大引擎的架构哲学与生产级实战
2026-06-02 09:36:52 +0800 CST
view 771
从vLLM到TensorRT-LLM,一次讲透vLLM、SGLang、TensorRT-LLM、llama.cpp四大LLM推理框架的架构哲学、核心原理、生产级部署实战与选型决策树。
LLM
vLLM
TensorRT-LLM
llama.cpp
SGLang
推理优化
GPU
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
编程
BitNet 深度拆解:当大模型被压到 1.58 bit——从三元权重、BitLinear 到 bitnet.cpp 的端侧推理革命(2026)
2026-07-17 14:24:55 +0800 CST
view 315
深度拆解微软 BitNet:1.58-bit 三值量化、Absmean/Absmax、BitLinear、bitnet.cpp 子矩阵内核,附 PyTorch 手写实现与 CPU 端侧推理性能实测。
BitNet
1-bit LLM
大模型推理
模型量化
端侧AI
bitnet.cpp
oMLX 深度实战:当 Apple Silicon 遇见本地大模型推理——从 MTP 加速到分层 KV 缓存的生产级完全指南(2026)
编程
oMLX 深度实战:当 Apple Silicon 遇见本地大模型推理——从 MTP 加速到分层 KV 缓存的生产级完全指南(2026)
2026-06-16 16:46:05 +0800 CST
view 886
深度解析 2026 年 Apple Silicon 本地大模型推理技术栈:从 llama.cpp 量化体系到 oMLX 分层 KV 缓存架构,从 MTP 加速到 CoreAI 全栈指南,包含实测 Benchmark 与生产级部署方案。
Apple Silicon
MLX
llama.cpp
oMLX
MTP
本地大模型
量化
本地推理
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
编程
llama.cpp 深度实战:当端侧 LLM 成为生产级事实标准——从 GGUF 量化到跨平台部署的完全指南(2026)
2026-06-11 00:19:05 +0800 CST
view 550
全面解析 llama.cpp 推理引擎,从 GGUF 格式、量化原理、架构设计到跨平台部署,提供生产级代码实战和性能优化指南。
llama.cpp
GGUF
量化
端侧推理
大语言模型
VoxCPM2:无分词 Tokenizer-Free 语音合成——从架构革命到工程落地的完整指南
编程
VoxCPM2:无分词 Tokenizer-Free 语音合成——从架构革命到工程落地的完整指南
2026-04-19 14:46:06 +0800 CST
view 1012
深度解析面壁智能开源的VoxCPM2:2B参数、Tokenizer-Free连续空间生成、236万小时训练数据、RTF 0.13、8GB显存可跑,30语言支持。包含架构分析、代码实战、性能优化指南。
语音合成
TTS
VoxCPM2
面壁智能
AI音频
Zed 深度拆解:当 Rust 决定「干掉全部 Electron 代码编辑器」——一个 88K Star 的 GPU 原生编辑器如何用 GPUI 和 Agent Client Protocol 重新定义「代码编辑器」的终极形态
编程
Zed 深度拆解:当 Rust 决定「干掉全部 Electron 代码编辑器」——一个 88K Star 的 GPU 原生编辑器如何用 GPUI 和 Agent Client Protocol 重新定义「代码编辑器」的终极形态
2026-08-04 17:44:55 +0800 CST
view 138
深度拆解Zed 88K Star GPU原生代码编辑器:GPUI自研渲染引擎、多Agent并行编排、ACP开放协议、DeltaDB下一代版本控制、Zeta编辑预测模型,重新定义AI时代的代码编辑器架构
Zed
Rust
GPUI
Agent Client Protocol
ACP
GPU加速
代码编辑器
Parallel Agents
DeltaDB
Zeta
AI编辑器
开源
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
编程
Tabby 深度实战:用一台消费级 GPU 搭好团队私有的"Copilot"
2026-07-24 01:46:45 +0800 CST
view 171
深度实战 TabbyML/tabby 自托管 AI 编程助手:三层架构与 llama-server 独立化重构、消费级 GPU 模型选型、Repository Context 语法感知 RAG 索引、FIM Prompt 拼装原理、systemd/nginx 生产部署、压测与 Prometheus 监控全套方案。
Tabby
AI编程
代码补全
自托管
llama.cpp
RAG
Rust
GPU
开源
Copilot
Rust 杀入 CPython 腹地:Python 3.16 背后那场静悄悄的底层革命——从 FFI 边界到构建系统的全链路深度拆解
编程
Rust 杀入 CPython 腹地:Python 3.16 背后那场静悄悄的底层革命——从 FFI 边界到构建系统的全链路深度拆解
2026-05-23 08:54:29 +0800 CST
view 742
Rust即将进入CPython官方解释器——Python 3.16背后从FFI边界设计到构建系统工程的全面深度拆解,含PyO3实战与性能优化
Python
Rust
CPython
PyO3
Rust 改造 CPython 全链路实战:从 FFI 边界设计到 PyO3 内部机制,拆解 Python 3.16 底层重构的每一个技术细节
编程
Rust 改造 CPython 全链路实战:从 FFI 边界设计到 PyO3 内部机制,拆解 Python 3.16 底层重构的每一个技术细节
2026-05-01 02:25:15 +0800 CST
view 600
深度拆解 Rust for CPython 项目的 FFI 边界设计、构建系统集成、PyO3 内部机制和模块迁移实战
Rust
Python
CPython
PyO3
FFI
内存安全
MiniCPM-o 2.6 深度解析:8B参数如何在iPad上跑出GPT-4o级全模态性能——端侧多模态大模型的工程化突破
编程
MiniCPM-o 2.6 深度解析:8B参数如何在iPad上跑出GPT-4o级全模态性能——端侧多模态大模型的工程化突破
2026-05-11 01:50:57 +0800 CST
view 754
深入解析MiniCPM-o 2.6:8B参数如何在iPad上实现GPT-4o级全模态性能,时分复用TDM机制、端到端架构、低延迟并发处理的技术内幕,附完整部署代码和性能优化实战
AI,MiniCPM,多模态,端侧模型,面壁智能
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
编程
llmfit 深度拆解:一条命令算清你的机器能跑哪个大模型,Rust 硬件探测与适配度评分引擎全解析
2026-07-24 07:14:55 +0800 CST
view 176
深度拆解 GitHub Trending 破万星的 llmfit:Rust 硬件探测、权重与 KV cache 显存估算公式、内存带宽速度模型、MoE offload 运行模式,附 100 行 Python 复现 mini-llmfit 与工程集成实战。
llmfit
Rust
本地大模型
Ollama
llama.cpp
量化
KV cache
MoE
硬件选型
开源
Spring Boot 4.1.0 深度实战:虚拟线程默认开启、原生 gRPC 加持、连接池反直觉陷阱——从架构升级到生产调优的完全指南(2026)
编程
Spring Boot 4.1.0 深度实战:虚拟线程默认开启、原生 gRPC 加持、连接池反直觉陷阱——从架构升级到生产调优的完全指南(2026)
2026-06-22 17:54:04 +0800 CST
view 763
Spring Boot 4.1.0 深度实战指南:虚拟线程默认开启、原生 gRPC 自动配置、LazyConnection 连接池惰性获取等新特性详解,附 3.x 到 4.1 完整迁移路径和真实压测数据。
Spring Boot 4.1
Spring Framework 7
Virtual Threads
gRPC
HikariCP
Java 21
性能优化
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2141
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19 +0800 CST
view 454
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 229
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
65
66
67
68
69
...
81
下一页