程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
Muse Glimmer 端侧Agent革命:300亿参数模型如何在消费级GPU上跑出生产级性能(2026实战)
编程
Muse Glimmer 端侧Agent革命:300亿参数模型如何在消费级GPU上跑出生产级性能(2026实战)
2026-08-13 18:50:11 +0800 CST
view 76
深度拆解Meta 2026年8月发布的Muse Glimmer:300亿参数开放权重Dense模型,4bit量化可在单张RTX 3090/4090上本地运行。涵盖架构设计、知识蒸馏、量化原理、本地部署实战与性能基准测试。
Muse Glimmer
端侧AI
知识蒸馏
4bit量化
Agent本地部署
300亿参数
Meta
Apache 2.0
llama.cpp
Ollama
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
编程
llama.cpp 深度实战:从 GGUF 量化到 CUDA 内核优化——纯 C/C++ 如何在 CPU/GPU 上榨出 LLM 推理的极限性能
2026-05-23 17:18:22 +0800 CST
view 2226
2026年深度拆解 llama.cpp 的核心架构:GGUF 格式原理、20+量化方法对比、KV Cache 优化、多硬件后端性能实测,与 Ollama/vLLM 完整横评。
llama.cpp
GGUF
量化
CUDA
Metal
LLM推理
C++
本地部署
性能优化
GGML
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
编程
从140GB到4GB:AirLLM无量化层间推理原理深度剖析与生产级部署实战(2026)
2026-06-22 19:28:19 +0800 CST
view 491
深入解析 AirLLM 的无量化层间 Offloading 技术原理,探讨如何通过 CPU-GPU 混合推理在 4GB 显存上运行 70B 大模型,附完整代码实战与生产部署指南。
LLM推理
GPU优化
CPU Offload
层间调度
AirLLM
PyTorch
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
编程
Ollama深度解析:Go语言打造的本地LLM推理引擎——从Modelfile容器化到GPU调度的完整实战指南
2026-07-06 05:48:17 +0800 CST
view 265
深度解析Ollama本地LLM推理引擎架构与实战
Ollama
本地推理
LLM
Go
llama.cpp
GGUF
GPU
Modelfile
编程
TIME_WAIT状态的连接过多导致系统端口资源耗尽问题
2024-11-17 21:27:27 +0800 CST
view 3477
本文讨论了如何优化Linux系统中的TIME_WAIT状态,使用netstat命令查看TCP连接状态,并通过修改/etc/sysctl.conf文件中的相关参数来减少TIME_WAIT套接字的数量。具体参数包括开启SYNCookies、重用TIME-WAITsockets、快速回收TIME-WAITsockets等,最后通过执行/sysctl-p命令使修改生效。
Linux
网络优化
TCP配置
MOSS-TTS-Nano:0.1B参数纯CPU实时语音生成与克隆,MacBook Air单核就能跑
编程
MOSS-TTS-Nano:0.1B参数纯CPU实时语音生成与克隆,MacBook Air单核就能跑
2026-04-20 22:53:28 +0800 CST
view 1625
复旦大学OpenMOSS团队开源的0.1B参数多语言TTS模型,纯CPU运行、支持零样本语音克隆、48kHz双声道、20种语言、流式推理,MacBook Air单核即可流畅运行
TTS
语音合成
语音克隆
AI
开源
CPU推理
OpenMOSS
Meta-Harness 深度拆解:当 AI 编程进入「多 Agent 并行时代」——Databricks Omnigent、Zed ACP、Vercel HarnessAgent 三大开源方案如何用「Harness 之上的 Harness」重新定义 Agent 工程化的终极形态
编程
Meta-Harness 深度拆解:当 AI 编程进入「多 Agent 并行时代」——Databricks Omnigent、Zed ACP、Vercel HarnessAgent 三大开源方案如何用「Harness 之上的 Harness」重新定义 Agent 工程化的终极形态
2026-08-05 12:44:41 +0800 CST
view 218
深度拆解2026年最热AI工程化范式Meta-Harness:Databricks Omnigent、Zed ACP、Vercel HarnessAgent三大开源方案如何用Harness之上的Harness重新定义多Agent编排与治理
Meta-Harness
Omnigent
ACP
HarnessAgent
Agent编排
多Agent
Databricks
Vercel
Cloudflare
RUFLO
GIL 终于可以关了:Python 3.14 自由线程(Free-Threaded)深度拆解——从 biased 引用计数到 QSBR 无锁回收,附多线程性能翻倍的完整实战(2026)
编程
GIL 终于可以关了:Python 3.14 自由线程(Free-Threaded)深度拆解——从 biased 引用计数到 QSBR 无锁回收,附多线程性能翻倍的完整实战(2026)
2026-08-14 05:16:44 +0800 CST
view 58
深度拆解 Python 3.14 官方支持的自由线程(无 GIL)构建:从 GIL 历史包袱、PEP 779 硬门槛,到永生对象、偏置引用计数、QSBR 无锁回收三大支柱,配 CPU 密集并行、数据竞争陷阱、C 扩展适配完整代码实战与性能优化决策清单。
Python3.14
自由线程
GIL
无锁并发
引用计数
QSBR
多核并行
CPython
PEP703
性能优化
PyO3 深度拆解:当 Rust 扩展遇上无 GIL 的 Python 3.14——从 Bound API、GIL 释放到 free-threaded 并发安全的工程全貌(2026)
编程
PyO3 深度拆解:当 Rust 扩展遇上无 GIL 的 Python 3.14——从 Bound API、GIL 释放到 free-threaded 并发安全的工程全貌(2026)
2026-07-19 04:44:18 +0800 CST
view 259
Python 3.14 free-threaded 落地后,Rust 扩展作者如何应对无 GIL 时代:从 GIL 本质、PyO3 智能指针与 Bound API、GIL 释放,到 free-threaded 并发安全陷阱与生产打包全解。
PyO3
Rust
Python
free-threaded
GIL
无GIL
CPython
maturin
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
编程
llmfit 深度拆解:一条命令算出你的电脑能跑哪些大模型——硬件感知适配引擎的工程解剖
2026-07-24 18:44:04 +0800 CST
view 201
深度拆解 GitHub Trending 开源工具 llmfit:四维评分系统、量化自动试探、MoE 精算、带宽速度模型、Plan 模式与 bench 众包校准,从第一性原理讲透本地大模型的硬件适配方法论。
llmfit
本地大模型
LLM
Rust
量化
Ollama
llama.cpp
Apple Silicon
硬件适配
开源
AI 算力基础设施深度解剖:从异构计算到 CPO 光互连与液冷散热的工程真相
编程
AI 算力基础设施深度解剖:从异构计算到 CPO 光互连与液冷散热的工程真相
2026-07-25 06:43:33 +0800 CST
view 190
深度拆解 2026 年 AI 算力基础设施三大核心技术突破:异构计算从 x86 到 Arm 的架构革命、CPO 共封装光学突破互连瓶颈、液冷散热解决高密度算力散热难题,附工程实战案例与性能数据。
AI基础设施
异构计算
CPO
液冷散热
数据中心
GPU集群
云原生
性能优化
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
编程
从原理到实战:llama.cpp 与 GGUF 量化格式的工程实践全解
2026-04-12 22:56:41 +0800 CST
view 1167
2026年深度解析 llama.cpp 架构设计与 GGUF 量化格式,从底层原理到工程实战,涵盖 K-Quant/IQ 量化、Flash Attention、KV Cache 优化、Intel NPU/GPU 部署全流程。
llama.cpp
GGUF
量化
大模型
C++
本地部署
Python 3.14 自由线程(no-GIL)与实验性 JIT 深度实战:当 CPython 终于学会用满多核,一次把并发与性能讲透(2026 深度长文)
编程
Python 3.14 自由线程(no-GIL)与实验性 JIT 深度实战:当 CPython 终于学会用满多核,一次把并发与性能讲透(2026 深度长文)
2026-07-13 04:45:10 +0800 CST
view 200
深度拆解 Python 3.14 自由线程(no-GIL,PEP 779)与实验性 copy-and-patch JIT(PEP 744):从 GIL 历史、偏置引用计数、对象线程安全,到子解释器并发、t-strings 与真实多核基准,配 8 段可运行代码。
Python 3.14
Free-Threading
no-GIL
JIT
并发编程
CPython
Python 3.14 自由线程(No-GIL)深度实战:当 CPython 终于拥抱真正的多线程并行——从 PEP 703 架构到生产级迁移的 2026 完全指南
编程
Python 3.14 自由线程(No-GIL)深度实战:当 CPython 终于拥抱真正的多线程并行——从 PEP 703 架构到生产级迁移的 2026 完全指南
2026-06-25 19:43:54 +0800 CST
view 346
Python 3.14 自由线程(No-GIL)深度实战:从PEP 703架构到生产级迁移。涵盖偏置引用计数、线程安全容器、临界区机制、C扩展兼容性、性能基准测试与最佳实践,万字长文带你掌握2026年Python最大架构变革。
Python 3.14
自由线程
No-GIL
PEP 703
CPython
多线程
并发编程
性能优化
Python 3.14 深度解析:Tail-call 解释器、JIT 编译器与解释器架构的范式跃迁
编程
Python 3.14 深度解析:Tail-call 解释器、JIT 编译器与解释器架构的范式跃迁
2026-05-12 03:43:26 +0800 CST
view 704
Python 3.14 引入了 tail-call 解释器(3-5% 提速)、实验性 JIT 编译器、增量 GC、多解释器标准库支持(PEP 734)、模板字符串(PEP 750)、延迟注解评估(PEP 649/749)、Zstandard 标准库支持(PEP 784)等核心改进
Python
CPython
JIT编译器
性能优化
Grok Build 深度拆解:当 xAI 决定「用 Rust 造一个会思考的终端编码员」——从 Plan Mode 到 ACP 协议,一个开源 22 天斩获 24K Star 的编码 Agent 如何用「三阶段执行模型 + 并行子代理」重新定义终端编程的终极形态
编程
Grok Build 深度拆解:当 xAI 决定「用 Rust 造一个会思考的终端编码员」——从 Plan Mode 到 ACP 协议,一个开源 22 天斩获 24K Star 的编码 Agent 如何用「三阶段执行模型 + 并行子代理」重新定义终端编程的终极形态
2026-08-06 05:47:42 +0800 CST
view 254
深度拆解 xAI 开源的 Rust 编码 Agent Grok Build,从 Plan Mode 到 ACP 协议,分析三阶段执行模型、并行子代理架构,以及它如何重新定义终端编程的终极形态。
Grok Build
xAI
Rust
AI编程
编码Agent
ACP协议
Plan Mode
QtScrcpy:27.6K Star 的跨平台 Android 同屏神器,无需 Root
编程
QtScrcpy:27.6K Star 的跨平台 Android 同屏神器,无需 Root
2026-05-12 06:53:26 +0800 CST
view 676
QtScrcpy是一款跨平台Android设备投屏与控制工具,支持Windows/macOS/Linux,低延迟30-70ms,高帧率30-120fps,无需root,支持USB/网络连接,27.6K+ GitHub Stars。
QtScrcpy
Android同屏
跨平台
开源工具
屏幕镜像
Python 3.13 免费线程模式深度实战:告别 GIL,真正拥抱多核并行——从原理到生产迁移的完整指南(2026)
编程
Python 3.13 免费线程模式深度实战:告别 GIL,真正拥抱多核并行——从原理到生产迁移的完整指南(2026)
2026-06-26 00:13:20 +0800 CST
view 452
Python 3.13免费线程模式深度解析:告别GIL,真正拥抱多核并行。从原理到生产迁移的完整指南,含性能测试、兼容性分析和最佳实践。
Python 3.13
no-GIL
免费线程
GIL
并发编程
多核并行
CPython
性能优化
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
编程
Shimmy 深度解析:纯 Rust WebGPU 推理引擎如何用一行命令颠覆浏览器端 AI 推理
2026-07-25 15:14:38 +0800 CST
view 156
深度解析 Shimmy v2.3.0:纯 Rust WebGPU 推理引擎如何实现浏览器端原生运行 GGUF 量化模型,OpenAI API 兼容,零依赖部署。
WebGPU
Rust
GGUF
AI推理
浏览器
llama.cpp
OpenAI API
前端工程
Python 无 GIL 时代实战指南:从 PEP 703 到 Python 3.14 free-threading,如何把 16 核真正跑满(2026 深度实战)
编程
Python 无 GIL 时代实战指南:从 PEP 703 到 Python 3.14 free-threading,如何把 16 核真正跑满(2026 深度实战)
2026-08-15 10:12:37 +0800 CST
view 46
深度拆解 Python 3.14 free-threading(无 GIL)架构:从 PEP 703 到 immortalization、QSBR、mimalloc 与 per-object 锁,配安装识别、并行加速对比、C 扩展兼容与性能调优的完整实战。
Python
Free-Threading
GIL
PEP703
并发编程
CPython
性能优化
Python 3.15 自由线程深度解析:GIL 之殇与无锁未来的全景测绘
编程
Python 3.15 自由线程深度解析:GIL 之殇与无锁未来的全景测绘
2026-08-08 15:46:58 +0800 CST
view 149
深度拆解 Python 3.15 自由线程(free-threaded)特性:PEP 703 实现原理、无 GIL 架构设计、性能实测、向后兼容性陷阱与迁移路径,助你抢占 Python 并发编程新范式。
Python
Python3.15
自由线程
GIL
多线程
性能优化
PEP703
CPython
ego lite 深度拆解:让浏览器成为 AI Agent 的「操作系统」——Space 隔离架构、语义快照与 ACP 协议全解
编程
ego lite 深度拆解:让浏览器成为 AI Agent 的「操作系统」——Space 隔离架构、语义快照与 ACP 协议全解
2026-07-31 08:44:29 +0800 CST
view 270
深度拆解 ego lite:如何把浏览器改造为 AI Agent 的通用基础设施。Space 隔离架构、语义快照技术、JavaScript 批量执行、ACP 开放协议全解析,以及 70% 用户留存的工程实践。
AI Agent
浏览器自动化
Space隔离
Snapshot
ACP协议
Chromium
Token优化
NVIDIA Vera CPU 深度实战:首款 Agentic AI 原生 CPU 架构解析(2026)
编程
NVIDIA Vera CPU 深度实战:首款 Agentic AI 原生 CPU 架构解析(2026)
2026-06-18 16:29:37 +0800 CST
view 498
深度解析 NVIDIA 首款 Agentic AI 原生 CPU——Vera CPU 的架构设计、Olympus 核心创新、统一内存架构、CPU-GPU 协同方案,并提供 Python/Go 代码实战示例。
NVIDIA
Vera CPU
Agentic AI
Olympus架构
FP8
NVLink-C2C
Rubin GPU
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
编程
把大模型装进机房:Ollama 本地推理工程化实战——量化、并发、缓存与生产部署一次讲透(2026)
2026-07-14 03:43:32 +0800 CST
view 287
深度拆解 Ollama 本地大模型推理工程化:从 GGUF 量化原理、MoE 专家调度、推理栈与 KV 缓存,到 Modelfile 定制、自量化、Python 客户端、FastAPI 生产服务、Docker 部署与性能调优,配完整可运行代码与 vLLM 对比。
Ollama
本地大模型
llama.cpp
GGUF量化
大模型部署
AI工程化
隐私计算
推理优化
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
20
21
22
23
24
下一页