程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
QLoRA 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
在 3.2GB 显存上微调 1.7B 模型:FineTune Studio 的构建实践
编程
在 3.2GB 显存上微调 1.7B 模型:FineTune Studio 的构建实践
2026-09-05 22:15:52
开发者分享构建 FineTune Studio 的经历——一个让普通人在消费级显卡上微调大语言模型的开源工具。核心技术是 QLoRA(4-bit量化+低秩适配+分页优化器),配合梯度检查点、CPU卸载、8-bit优化器等显存优化技巧,在3.2GB显存上完成1.7B模型微调。
大模型
微调
QLoRA
FineTune Studio
LLM
开源
低显存
AI
Unsloth 深度实战:Triton 内核 + 手写反向传播引擎如何把 LLM 微调速度拉高 10 倍——从 LoRA 原理到 GRPO 强化学习全链路拆解
编程
Unsloth 深度实战:Triton 内核 + 手写反向传播引擎如何把 LLM 微调速度拉高 10 倍——从 LoRA 原理到 GRPO 强化学习全链路拆解
2026-08-16 09:15:16
深度拆解 Unsloth 框架如何用 Triton 内核 + 手写反向传播引擎把 LLM 微调速度提升 10 倍:从 LoRA/QLoRA 数学原理、算子融合、GRPO 强化学习到生产部署全链路实战,附完整代码示例与性能对比数据。
Unsloth
LoRA
Triton
LLM微调
GRPO
QLoRA
强化学习
GPU优化
Qwen3.8 深度实战:2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南(2026)
编程
Qwen3.8 深度实战:2.4T MoE 巨兽来了——从 Preview API 接入、函数调用到本地部署与微调的完整工程指南(2026)
2026-07-21 01:43:04
2026年Qwen3.8深度实战:2.4T MoE架构原理、Preview API接入、流式调用、函数调用、RAG检索增强、vLLM/SGLang本地部署与QLoRA微调的完整工程指南
Qwen3.8
MoE
大模型部署
函数调用
QLoRA
vLLM
通义千问
2026
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
编程
Unsloth实战:当QLoRA让27B模型在RTX 4090上跑起来——从Qwen3.5微调到Ollama部署的完整工程链
2026-07-15 17:48:36
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
编程
Unsloth 深度拆解:当 LLM 微调学会「省显存」——2倍速+70%显存节省背后的 QLoRA 工程革命
2026-07-15 17:47:08
深度拆解Unsloth技术栈:QLoRA量化原理、4-bit NF4精度机制、Triton内核重写、8-bit Adam优化器、梯度检查点优化,以及从Notebook到Ollama/vLLM生产部署的完整工程路径,含完整代码实战
Unsloth
LLM微调
QLoRA
LoRA
4-bit量化
深度学习
模型训练
ml-intern 深度实战:当 Hugging Face 造出一个永不抱怨的 ML 实习生——从 smolagents 框架到 ArXiv 自主研读的端到端完全指南(2026)
编程
ml-intern 深度实战:当 Hugging Face 造出一个永不抱怨的 ML 实习生——从 smolagents 框架到 ArXiv 自主研读的端到端完全指南(2026)
2026-06-08 20:22:55
深入剖析 Hugging Face 2026年4月发布的 ml-intern 项目:基于 smolagents 框架的端到端 ML 研究自动化 Agent,支持 ArXiv 论文自主研读、HuggingFace 数据集智能检索、云端训练任务提交与自动迭代优化。
HuggingFace
ml-intern
AI Agent
smolagents
LoRA
QLoRA
机器学习
开源项目
Unsloth 深度实战:从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
编程
Unsloth 深度实战:从显存爆炸到 70% 压缩——本地大模型微调的工程化革命与生产级实践
2026-05-22 16:15:29
Unsloth通过底层算子优化让大模型微调显存降低70%、速度提升2-5x,本文从原理到生产实战全方位拆解,含完整代码。
Unsloth
LoRA
QLoRA
大模型微调
本地训练
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调