Fine-tuning 实战：LoRA / QLoRA 原理与工程实践

Thu, 18 Dec 2025 10:00:00 +0800

Fine-tuning 是 LLM 应用的分水岭——但 90% 的场景其实不应该 fine-tune。这篇文章讲清楚：什么时候 fine-tune、什么时候用 RAG、什么时候用 prompt，以及 fine-tune 时LoRA / QLoRA 的工程要点（2025 年最新）。

很多团队的 LLM 上线流程是：先 fine-tune 一个"专属模型"。但 2025 年的共识已经变了：

微调 ≠ 提升能力。微调 = 对齐行为到特定场景。

GPT-4 不会因为你 fine-tune 变聪明，但会变得更"听话"——更稳定地按你的格式输出、更贴合你的语气、更准确地调用你的工具。这不是能力问题，是行为问题。

这篇文章分两部分：

QLoRA on Tony老师的博客