大模型微调（Fine-tuning）是在预训练大模型基础上，用领域数据做有监督训练，以提升特定任务表现或统一输出风格。与 RAG、Prompt 相比，微调更适合「任务边界清晰、有高质量标注数据、希望模型内化知识或风格」的场景。本文介绍微调与 RAG/Prompt 的对比、常见微调方式与实践要点。
一、微调为何被关注：数据与适用边界
根据 Gartner 2025 年 AI 应用调研，约 35% 的企业在探索或已使用大模型微调；多数场景下 RAG 与 Prompt 工程仍为首选，微调多用于垂直领域、合规与风格一致性要求高的场景。
| 方案 | 适用场景 | 成本 | 迭代速度 | 知识时效性 |
|---|---|---|---|---|
| Prompt 工程 | 通用任务、快速验证 | 低 | 快 | 依赖模型训练截止 |
| RAG | 知识问答、私有文档、需可追溯 | 中 | 快（更新文档即可） | 可实时 |
| 微调 | 领域术语、输出风格、复杂规则内化 | 高 | 慢（需训练与评估） | 训练数据截止 |
| RAG + 微调 | 领域模型 + 动态知识库 | 很高 | 慢 | 可结合 RAG 更新 |
数据来源：Gartner、各云厂商与开源社区公开资料（综合整理）。
二、微调与 RAG、Prompt 的选型
选型时可先回答：知识是否经常更新、是否需要引用来源、是否有足够高质量标注数据、是否强需求输出风格/格式一致。若知识更新频繁或需可追溯，优先 RAG；若主要是提示方式与上下文设计问题，优先 Prompt；若确有大量领域数据且希望模型「内化」行为，再考虑微调。
2.1 何时优先微调
典型场景：领域术语与表述高度统一、输出格式严格（如 JSON、表格）、多轮对话中的策略与风格需一致、合规或安全策略需固化到模型行为。此时微调可减少对 Prompt 的依赖、降低推理时上下文长度。
2.2 何时优先 RAG
知识更新频繁、需引用来源、文档量大且不宜全部塞进训练集、希望快速上线验证。RAG 实施周期短、可迭代快，多数企业知识库场景首选 RAG，可参考本站《RAG 检索增强生成入门与实践》。
三、常见微调方式对比
全量微调更新所有参数，效果上限高但成本与显存需求大；参数高效微调（如 LoRA、QLoRA）只训练少量参数，显存与数据需求低，已成为主流。
| 方式 | 训练参数占比 | 显存需求 | 典型用途 |
|---|---|---|---|
| 全量微调（Full Fine-tuning） | 100% | 高（多卡/大显存） | 数据与算力充足、追求极致效果 |
| LoRA（Low-Rank Adaptation） | 约 0.1–1% | 中 | 单卡/少卡、通用首选 |
| QLoRA（量化 + LoRA） | 约 0.1–1% | 低（可 24GB 内跑 7B） | 消费级显卡、快速实验 |
| Adapter / 其他 PEFT | 少量 | 中低 | 多任务、模块化扩展 |
数据来源：LoRA/QLoRA 论文与 Hugging Face 等开源实践（综合整理）。
四、微调实施要点
数据质量与格式、任务定义、评估指标、算力与成本是四大关键。数据建议高质量、格式统一（如指令-回答对），避免脏数据与泄露；任务定义清晰（分类、生成、抽取等）；评估除准确率外，建议包含业务侧指标与人工抽检。
说明：权重基于常见微调项目实践归纳，仅供参考。
五、实践步骤建议
- 明确目标与边界：定义要优化的任务与成功指标，判断是否真的需要微调（先试 RAG/Prompt）。
- 准备数据：收集并清洗指令-回答对或对话数据，划分训练/验证集，注意防泄露与合规。
- 选择基座与方式：根据语言、规模、算力选基座模型；优先 LoRA/QLoRA 做小成本验证。
- 训练与验证：设置学习率、epoch、batch 等，监控 loss 与验证集表现，避免过拟合。
- 评估与上线：在测试集与业务场景评估，通过后再灰度上线；可与 RAG 组合使用。
- 持续迭代：根据线上反馈补充数据、重训或调整 RAG/Prompt 分工。
六、小结
大模型微调适合领域性强、输出风格/格式要求高、且有高质量标注数据的场景；与 RAG、Prompt 组合选型可兼顾成本与效果。实施时重视数据质量、任务定义与评估。若尚未搭建 RAG，可先阅读《RAG 检索增强生成入门与实践》；若希望提升 Prompt 效果，可参考《Prompt 工程最佳实践》。