模型微调与部署

大模型很强，但它不懂你的业务。 GPT-4 能写诗、能编程，但它不知道你公司的产品术语、不了解你行业的专业规范。微调（Fine-tuning）就是让通用大模型"学会"你的专业知识的过程——就像给一个博学的通才做岗前培训，让它变成你的领域专家。

• 特定输出格式：需要模型始终以固定 JSON 格式输出
• 专业领域知识：医疗、法律、金融等领域的专业术语和规范
• 语言风格迁移：让模型用特定的语气、风格回答（如客服话术）
• 小众语言支持：提升模型在特定语言上的表现
• 成本优化：用小模型微调替代大模型调用，降低推理成本

1. 数据准备：收集、清洗、标注训练数据，这是最耗时也最关键的环节
2. 模型选择：选择合适的基座模型（Base Model），如 Llama 3、Qwen、Mistral
3. 训练配置：设置学习率、batch size、epoch 数等超参数
4. 训练执行：在 GPU 上运行训练，监控 loss 曲线和评估指标
5. 评估上线：在测试集上评估效果，通过后部署为 API 服务

1. 指令格式（Instruction）：最常用的格式，包含 instruction（指令）、input（输入）、output（期望输出）三个字段。适合训练模型遵循指令。
2. 对话格式（Chat）：多轮对话形式，包含 system、user、assistant 角色的消息列表。适合训练聊天机器人。
3. 补全格式（Completion）：简单的 prompt-completion 对，适合文本生成、代码补全等场景。

原始模型的权重矩阵 W 是一个巨大的矩阵（如 4096×4096）。LoRA 不直接修改 W，而是在旁边加一个"旁路"：W’ = W + BA，其中 B 和 A 是两个小矩阵（如 4096×8 和 8×4096）。训练时只更新 B 和 A，原始 W 保持不变。

• 秩（Rank）：r 值越大，表达能力越强，但参数量也越多。通常 r=8~64 就够用
• 合并部署：训练完成后，可以把 BA 合并回 W，推理时零额外开销

量化本质上是精度换空间的权衡。FP32 → FP16 几乎无损，INT8 有轻微损失，INT4 会有明显但通常可接受的质量下降。关键是找到你场景下的最佳平衡点。

• FP16（半精度）：体积减半，质量几乎无损，是训练和推理的默认选择
• INT8（8 位整数）：体积再减半，质量损失很小，适合大多数推理场景
• INT4（4 位整数）：体积仅为 FP32 的 1/8，质量有一定损失，适合资源受限场景

1. API 服务商：直接使用 OpenAI、Anthropic 等厂商的 API。零运维，按 token 付费，适合快速验证和中小规模使用。
2. 自托管推理服务：用 vLLM、TGI 等框架在自己的 GPU 服务器上部署。成本可控，数据不出域，适合有隐私要求或大规模调用的场景。
3. Serverless 推理：使用 AWS SageMaker、Replicate 等平台，按请求付费，自动扩缩容。适合流量波动大的场景。