了解如何使用 Workers AI 进行微调推理。
使用 LoRA 的微调推理
上传 LoRA adapter 并使用我们的基础模型之一运行微调推理。
微调是通过使用额外数据继续训练来修改 AI 模型的通用术语。微调的目标是增加生成结果与您的数据集相似的概率。由于训练成本高昂且耗时，从头训练模型对许多用例并不现实。通过对现有预训练模型进行微调，您可以在完成目标任务的同时受益于其能力。
Low-Rank Adaptation ↗（LoRA）是一种特定的微调方法，可应用于多种模型架构，不仅限于 LLM。在传统微调方法中，预训练模型权重通常被直接修改或与额外的微调权重融合。而 LoRA 允许微调权重与预训练模型保持分离，且预训练模型保持不变。最终结果是，您可以训练模型在特定任务上更准确，例如生成代码、具有特定个性，或以特定风格生成图像。