模型微调是什么:预训练模型适配特定任务与业务场景的方法模型微调是用任务或场景数据继续训练预训练模型的方法。
对于LLM微调,可以简单理解为:使用任务特有的数据集,让预训练大语言模型进一步适配目标任务。模型微调和从头训练都属于训练模型的方式,但起点和目标不同。常见目标可能包括:让模型更适配某类问答任务、某个业务流程、某种领域表达,或某类生成式AI应用场景。对预训练模型进行定向调整最后,微调会在预训练模型基础上继续进行调整,使模型更接近任务数据和业务需求。模型微调适合已有预训练模型,但通用能力无法充分覆盖具体任务的情况。
