首页
科技要闻
互联网
手机
家电
机器人
5G/通信
数码
人工智能
硬件
IT
资讯
业界
科技金融
企业动态
半导体
iOS
Android
Mac
标签 >
【大模型后训练SFT】Entropic Distribution Matching in Supervised Fine-tuning of LLMs
熵分布匹配 SFTGEM 算法解决大模型监督微调过拟合、输出单一问题
传统大模型 SFT 监督微调基本都用交叉熵 CE 损失做优化,它会强行让模型去拟合训练数据里的标准答案分布,很容易出现死记训练样本、过
2026-11-16 13:29:33