参数选择方法(Parameter Selection Methods)选择性的对预训练模型中的某个参数子集进行微调。和参数附加方法不同的是,参数选择方法无需向模型添加额外的参数,避免了在推理阶段引入额外的计算成本。通常,参数选择方法分为两类:基于规则的方法和基于学习 ...
对于预训练数据涉及较少的垂直领域,大语言模型需要对这些领域及相应的下游任务进行适配。上下文学习和指令微调是进行下游任务适配的有效途径,但它们在效果或效率上存在缺陷。为弥补这些不足,参数高效微调(Parameter-EfficientFine-Tuning, PEFT)技术应运而生 ...
一些您可能无法访问的结果已被隐去。
显示无法访问的结果