4.3其他低秩分解技术

文档摘要

4.3 其他低秩分解技术 4.3.1 delta-tuning 4.3.1.1 delta-tuning 介绍 4.3.1.2 delta-tuning 的数学解释 4.3.1.3 delta-tuning 代码实战 4.3.1.4 模型评估 4.3.2 DoRA: Weight-Decomposed Low-Rank Adaptation 4.3.2.1 DoRA 介绍 4.3.2.2 DoRA 的数学解释 4.3.2.3 DoRA 代码实战 4.3.2.4 模型评估 4.3.3 Matrix-Transformation Based Low-Rank Adaptation (MTLoRA) 4.3.3.1 MTLoRA 介绍 4.3.3.2 MTLoRA 的数学解释 4.3.3.