LoRA 的原理和基本流程
LoRA 的核心思想是保持预训练模型的权重不变，仅通过低秩矩阵的插入来调整
模型的输出。具体来说，它通过将线性层的权重 W∈Rd×k 近似为两个低秩矩阵
A∈Rd×r 和 B∈Rr×k，其中 r≪d,k，从而减少参数更新的规模。
LoRA 流程如下：
1. 冻结预训练模型的权重：所有模型参数保持不变。
2. 插入低秩分解矩阵：在线性层中插入低秩矩阵 A 和 B。
3. 微调低秩矩阵：仅调整低秩矩阵的参数，实现模型微调。
4. 训练和优化：通过梯度下降等优化方法更新 A 和 B，提升模型性能。
项目设计概述
� 输入：用户选择的数据集（通过 GUI 界面导入）。
� 输出：微调模型的预测结果，评估指标（如 MSE、MAE、R² 等），以及可视化
的预测与实际对比图。
� 功能：
i. 允许用户设置模型参数（学习率、批次大小等）。
ii. 提供图表展示训练结果和评估指标。
iii. 提供导入和导出数据集的功能。
iv. 实现多种评价指标对模型性能的全面评估。
v. 支持超参数优化，通过交叉验证等技术选择最佳模型参数。
项目详细代码实现
资源评论
