LoRA 适配器训练

服务内容​

• 训练适配器基础权重保持冻结，只用您的数据训练小型低秩矩阵。
• 一个基础模型，多种任务推理时加载适配器，一个基础模型即可服务多个任务。
• 更少显存只训练适配器，所需显存少于全参数微调。
• QLoRA显存受限时采用量化 LoRA。

合作流程​

1. 定义任务。 确定目标任务，准备指令与回答数据对。
2. 训练。 按任务选择秩和目标模块，然后训练适配器。
3. 合并或独立。 单一任务时合并进基础模型，多任务时保持独立、按需切换。

交付成果​

• 适用于您基础模型的适配器权重，可合并或独立使用。

如何开始​

请告诉我们任务、现有数据以及您使用的基础模型，我们会回复工作范围与报价。邮件 sale@iapp.co.th，电话 02-124-4041。