服务
继续预训练
在微调之前,把您的领域知识加入基础模型。
OpenThai 2.0 Legal 就是这样学会泰国法律的:360,985 条法条训练样本,约 8 亿个 token。
服务内容
- 知识进入权重模型从您所在领域的原始文本中学习术语、概念和文风。
- 泰语及其他语言增强模型的泰语能力,或任何有足够文本的语言。
- 扩充词表可选:把领域术语加入分词器,用更少的 token 表示。
- 微调的基础为针对您任务的微调提供更好的起点。
合作流程
- 构建语料。 收集您的文档、手册和论文,去重并按质量过滤。
- 预训练。 以预测下一个 token 的方式在您的语料上训练模型。
- 检验。 测试领域知识,并确认模型的通用能力没有丢失。
交付成果
- 适配您领域的基础模型,可直接用于微调。
- 领域知识与通用能力的测试结果。
如何开始
请告诉我们您的领域以及现有文本的规模,我们会回复工作范围与报价。邮件 sale@iapp.co.th,电话 02-124-4041。