บริการ
ฝึกสอน LoRA Adaptor
Adaptor ขนาดเล็กที่สลับได้ แทนการทำสำเนาโมเดลทั้งตัว
OpenThai 2.0 ฝึกด้วย LoRA rank 64 บนข้อมูลที่ตรวจสอบแล้วราว 143,000 แถว และเผยแพร่ Adaptor ขนาด 7 GB ไว้ด้วย
งานที่เราทำให้
- ฝึก Adaptorคงน้ำหนักเดิมของโมเดลไว้ แล้วฝึกเฉพาะเมทริกซ์ Low-rank ขนาดเล็กด้วยข้อมูลของคุณ
- โมเดลเดียว หลายงานโหลด Adaptor ตอน Inference โมเดลพื้นฐานตัวเดียวจึงรองรับได้หลายงาน
- ใช้หน่วยความจำ GPU น้อยลงฝึกเฉพาะ Adaptor จึงใช้หน่วยความจำ GPU น้อยกว่า Full finetuning
- QLoRALoRA แบบ Quantized สำหรับกรณีที่หน่วยความจำ GPU จำกัด
ขั้นตอนการทำงาน
- กำหนดงาน กำหนดงานเป้าหมาย และเตรียมคู่ข้อมูล Instruction–Response
- ฝึก เลือก Rank และโมดูลเป้าหม ายให้เหมาะกับงาน แล้วฝึก Adaptor
- รวมหรือแยก รวมเข้ากับโมเดลพื้นฐานเมื่อใช้กับงานเดียว หรือแยกไว้เพื่อสลับระหว่างงาน
สิ่งที่คุณได้รับ
- น้ำหนัก Adaptor สำหรับโมเดลพื้นฐานของคุณ แบบรวมแล้วหรือแยกไว้
เริ่มต้น
บอกเราว่ามีงานอะไร มีข้อมูลอะไร และใช้โมเดลพื้นฐานตัวไหน แล้วเราจะตอบกลับพร้อมขอบเขตงานและใบเสนอราคา อีเมล sale@iapp.co.th หรือโทร 02-124-4041