🔗 ใช้ OpenThai 2.0 Legal ร่วมกับ RAG

โมเดลเปล่าคือครึ่งเดียวของระบบ OpenThai 2.0 Legal ทำคะแนนเกือบเต็ม (citation F1 = 0.99) เมื่อมีตัวบทที่ถูกต้องอยู่ในคำถาม — แต่คำตอบแบบปิดตำรามาจากความจำของโมเดล ซึ่งอาจผิดหรือไม่ครบถ้วน งานกฎหมายจริงจึงควรใช้คู่กับระบบค้นคืนเอกสารเสมอ API ที่เราโฮสต์ให้ฟรี มี RAG ในตัวอยู่แล้ว (ค้นคืนไฮบริดจากคลังตัวบท 39 ฉบับ เปิดเป็นค่าเริ่มต้น) — คู่มือนี้สำหรับผู้ที่โฮสต์น้ำหนักโมเดลเปิดเองและต้องการระบบอ้างอิงแบบเดียวกันบนเครื่องของตัวเอง มีสองวิธี ทำเสร็จได้ภายในหนึ่งชั่วโมง

📚 ชุดข้อมูลกฎหมายไทยแนะนำ​

RAG ที่ดีเริ่มจากคลังข้อมูลที่ดี ชุดเหล่านี้เปิด เป็นภาษาไทย และเฉพาะทางกฎหมาย

เคล็ดลับ: ตัดเอกสารเป็นชิ้นตามมาตรา ไม่ใช่ตามจำนวนตัวอักษร — หนึ่งมาตราต่อหนึ่งชิ้น พร้อม metadata law_name และ section คือรูปแบบเดียวกับสัญญาการอ้างอิงที่โมเดลถูกฝึกมา

ทางเลือก A — Open WebUI (UI โฮสต์เองที่นิยมที่สุด)​

Open WebUI (ดาว GitHub ราว 1.1 แสนดวง) คือทางลัดสู่หน้าจอแชตกับเอกสารที่มี RAG ในตัว ("Knowledge") ระบบผู้ใช้ และการเชื่อมต่อแบบ OpenAI-compatible

1. รัน Open WebUI​

docker run -d -p 3000:8080 \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

เปิด http://localhost:3000 แล้วสร้างบัญชีผู้ดูแล

2. เชื่อมต่อ OpenThai 2.0 Legal​

ขอ iApp API key ฟรีก่อน: สมัครสมาชิก → API Keys → Create New API Key

1. ไปที่ Admin Panel → Settings → Connections
2. ใต้ OpenAI API กด + เพื่อเพิ่มการเชื่อมต่อ
   • API Base URL: https://api.iapp.co.th/v3/llm/openthai2p0-legal
   • API Key: iApp API key ของคุณ
3. บันทึก — โมเดล openthai2.0-legal จะปรากฏในตัวเลือกโมเดล

3. สร้างฐานความรู้กฎหมายของคุณ​

1. ไปที่ Workspace → Knowledge → + Create a Knowledge base (เช่น "ประมวลกฎหมายแพ่งและพาณิชย์")
2. อัปโหลดไฟล์ตัวบท — ควรเป็นหนึ่งมาตราต่อชิ้น (ดูเคล็ดลับด้านบน)
3. ในแชตกับ openthai2.0-legal พิมพ์ # แล้วเลือกฐานความรู้ของคุณ — หรือผูกถาวรกับโมเดลกำหนดเองใน Workspace → Models

4. ถามแบบมีหลักฐาน​

Open WebUI จะค้นมาตราที่เกี่ยวข้องแล้วใส่เข้าไปในคำถามให้เอง — ตรงกับโหมด "open-book" ที่โมเดลนี้ทำคะแนน 0.99 พอดี ลองถามเป็นภาษาไทย

นาย ก. ขับรถประมาทชนรถนาย ข. ต้องรับผิดตามกฎหมายใด

คำตอบจะอ้างอิงมาตราที่ค้นมาได้ แทนที่จะพึ่งความจำของโมเดล

ทางเลือก B — OpenThaiRAG (เฟรมเวิร์ก RAG สัญชาติไทย)​

OpenThaiRAG โดยชุมชน OpenThaiGPT (หน้าโครงการ) คือเฟรมเวิร์ก RAG โอเพนซอร์สที่สร้างเพื่อภาษาไทยโดยเฉพาะ ใช้ฐานข้อมูลเวกเตอร์ Milvus + embedding BAAI/bge-m3 (รองรับภาษาไทยดีเยี่ยม) + การให้บริการด้วย vLLM

git clone https://github.com/OpenThaiGPT/openthairag
cd openthairag
docker-compose up -d

นำเอกสารกฎหมายของคุณเข้าดัชนี (วางไฟล์ .txt ในโฟลเดอร์ /docs แล้วรันตัวทำดัชนี) จากนั้นสอบถาม

curl --location 'http://localhost:5000/completions' \
  --header 'Content-Type: application/json' \
  --data '{"prompt": "ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด", "max_tokens": 2048}'

ชี้ LLM backend ไปที่ OpenThai 2.0 Legal — จะใช้ endpoint โฮสต์ของเรา (https://api.iapp.co.th/v3/llm/openthai2p0-legal พร้อม API key) หรือ vLLM ของคุณเองที่รันน้ำหนักโมเดลแบบเปิดก็ได้ — ทั้งการค้นคืนและการสร้างคำตอบจะทำงานบนส่วนประกอบที่ปรับจูนเพื่อภาษาไทยตลอดสาย

เลือกทางไหนดี​

เพื่อความแม่นยำของการอ้างอิงสูงสุดในทั้งสองระบบ ให้ใช้ system prompt แบบ JSON citation จากหน้าโมเดล — โมเดลถูกฝึกด้วย RL บนสัญญารูปแบบนั้นโดยตรง

ขั้นต่อไป​

• หน้าโมเดลและเดโมสด: OpenThai 2.0 Legal
• เรื่องราวการเปิดตัว: บทความบล็อก
• วัดผลไปป์ไลน์ของคุณ: รัน NitiBench กับ RAG ของคุณแบบครบวงจร
• ต้องการความช่วยเหลือ: sale@iapp.co.th · Discord