OpenThai 2.0 Legal

Chat completions บน OpenThai 2.0 Legal ที่ตอบโดยอิงมาตราจากกฎหมายไทย 2,065 ฉบับในดัชนีค้นคืนของโมเดล และส่งมาตราเหล่านั้นกลับมาด้วย โดยตรวจคำตอบก่อนส่งถึงคุณ เข้ากันได้กับ OpenAI

POST/v3/llm/openthai2p0-legal/chat/completionsทดลองใช้

ราคา0.01 / 0.02 ICต่อ 1k โทเคน เข้า / ออก
ให้บริการแล้ว48Kครั้ง

v2.0
ใช้งานได้

Input

model: openthai2.0-legal
messages: role: user content: ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด
max_tokens: 1024

OutputPOST /v3/llm/openthai2p0-legal/chat/completions

id: chatcmpl-...
model: openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b
choices: message: { role, content }
usage: prompt_tokens: 2874 completion_tokens: 17
rag: true
retrieved_documents: 2 × law: ประมวลกฎหมายอาญา section: 335 text: ผู้ใดลักทรัพย์ (๑) ในเวลากลางคืน ... score: 0.9989
answerable: true
answerable_reason: ok
content_modified: —
citations: total: 1 grounded: 1 ungrounded: []

ฟิลด์ทั้งหมดอยู่ในหัวข้อ Response

Request

curl -X POST 'https://api.iapp.co.th/v3/llm/openthai2p0-legal/chat/completions' \
  -H 'apikey: YOUR_API_KEY' \
  -H 'Content-Type: application/json' \
  -d '{ \
    "model": "openthai2.0-legal", \
    "messages": [ \
      {"role": "user", "content": "ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด"} \
    ], \
    "max_tokens": 1024 \
  }'

Response

200OK ฟิลด์อธิบายไว้ในหัวข้อ Response

{
  "id": "chatcmpl-...",
  "model": "openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b",
  "choices": [
    {"message": {"role": "assistant", "content": "ลักทรัพย์ในเวลากลางคืน เป็นการกระทำความผิดตามมาตรา ๓๓๕ (๑) แห่งประมวลกฎหมายอาญา ..."}}
  ],
  "usage": {"prompt_tokens": 2874, "completion_tokens": 17},
  "rag": true,
  "retrieved_documents": [
    {"law": "ประมวลกฎหมายอาญา", "section": "335", "text": "ผู้ใดลักทรัพย์ (๑) ในเวลากลางคืน ...", "score": 0.9989},
    {"law": "ประมวลกฎหมายอาญา", "section": "334", "text": "ผู้ใดเอาทรัพย์ของผู้อื่น ...", "score": 0.9936}
  ],
  "answerable": true,
  "answerable_reason": "ok",
  "content_modified": null,
  "citations": {"total": 1, "grounded": 1, "ungrounded": []}
}

Request

ส่ง JSON ตามรูปแบบ chat completions ของ OpenAI ใช้ OpenAI SDK ได้ทันทีด้วย base URL https://api.iapp.co.th/v3/llm/openthai2p0-legal และส่งคีย์เป็น apikey หรือ Authorization: Bearer ส่วนฟิลด์เฉพาะของ API นี้ใช้ควบคุมการค้นตัวบท และการตรวจก่อนและหลังตอบ

Headers

apikeystringrequired

API key ของคุณ สร้างได้ที่เมนู API Keys ในแผงควบคุม

Body

modelstringrequired

openthai2.0-legal

messagesarrayrequired

บทสนทนา: ออบเจ็กต์ที่มี role และ content ส่งประวัติการสนทนาทั้งหมดรวมข้อความของ assistant ด้วย คำถามต่อเนื่องสั้น ๆ จะถูกค้นตัวบทร่วมกับคำถามก่อนหน้า

ragboolean

ค่าเริ่มต้น true คือค้นมาตรากฎหมายก่อนแล้วตอบโดยอิงมาตรานั้น false คือถามโมเดลเปล่า ไม่เปิดตำรา

rag_top_kinteger

จำนวนมาตราที่ค้นได้และใส่ใน prompt ค่าเริ่มต้น 8 สูงสุด 20 และเป็น 6 เมื่อ rag_inject เป็น system

rag_injectstring

user (ค่าเริ่มต้น) ใส่มาตราในโครงที่โมเดลถูกฝึกมา เหมาะกับคำตอบอ้างอิงแบบ JSON ส่วน system ใส่ไว้ใน system prompt เป็นข้อมูลประกอบ เหมาะกับบทวิเคราะห์ยาว

dekaboolean

ค่าเริ่มต้น false ส่วน true คือค้นคำพิพากษาศาลฎีกาซึ่งมี 133,000 ฉบับด้วย แล้วแนบฉบับที่ใกล้เคียงที่สุดเป็นแนวเทียบเคียง จำนวนที่แนบกำหนดด้วย deka_top_k เหมาะกับบทวิเคราะห์ยาว ควรปิดไว้สำหรับคำตอบอ้างอิงสั้น ๆ

webstring

ค้นเว็บสำหรับคดีปัจจุบัน auto (ค่าเริ่มต้น) ค้นเฉพาะเมื่อคำถามระบุชื่อคดีหรือบุคคลจริง หรือเป็นคำถามแนวข่าว true ค้นทุกครั้ง false ไม่ค้นเลย

unanswerable_modestring

วิธีจัดการคำตอบที่อ้างอิงตัวบทไม่ได้ replace (ค่าเริ่มต้น) ส่งข้อความปฏิเสธมาตรฐานแทนคำตอบ append คงคำตอบไว้และต่อท้ายคำเตือน flag ไม่แก้คำตอบ เพียงตั้งค่าฟิลด์ผลตรวจ

guardboolean

ค่าเริ่มต้น true คือตรวจคำถามก่อนโมเดลทำงาน เพื่อจับกฎหมาย มาตรา หรือคดีที่ไม่มีจริง เรื่องสมมติ และคำถามที่ไม่เกี่ยวกับกฎหมาย false คือปิดการตรวจ ซึ่งไม่แนะนำ

hold_until_verdictboolean

ใช้คู่กับ stream กักคำตอบไว้จนตรวจเสร็จแล้วส่งเป็น chunk เดียว สำหรับ UI ที่สลับข้อความคำตอบไม่ได้

chat_template_kwargsobject

{"enable_thinking": true} เพื่อให้แสดงการให้เหตุผลทางกฎหมายทีละขั้น โดยส่งกลับแยกจากคำตอบใน message.reasoning_content (delta.reasoning_content เมื่อใช้ stream)

temperaturefloat

0.0 สำหรับคำตอบอ้างอิงและบทวิเคราะห์ 0.6 สำหรับสนทนา ตามการตั้งค่าด้านล่าง

repetition_penaltyfloat

1.05 สำหรับสนทนา หาก request ไม่ได้ส่ง penalty ใด ๆ มาเอง ระบบจะใช้ 1.05

max_tokensinteger

จำนวน token สูงสุดที่จะสร้าง ค่า 2,048 เพียงพอสำหรับความเห็นทางกฎหมายฉบับเต็ม คำตอบโดยเฉลี่ยยาว 500 ถึง 650 token

streamboolean

ใส่ true เพื่อรับแบบ server-sent events ทีละ token มาตราที่ค้นได้จะมากับ chunk แรก ส่วนฟิลด์ผลตรวจมากับ chunk สุดท้าย

ราคา

แต่ละคำขอคิด 0.01 IC ต่อ 1K input tokens และ 0.02 IC ต่อ 1K output tokens

การตั้งค่าสำหรับสนทนา

{"temperature": 0.6, "top_p": 0.95, "repetition_penalty": 1.05, "min_p": 0.05, "max_tokens": 2048,
 "rag_inject": "system", "deka": true, "deka_top_k": 2, "web": "auto", "unanswerable_mode": "replace"}

จากการรัน 134 ครั้งบนชุดคำถามที่มักทำให้โมเดลวนซ้ำ ค่าเหล่านี้ไม่ทำให้เกิดการวนซ้ำเลย โดยการอ้างอิงตัวบทแม่นยำเท่าเดิม คือ 99 % ของมาตราที่อ้างพบในตัวบทที่ค้นได้ ค่าเริ่มต้นเดิม คือ temperature 0.7 และ top_p 0.9 โดยไม่มี penalty ทำให้คำตอบวนซ้ำจนชนเพดาน 4,096 token ใน 1 ถึง 2 % ของคำตอบ การวนซ้ำที่ยังเกิดขึ้นจะถูกตัดตั้งแต่จุดที่เริ่มวน และ response จะระบุ content_modified: "loop_cut" สำหรับคำตอบอ้างอิงแบบ JSON ให้ใช้ temperature 0.0 ปิด thinking และตั้ง rag_inject เป็น user ส่วนบทความหรือบทวิเคราะห์ ให้ใช้ temperature 0.0 เปิด thinking และตั้ง rag_inject เป็น system

Response

ออบเจ็กต์ chat completion แบบ OpenAI ตามตัวอย่างในแผงด้านข้าง เพิ่มฟิลด์ของ API นี้เอง ซึ่งบอกสิ่งที่ค้นได้และผลการตรวจ

choices[0]

retrieved_documentsarray

มาตราที่คำตอบอิง แต่ละรายการมี law, section, text และ score

answerableboolean

false เมื่อคำตอบถูกปฏิเสธหรือถูกแก้ไข

answerable_reasonstring

ok หรือเหตุผลที่ตอบไม่ได้ ได้แก่ no_relevant_law_found, ungrounded_citations, model_declined, empty_answer, unknown_law, unknown_section, unknown_case, case_not_found, fictional_premise, not_legal_question

content_modifiedstring

null เมื่อคำตอบคงเดิม นอกนั้นเป็น replaced (ส่งข้อความปฏิเสธแทนคำตอบ), pruned (ตัดบรรทัดที่อ้างอิงไม่ได้ออก), appended (ต่อท้ายคำเตือน) หรือ loop_cut ข้อความก่อนแก้อยู่ใน original_content

replacement_contentstring

ใน stream คือข้อความที่ต้องแสดงแทนร่างคำตอบ เมื่อ content_modified เป็น replaced หรือ pruned

citationsobject

total, grounded, มาตราที่อ้างอิงไม่ได้ใน ungrounded และ lookup ซึ่งเป็นมาตราที่โมเดลอ้างจากความจำ พร้อมคะแนนเมื่อเทียบกับตัวบทจริง

retrieval_confidencenumber

คะแนนความเกี่ยวข้องสูงสุดในบรรดามาตราที่ค้นได้ ตั้งแต่ 0 ถึง 1

guardobject

ผลการตรวจก่อนโมเดลทำงาน ได้แก่ label (LEGAL, CASE, FICTION หรือ OTHER), refused, reason และ glossary ซึ่งเป็นศัพท์กฎหมายที่ระบบโยงเข้ากับมาตราแล้ว

webobject

ได้ค้นเว็บหรือไม่ (used) และ results ที่ค้นได้ แต่ละรายการมี title และ url ควรแสดงเป็นแหล่งที่มา

truncationobject

มีเฉพาะเมื่อ prompt ถูกตัดให้พอดี ได้แก่ prompt_tokens_before, prompt_tokens_after, removed_chars, limit

ragboolean

ได้ค้นตัวบทหรือไม่

usageobject

จำนวน token

idstring

ตามรูปแบบ OpenAI

modelstring

โมเดลที่ตอบ

choicesarray

ตามรูปแบบ OpenAI

ถ้าต้องการคำตอบที่โปรแกรมอ่านได้ ให้ใช้ system prompt ที่โมเดลถูกฝึกมา ซึ่งอยู่ที่หน้าโมเดล พร้อมรูปแบบ JSON แล้วโมเดลจะอ้างเฉพาะมาตราที่อยู่ในบริบทที่ค้นได้

Streaming

ร่างคำตอบ stream มาทีละ token เมื่อผลตรวจสั่งแทนที่หรือตัดคำตอบ ซึ่งเกิดกับ 1 ถึง 3 % ของคำตอบ จะมี content chunk ตามมาอีกหนึ่งชิ้น เป็นบรรทัดคั่น \n\n---\n ตามด้วยข้อความแทนที่ ส่วน chunk สุดท้ายที่ choices: [] จะมี usage ฟิลด์ผลตรวจ และ replacement_content หลัง data: [DONE] จะไม่มีข้อมูลใดตามมา เมื่อ replacement_content มีค่า ให้แสดงค่านั้นแทนร่างคำตอบ:

Python
JavaScript

draft, replacement = "", None
with client.chat.completions.create(model="openthai2.0-legal", messages=msgs, max_tokens=2048, stream=True,
                                    extra_body={"rag_inject": "system", "deka": True, "web": "auto"}) as stream:
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            draft += chunk.choices[0].delta.content
            ui.set_answer(draft)                          # live
        extra = chunk.model_extra or {}
        if extra.get("replacement_content") is not None:
            replacement = extra["replacement_content"]    # last chunk: the check replaced or pruned the draft
ui.set_answer(replacement if replacement is not None else draft)

let draft = "", replacement = null;
const res = await fetch(url, { method: "POST", headers, body: JSON.stringify({ ...body, stream: true }) });
const reader = res.body.getReader(), dec = new TextDecoder(); let buf = "";
while (true) {
  const { value, done } = await reader.read(); if (done) break;
  buf += dec.decode(value, { stream: true });
  let i; while ((i = buf.indexOf("\n\n")) >= 0) {
    const line = buf.slice(0, i).trim(); buf = buf.slice(i + 2);
    if (!line.startsWith("data: ") || line === "data: [DONE]") continue;
    const o = JSON.parse(line.slice(6));
    for (const c of o.choices || []) if (c.delta?.content) { draft += c.delta.content; ui.setAnswer(draft); }
    if (o.replacement_content != null) replacement = o.replacement_content;
  }
}
ui.setAnswer(replacement ?? draft);

ถ้า UI สลับข้อความไม่ได้ ให้ส่ง "hold_until_verdict": true แล้วคำตอบจะมาเป็น chunk เดียวเมื่อตรวจเสร็จ

รายละเอียดเพิ่มเติม

ผลการทดสอบ

การตรวจก่อนและหลังตอบ

ก่อนโมเดลทำงาน คำถามจะถูกเทียบกับคลังตัวบทกฎหมายและคำพิพากษาศาลฎีกา คำถามที่ระบุชื่อกฎหมาย เลขมาตรา หรือเลขคดีที่ไม่มีจริง ตั้งอยู่บนเรื่องสมมติ หรือไม่ใช่คำถามกฎหมาย จะได้รับข้อความปฏิเสธมาตรฐานภาษาไทยทันทีโดยไม่มีการสร้าง token ข้อความทักทายจะได้รับคำแนะนำตัวสั้น ๆ และถ้าทักทายแล้วถามต่อ ระบบจะตอบเป็นคำถามตามปกติ
หลังโมเดลตอบ ทุกมาตราในคำตอบจะถูกเทียบกับมาตราที่ค้นได้ มาตราที่โมเดลอ้างจากความจำจะถูกเปิดตัวบทจริง แล้วตรวจว่าประโยคที่อ้างมาตรานั้นตรงกับตัวบทหรือไม่ ส่วนที่อ้างอิงตัวบทไม่ได้จะถูกตัดออก และคำตอบที่ไม่เหลือมาตราที่อ้างอิงได้เลยจะถูกแทนด้วยข้อความปฏิเสธ
สำหรับคดีจริงในปัจจุบัน API จะอ่านข่าวอันดับต้น ๆ สกัดข้อหาที่ข่าวระบุ ค้นตัวบทของข้อหานั้นแล้วตอบจากตัวบท คดีที่ระบุชื่อแต่ไม่มีแหล่งข่าวใดรายงานจะถูกปฏิเสธด้วย case_not_found ขั้นตอนนี้ใช้เวลาเพิ่ม 1 ถึง 3 วินาที และผลค้นจะถูก cache ไว้ 1 ชั่วโมง โจทย์สมมติแบบข้อสอบจะตอบจากตัวบทโดยไม่ค้นเว็บ

จากชุดคำถามทดสอบ 107 ข้อ ซึ่งครอบคลุมกฎหมาย มาตรา และคดีที่ไม่มีจริง เรื่องสมมติ คำถามนอกเรื่อง คำที่พิมพ์ผิด คดีปัจจุบัน และคำถามข้อสอบจริง API ทำงานถูกต้อง 105 ข้อ ทั้งเปิดและปิด thinking ก่อนมีการตรวจเหล่านี้ ทำได้ถูกต้อง 75 จาก 105 ข้อ ศัพท์กฎหมายที่ไม่มีตัวบทใดใช้คำนั้นตรง ๆ เช่น คดีอุทลุม ครอบครองปรปักษ์ หรือทางจำเป็น จะถูกโยงผ่านอภิธานศัพท์ไปยังมาตราที่นิยามเรื่องนั้น

ความยาวของ prompt

รับ prompt ได้ยาวสูงสุด 262,144 token หรือประมาณ 350,000 ถึง 450,000 อักขระไทย และ 131,072 token เมื่อเอ็นจินสำรองเป็นผู้ตอบ หาก prompt ยาวกว่านั้น ระบบจะไม่ปฏิเสธ แต่จะตัดส่วนกลางของข้อความ user ที่ยาวที่สุดให้ prompt และ max_tokens พอดี โดยใส่เครื่องหมายภาษาไทยไว้ตรงจุดที่ตัด และ response จะมีฟิลด์ truncation ความแม่นยำไม่เท่ากันตลอดทั้ง context window จากการทดสอบด้วยตัวบทกฎหมายจริง โมเดลหาข้อเท็จจริงที่ฝังไว้เจอทั้งสองจุดที่ 73K และ 92K token เจอหนึ่งในสองจุดที่ 115K ถึง 140K และไม่เจอเลยตั้งแต่ 165K ขึ้นไป ข้อความที่ต้องการคำตอบแม่นยำจึงควรยาวไม่เกินประมาณ 90K token หรือ 150,000 อักขระไทย ส่วน prompt ขนาด 250K token ใช้เวลาอ่าน 30 ถึง 35 วินาที รับ request body ได้ถึง 64 MB และ body ที่ใหญ่กว่า 500 KB จะผ่านเส้นทาง relay ซึ่งเพิ่มเวลาอีกไม่กี่ร้อยมิลลิวินาที

สถานะระบบ

GET https://api.iapp.co.th/v3/llm/openthai2p0-legal/health ไม่ต้องใช้ API key และไม่คิดเครดิต คืน 200 ขณะที่ API ยังตอบได้ และ 503 เมื่อตอบไม่ได้ พร้อม status เป็น ok, degraded (ตอบจากระบบสำรองเท่านั้น) หรือ down หน้าสถานะ แสดง uptime ย้อนหลัง 90 วันและเหตุขัดข้องล่าสุด

ข้อจำกัด

เรียกได้ 30 ครั้งต่อนาทีต่อ IP
เป็นเครื่องมือช่วยตัดสินใจ ไม่ใช่คำแนะนำทางกฎหมาย ผู้เชี่ยวชาญต้องตรวจคำตอบกับกฎหมายฉบับปัจจุบันก่อนนำไปใช้
คำตอบดีได้เท่ากับมาตราที่ค้นได้ retrieved_documents มีไว้ให้ตรวจสอบได้ทุกคำตอบ

การจัดการข้อมูล

prompt และคำตอบประมวลผลในหน่วยความจำ และไม่เก็บไว้หลังส่งคำตอบ ส่วนการขอความยินยอมและการแจ้งเจ้าของข้อมูลตาม PDPA และ GDPR เป็นหน้าที่ของคุณในฐานะผู้ควบคุมข้อมูล น้ำหนักโมเดลอยู่บน Hugging Face รันบน GPU 24 GB ตัวเดียว และมีบทเรียนตั้งระบบค้นตัวบทแบบเดียวกันบนเครื่องของคุณเอง

Request​

Response​

รายละเอียดเพิ่มเติม​

Request

Response

รายละเอียดเพิ่มเติม