跳到主要内容

OpenThai 2.0 Legal 发布——把泰国法律烂熟于心、还能自己部署的法律 AI

· 8 分钟阅读
Kobkrit Viriyayudhakorn
CEO @ iApp Technology

OpenThai 2.0 Legal — 开放权重泰语法律大模型,2026 年 7 月 24 日发布

今天,我们正式发布 OpenThai 2.0 Legal——一款专为泰国法律打造的开放权重大语言模型,并把完整权重免费公开在 Hugging Face 上。它由泰国人打造、服务泰国:面向律师、企业法务、合规团队、法律科技开发者,以及需要可靠、可溯源的泰国成文法与判例答案的政府机构。

👉 模型页面:iapp.co.th/openmodels/openthai2p0-legal · 权重下载:huggingface.co/iapp/openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b

不用把法条喂给它,它本来就知道

大多数法律聊天机器人的水平,取决于你递给它的文档。把文档拿走,它就开始猜。

而向 OpenThai 2.0 Legal 提问时,即便提示词中完全没有法条,它依然能凭记忆回忆并引用正确的法律名称与条文(มาตรา)。在由代码打分的基准测试中,它是可自建部署的模型里泰国法律闭卷召回能力最强的一个——在《民商法典》上的召回率约为体量大得多的 Qwen3.6-35B 的 4 倍——并且在泰国律考论述题评测中,对同一竞品实现了四个维度全胜,从引用准确度到法律推理皆然。

基准测试记分板:闭卷、开卷(RAG)与法律论述,对比 Qwen3.6-35B 与 Nemotron 基座模型

评测项OpenThai 2.0 LegalQwen3.6-35BNemotron-3-30B 基座
闭卷 · 《民商法典》召回(n=3,729)0.070.020.001
闭卷 · 《税法典》召回(n=50)0.400.360.31
开卷 · 从上下文中引用(n=3,729)0.990.990.98
开卷 · 税法 echo(n=50)0.840.840.64
开卷 · 税法 干扰项中选择(n=50)0.690.640.45
论述 · 引用准确度(n=72)0.250.090.02
论述 · 得出正确裁判结论(n=72)0.570.500.31
论述 · 覆盖关键要点(n=72)0.600.550.27
论述 · 行文质量(n=72)0.460.430.13

分值区间 0 到 1,越高越好。引用类指标使用 NitiBench 的 citation-F1 评分器;裁判结论、覆盖度与行文质量由 Gemini 3.1 Flash Lite 评判。所有模型都在同一套协议下端到端重跑:单次推理、关闭思考模式、引用由代码而非 AI 裁判核验。

有一点我们愿意主动说清楚:仍有闭源云端 API 比我们记得更多泰国法律。我们的表述仅限于你能在自有硬件上运行的模型——在这个范围内,这是我们测得的最好结果。

每个回答都标明出处

懂法律只是一半。法律工作需要的是可核验的答案。

OpenThai 2.0 Legal 以固定的 JSON 契约返回准确的法律名称与条文:

{"answer": "นาย ก. ต้องรับผิดตามประมวลกฎหมายแพ่งและพาณิชย์ มาตรา 420",
"citations": [{"law": "ประมวลกฎหมายแพ่งและพาณิชย์", "section": "420"}]}

这不只是格式上的讲究,而是让模型真正能被软件使用的关键。引用可以直接解析进 RAG 流程、文书起草工具与审阅流程,而审阅者可以逐条对照法条核验,不必凭信任接受。

在 RAG 场景下,模型拿到候选条文后只引用真正适用的那些。它可以配合你现有的任何检索器,不绑定特定的 embedding 或 rerank 模型。而由于闭卷能力本身就很强,相当多的问题根本不需要检索。

它跑在你自己的机器上

这一点比任何单项基准都更重要。案卷、客户资料与内部调查,恰恰是机构无法送去别人云端的数据。

OpenThai 2.0 Legal 是一个 300 亿参数的混合专家模型,每个 token 仅激活 约 30 亿参数,因此采用 NVFP4(4-bit)时在单张 24 GB 显存的 GPU 上即可运行;若需全精度服务,可在 2× H100 上以 bfloat16 部署。律所、银行与政府机构因此能把敏感事务完全留在自己的边界之内,按自己的治理规则运行。

它是怎么造出来的

训练流程:30B 基座 → CPT → SFT → GRPO → 发布

在 NVIDIA NeMo 技术栈上分三个阶段,每个阶段解决一个问题:

  1. CPT — 灌注法律。 模型双向演练每一条法条的完整文本(由条号复述条文、由含义指出条号),使知识沉淀进权重。共 360,985 条训练样本,约 8 亿泰语法律 token。
  2. SFT — 教它考试。 每个回答都遵循固定的 JSON 契约,只引用给定的条文。共 16,436 条考试答案与律考(เนติบัณฑิต)论述样本。
  3. GRPO — 打磨引用。 以基准测试自身的 citation F1 作为强化学习奖励:引用得恰到好处就被强化,多引一条错的就被抑制。共 8,568 道已评分题目、约 68,500 份草稿。

基座为 NVIDIA 的 Nemotron-3-Nano-30B-A3B(Mamba-Transformer 混合 MoE);CPT/SFT 使用 Megatron-Bridge,GRPO 使用 NeMo-RL。

现在就试 — 在线、免费、无需 GPU

直接在本页向真实模型提一个泰国法律问题:

⚖️

在线试用 OpenThai 2.0 Legal

免费 API · 1 个月

使用你的 iApp API 密钥即可免费调用,至 2026 年 8 月 24 日。

📚
已连接 RAG — 回答基于真实法条原文

本 API 从覆盖 39 部泰国法律、6,300+ 条文的语料库中混合检索(BM25 + 向量检索 + 重排器),使回答以现行法条原文为依据。系统选中的条文会显示在每个回答下方。切换到"闭卷"模式(API 中 rag: false)可与裸模型对比。

成篇的法律分析,行文中引用条文——以自动检索的现行法条原文为依据。

试试示例:
🧑‍💻 开发者视图——本演示背后的 API 调用

下面的 curl 命令会随你在上方修改问题、模式与选项而实时更新。复制到终端、换上你的 API 密钥即可运行——与本页面发送的请求完全一致。

请求(curl)
curl -s https://api.iapp.co.th/v3/llm/openthai2p0-legal/chat/completions \
  -H "Content-Type: application/json" \
  -H "apikey: YOUR_IAPP_API_KEY" \
  -d '{
  "model": "openthai2.0-legal",
  "rag": true,
  "rag_inject": "system",
  "messages": [
    {
      "role": "system",
      "content": "You are a Thai legal expert. Answer with legal analysis and cite the relevant มาตรา."
    },
    {
      "role": "user",
      "content": "จำเลยขีดฆ่าและฉีกเอกสารหลักฐานแห่งหนี้ แม้ยังอ่านได้ ถือเป็นความผิดสำเร็จหรือเพียงพยายามกระทำผิด"
    }
  ],
  "temperature": 0,
  "top_p": 1,
  "max_tokens": 4096,
  "chat_template_kwargs": {
    "enable_thinking": true
  }
}'

输出仅为决策辅助,并非法律意见;请对照现行法律核验每处引用。持 iApp API 密钥免费使用至 2026-08-24,之后按标准价 0.01/0.02 IC / 1K 输入/输出 token 计费(与 Thanoy Legal AI 相同)。

而且这是完整的生产级配置,不是简化版玩具:API 已内置 RAG——从覆盖 39 部泰国法律、6,300+ 条文的语料库中混合检索(BM25 + 向量 + 重排器),使每个回答都以现行法条原文为依据,并在回答下方展示系统选中的条文。想看看裸模型的水平?"闭卷"标签页(API 中 "rag": false)就是对照组。若想在自己的基础设施上搭建同样的检索栈:Open WebUI 与 OpenThaiRAG 教程一小时内就能带你完成。

同一个端点也开放给你构建应用:免费托管 API 一个月——兼容 OpenAI 接口,2026 年 8 月 24 日前凭免费的 iApp API 密钥即可使用(注册API Keys;限 30 次/分钟)。免费期后按 Thanoy 同档标准价继续提供:0.01/0.02 IC / 1K 输入/输出 token。

from openai import OpenAI
client = OpenAI(base_url="https://api.iapp.co.th/v3/llm/openthai2p0-legal", api_key="YOUR_IAPP_API_KEY")

r = client.chat.completions.create(
model="openthai2.0-legal",
messages=[{"role": "user", "content": "ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด"}],
max_tokens=1024,
)
print(r.choices[0].message.content)

或者五分钟自建

vllm serve iapp/openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b \
--tensor-parallel-size 2 --trust-remote-code \
--max-model-len 32768 --enforce-eager

随后用任意兼容 OpenAI 的客户端调用即可——若偏好 NVIDIA NIM,它暴露的是同样的端点。完整提示词、推荐生成参数以及三种模式(RAG、闭卷、论述)的实测示例,都在模型页面上。

它做不到什么

这些话我们宁愿自己先说,也不想让你事后才发现:

  • 检索质量决定结果。 给对条文,引用几乎完美;给错条文,回答就跟着错。
  • 区分形近条文是最难的部分。 把适用条文从相近条文中分辨出来,是所有受测模型得分最低的维度,我们也不例外。
  • 知识覆盖有边界。 训练聚焦泰国成文法与税务厅裁定;小众领域与最新修订可能较薄,而且法律会变。
  • 它是决策辅助,不是法律意见。 在任何人据此行动之前,应由具备资质的专业人士对照现行法律核验每一处引用。

我们为什么把它开放出来

"泰国法律理应拥有一个真正懂泰国法律的 AI,而且这个 AI 应该由泰国机构自己拥有、自己运行。以开放权重发布 OpenThai 2.0 Legal,就是把一个真正好用、可自建部署的法律模型交到每一位泰国律师、开发者与机构手中。它由泰国人打造,服务泰国。"

—— Kobkrit Viriyayudhakorn 博士,iApp Technology 首席执行官

主权 AI 不只关乎谁拥有算力,更关乎谁能够构建、检视并改进模型。每一个对这个模型进行微调、评测或部署的高校实验室、创业公司与政府机构,都在增强泰国整体的 AI 能力——而同样的方法,也适用于任何一种仍在等待自己模型的语言与法律体系。

OpenThai 2.0 Legal 由 OpenThai 团队(AIEAT / iApp Technology)在 NVIDIA NemotronNeMo 技术栈上打造,合作方包括 大数据研究院(BDI)ThaiLLM 计划与 NVIDIA

开始使用