🔗 OpenThai 2.0 Legal 配合 RAG 使用
裸模型只是系统的一半。 当正确的法条在提示词里时，OpenThai 2.0 Legal 的引用得分接近满分（citation F1 = 0.99）——但闭卷回答来自模型记忆，可能有误或不完整。实际法律工作请务必搭配检索。我们的免费托管 API 已内置 RAG（对 39 部法律语料的混合检索，默认开启）——本指南面 向自托管开源权重、希望在自己基础设施上获得同样引用能力的用户。两条路线，各一小时内可完成。
未接入检索（RAG）时，模型依据其权重中存储的知识作答，可能引用错误条文或遗漏适用条文，因此每个回答都必须对照法条核验。
接入检索（RAG）后，模型只引用检索系统提供的条文，准确性因而主要取决于检索质量——若检索到错误条文，回答也会随之出错。
无论哪种情况，模型输出均为决策辅助，而非法律意见。在据此行动之前，应由具备资质的专业人士对照现行法律核验每一处引用。
📚 推荐的泰国法律数据集
好的 RAG 从好的语料开始。以下数据集开放、泰语、法律专用：
| 数据集 | 内容 | 许可证 |
|---|---|---|
| WangchanX-Legal-ThaiCCL-RAG（VISTEC / AIResearch） | 专为 RAG 构建的泰国民商法问答——问题与支撑条文成对出现 | 开放（见数据卡） |
| NitiBench（VISAI-AI） | 本模型使用的泰国法律评测基准——适合端到端评估你自己的 RAG 流水线 | MIT |
| 泰国成文法 — 国务委员会法制办公室 | 现行泰国法律条文（法典、法案）的权威来源，用于构建检索语料库 | 公共部门 |
提示： 按**条文（มาตรา）**切分文档，而不是按固定字符数——每条一个 chunk，附带 law_name 与 section 元数据，正是模型引用契约所训练的格式。
路线 A — Open WebUI（最流行的自托管 LLM 界面）
Open WebUI（GitHub 约 11 万星）是获得"与文档对话"界面的最快路径：内置 RAG（"Knowledge"）、用户管理、兼容 OpenAI 的连接。
1. 运行 Open WebUI
docker run -d -p 3000:8080 \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
打开 http://localhost:3000，创建管理员账户。
2. 连接 OpenThai 2.0 Legal
先获取免费的 iApp API 密钥：注册 → API Keys → Create New API Key。
- 进入 Admin Panel → Settings → Connections
- 在 OpenAI API 下点 + 新增连接：
- API Base URL：
https://api.iapp.co.th/v3/llm/openthai2p0-legal - API Key： 你的 iApp API 密钥
- API Base URL：
- 保存——模型选 择器中会出现
openthai2.0-legal
我们的网关同时接受 Authorization: Bearer 头（Open WebUI 发送的方式）与 apikey 头——两种都可用。
3. 建立法律知识库
- 进入 Workspace → Knowledge → + Create a Knowledge base（例如"泰国民商法典"）
- 上传法条文件——最好每条（มาตรา）一个 chunk（见上文提示）
- 在与
openthai2.0-legal的对话中输入#选择知识库——或在 Workspace → Models 中把它永久绑定到自定义模型
4. 有据提问
Open WebUI 会检索相关条文并注入提示词——正是本模型得分 0.99 的"开卷"场景。用泰语提问：
นาย ก. ขับรถประมาทชนรถนาย ข. ต้องรับผิดตามกฎหมายใด
答案将引用检索到的条文，而不再依赖记忆。
路线 B — OpenThaiRAG（泰语原生 RAG 框架）
OpenThaiGPT 社区出品的 OpenThaiRAG（项目主页）是专为泰语打造的开源 RAG 框架：Milvus 向量数据库 + BAAI/bge-m3 嵌入模型（泰语支持极佳）+ vLLM 推理。
git clone https://github.com/OpenThaiGPT/openthairag
cd openthairag
docker-compose up -d
索引你的泰国法律文档（把 .txt 文件放入 /docs 目录后运行索引脚本），然后查询：
curl --location 'http://localhost:5000/completions' \
--header 'Content-Type: application/json' \
--data '{"prompt": "ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด", "max_tokens": 2048}'
把它的 LLM 后端指向 OpenThai 2.0 Legal——用我们的托管端点（https://api.iapp.co.th/v3/llm/openthai2p0-legal，带 API 密钥），或用你自己的 vLLM 运行开放权重——检索与生成全程运行在为泰语优化的组件上。
怎么选
| Open WebUI | OpenThaiRAG | |
|---|---|---|
| 适合 | 今天就要一个成熟聊天界面的团队 | 想完全掌控泰语原生流水线的开发者 |
| 检索 | 内置 Knowledge（托管式） | Milvus + BGE-M3（可调优） |
| 上手时间 | 约 15 分钟 | 约 1 小时 |
| 界面 | 完整 Web 应用，多用户 | 自行集成的 REST API |
无论哪种方案，要获得最高引用准确度，请使用模型页面上的 JSON 引用 system prompt——模型的强化学习正是针对该契约训练的。
下一步
- 模型页面与在线演示： OpenThai 2.0 Legal
- 发布故事： 博客文章
- 评估你的流水线： 用 NitiBench 端到端测试你的 RAG
- 需要部署支持： sale@iapp.co.th · Discord