跳到主要内容

开放权重

OpenThai 2.0

一个开源模型，读得懂泰文文档与手写，了解泰国，也能调用工具。

  • 参数量270亿
  • 许可Apache 2.0
  • OpenThaiEval0.842
  • 上下文256Ktokens

下载权重调用托管 API

2026 年 8 月 27 日开放权重。托管 API 按每 1K 输入 / 输出 token 0.01 / 0.02 IC 计费。

能做什么​

  • 读取泰语文档手写字符错误率 0.261，基础模型为 0.649；书籍与皇家公报页面为 0.126。
  • 回答文档问题在同一个模型中读取文档并回答相关问题，无需独立的 OCR 环节。
  • 调用工具Berkeley Function-Calling Leaderboard 得分 0.820，领先基础模型与 Typhoon 2.5。
  • 解码更快内置草稿头，H100 单流实测 75.2 对 50.1 token/秒，输出逐 token 一致。

实测​

所有模型均由 iApp 在同一测试套件、同一服务配置下测得，各自使用官方推荐的提示词与参数。测试集经 n-gram 泄漏检查与训练数据隔离，手写测试集与训练数据没有任何文本重合。完整分类别结果见 Hugging Face 仓库。

泰语知识与通用能力：OpenThai 2.0 对比其基础模型

Typhoon 2.5（30B-A3B）以相同方式测得 OpenThaiEval 0.742、IFEval-TH 0.749，OpenThai 2.0 分别为 0.842 与 0.795。

运行​

使用 iApp API key 调用：注册，然后依次选择 API Keys、Create New API Key。按每 1K 输入 / 输出 token 0.01 / 0.02 IC 计费，每个 key 限 30 次请求/分钟。完整参考：OpenThai 2.0 API。

import base64
from openai import OpenAI

client = OpenAI(base_url="https://api.iapp.co.th/v3/llm/openthai2p0",
                api_key="YOUR_IAPP_API_KEY")

# 文本 — 用泰语随意提问
r = client.chat.completions.create(
    model="openthai2.0",
    messages=[{"role": "user", "content": "อากรแสตมป์กับภาษีมูลค่าเพิ่มต่างกันอย่างไร"}],
)
print(r.choices[0].message.content)

# 视觉 — 读取泰语文档
img = base64.b64encode(open("thai_document.jpg", "rb").read()).decode()
r = client.chat.completions.create(
    model="openthai2.0",
    messages=[{"role": "user", "content": [
        {"type": "image_url", "image_url": {"url": f"data:image/jpeg;base64,{img}"}},
        {"type": "text", "text": "อ่านข้อความในเอกสารนี้ทั้งหมด"},
    ]}],
    temperature=0.0,
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
print(r.choices[0].message.content)

Hugging Face 上的其他格式​

格式适用
GGUF Q4_K_M / Q8_0llama.cpp，CPU 或消费级 GPU（17 / 29 GB），含视觉 mmproj
MLX 4-bit24 GB 以上统一内存的 Apple silicon
INT8 W8A8vLLM，约 40 GB 级 GPU
NVFP4vLLM，NVIDIA Blackwell

需要注意的设置​

设置原因
不设 max_tokens，或至少 8,192模型先推理后作答；上限 1,024 时约三分之一的回复为空。
仅图片转写时设 enable_thinking: false文本请求保持思考开启：强制关闭后，可用回答从 94% 降至 42%。
repetition_penalty: 1.05用于长篇泰语输出。托管 API 已默认应用。

限制​

  • 结构化抽取与基础模型持平：judged ThaiOCRBench 上为 0.568 对 0.570；在表格与关键字段上仍落后于专用模型。表单流水线请先在自己的文档上测试。
  • 照片中的场景文字是最弱的读取项：字符错误率 0.819，基础模型为 0.737。
  • 纯转写模型在干净印刷体与孤立手写上表现更好：Typhoon-OCR 1.5 分别为 0.014 与 0.054，但只接受固定的 OCR 提示词，无法回答问题。
  • 默认以解释型风格作答，按要求简答的达成率约 40%。需要机器解析的输出请明确指定格式，例如 "ตอบเป็น JSON เท่านั้น"（仅输出 JSON）。
  • 困难手写样本上约四分之一的字符仍会出错，无法辨认的输入可能产生编造的文字。未对泰语方言、竖排或旋转文字做评测。

税务、法律或医疗类回答，请结合权威来源检索与人工审核。法律领域请使用 OpenThai 2.0 Legal。

许可​

Apache 2.0。基于 Qwen/Qwen3.8-27B，以 LoRA（rank 64）在约 14.3 万条经核验的数据上微调；仓库另附单独的适配器（7 GB），可加载在基础模型之上提供服务。

由 iApp Technology 与泰国人工智能创业者协会共同发布，在 Siam AI Corporation 提供的 8 张 NVIDIA H100 上训练与评测。

Siam AI Corporation

引用
@misc{openthai2_2026,
  title  = {OpenThai 2.0: An Open Thai Knowledge and Document AI},
  author = {iApp Technology and Artificial Intelligence Entrepreneur Association of Thailand},
  year   = {2026},
  url    = {https://openthai.aieat.or.th}
}