开放权重
OpenThai-SystemOne
一个只做决策、不写文字的开源泰语与英语模型:一次前向计算给出每个选项的校准概率。
- 参数量8亿
- 许可Apache 2.0
- System One 基准74.3macro
- 输出词元0
2026 年 9 月 20 日开放权重,2026 年 9 月 22 日起为 0.3 版。托管 API 预览期免费:每个 key 每分钟 100 次请求、每天 1,000 次决策。
能做什么
- 回答结构化问题从最多 255 个命名选项中选一个,在 2 到 10 级的量表上给出等级,或回答是与否。一次请求可包含多个问题。
- 给出可信的置信度每个答案都带有校准后的概率:60 类泰语意图的校准误差为 0.043,泰语新闻主题为 0.004,因 此不确定的答案可以交给人工处理。
- 毫秒级决策单张 H100 上三个问题 40 至 70 毫秒,MacBook M3 Max 上 154 毫秒,无需生成输出词元。
- 理解泰语和英语60 类泰语意图准确率 90.0%,泰语新闻主题准确率 98.1%,两者均未用于训练。
试用
实测
在 Bespoke Labs 公开的 13 子集 System One 基准上零样本测试,使用相同的子集、划分、指令和采样器;另外两个模型的数字为 2026 年 9 月 18 日公布的结果,0.3 版使用随模型发布的评测脚本测得。泰语测试集未用于训练。各子集结果和校准表见模型卡。
- System One 基准
- 泰语测试集
| 模型 | 13 个子集 macro 平均 |
|---|---|
| OpenThai-SystemOne 0.8B | 74.3 |
| Bespoke-Nimble-9B | 74.8 |
| Jev 1.13.0 | 76.0 |
在 13 个子集中的 8 个领先 9B 模型;在 PubMedQA、VitaminC 和两个摘要评分任务上落后。
| 测试集 | 类型 | 准确率 | 校准误差 |
|---|---|---|---|
| MASSIVE-th 意图(60 类) | choice | 90.0 | 0.043 |
| Prachathai67k 新闻主题 | choice | 98.1 | 0.004 |
| XNLI-th | choice | 77.1 | 0.045 |
| SIB-200 泰语主题(7 类) | choice | 77.9 | 0.084 |
| Wongnai 评论星级(1 至 5) | score | 63.5 | 0.039 |
| Wisesight 情感(4 类) | choice | 51.6 | 0.353 |
运行
- 托管 API
- curl
- 自有服务器
使用 iApp API key 调用:注册,然后进入 API Keys,点击 Create New API Key。预览期免费,每个 key 每分钟 100 次请求、每天 1,000 次决策;按决策计价的价格将另行公布。完整参考:OpenThai-SystemOne API。
import requests
r = requests.post(
"https://api.iapp.co.th/v3/store/openthai/systemone",
headers={"apikey": "YOUR_IAPP_API_KEY"},
json={
"state": {"ticket": "โดนหักเงินซ้ำสองครั้งเมื่อวานนี้ ขอเงินคืนด่วนนะครับ"},
"questions": {
"department": {"type": "choice", "instructions": "ทีมใดควรรับผิดชอบ",
"criteria": {"billing": "การเงิน/คืนเงิน", "technical": "ระบบใช้งานไม่ได้",
"sales": "สอบถามสินค้าและราคา"}},
"refund": {"type": "noul", "instructions": "ลูกค้าขอเงินคืนอย่างชัดเจนหรือไม่"},
},
},
)
answers = r.json()["answers"]
print(answers["department"]["choice"], answers["department"]["confidence"], answers["refund"]["noul"])
curl -s https://api.iapp.co.th/v3/store/openthai/systemone \
-H "Content-Type: application/json" -H "apikey: YOUR_IAPP_API_KEY" \
-d '{"state": "แอปโอนเงินใช้ไม่ได้ตั้งแต่เมื่อคืน", "questions": {"urgent": {"type": "noul", "instructions": "เรื่องนี้เร่งด่วนหรือไม่"}}}'
开放权重可在您自己的机器上提供同一个 API,地址为 POST http://localhost:8000/v1/systemone,请求体相同。
pip install "git+https://github.com/iapp-technology/openthai-systemone"
OPENTHAI_SYSTEMONE_MODEL=iapp/OpenThai-SystemOne uvicorn openthai_systemone.server:app --port 8000
如何读取答案
| 字段 | 含义 |
|---|---|
choice | 概率最高的选项;probabilities 在您给出的选项上总和为 1。 |
score | 按概率加权的等级,可为小数。 |
noul | 回答为"是"的概率。 |
confidence | 1 减去归一化熵;数值低时交给更大的模型或人工处理。 |
限制
- 0.3 版:0.8B 模型,仅支持文本,不是推理模型。
- 只会回答您给出的选项,但仍可能选错;置信度低的答案应转交处理。
- 最弱的是两个 5 级评分任务(摘要相关性 21.7、有用性 41.6)、PubMedQA(64.0)、泰语社交媒体情感(Wisesight 51.6)和 77 类英语意图(banking77 45.4)。正式泰语的礼貌判断是已知缺口,计划在 0.4 版改进。
- 每个 choice 问题最多 255 个选项,每个 score 问题 2 到 10 个等级,每次请求最多 64K 词元。
工作原理和版本历史见发布文章;实时玩游戏的演示在 GitHub 上。
许可
Apache 2.0。基于 Qwen3.5-0.8B 的文本塔构建,在约 50 亿泰语词元上继续预训练,并将语言模型头替换为 256 路决策头。训练数据、脚本和配置见 GitHub 仓库。
由 iApp Technology 与 OpenThai 社区共同构建。训练、评测和服务运行在 Siam AI Corporation 提供的 NVIDIA H100 GPU 上。