跳到主要内容

在 LM Studio 中运行 ChindaLLM 4B

完成以下步骤后,ChindaLLM 4B 将在 LM Studio 的聊天窗口中用泰语作答,无需编写代码。

准备: Windows、macOS 或 Linux,以及可容纳 2.5 GB 下载的空间。

1. 安装 LM Studio​

从 lmstudio.ai 下载适合您系统的 LM Studio 并安装。

2. 下载模型​

打开 Mission Control(左侧的搜索图标),搜索 chinda,选择 openthai-chinda-v1.0-qwen3-4b-gguf,然后点击 Download。

3. 使用 ChatML 加载​

点击 Load Model,按电脑配置设置上下文长度和 GPU 使用量,并将 Prompt Template 设为 ChatML;使用其他模板时,模型可能无法停止回答。

选择 ChatML 提示模板

4. 保存预设​

将这些设置保存为名为 Chinda 的预设,每次与模型对话时选择该预设。

保存 Chinda 预设

5. 开始提问​

在聊天窗口底部的输入框中用泰语输入问题。

ChindaLLM 4B 用泰语解方程

故障排除

模型回答不停止。 点击 Stop,选择 Model > Eject Model,然后使用 ChatML 模板重新加载。

在提示中附上相关文本时,Chinda 4B 的回答最好;若脱离上下文询问事实(如最新新闻或统计数据),可能给出错误答案。

基准测试与许可证:ChindaLLM 4B · 模型权重:Hugging Face