跳到主要内容

⚖️ OpenThai 2.0 Legal 发布

发布于 2026 年 7 月 24 日

OpenThai 2.0 Legal — 开放权重泰语法律大模型

把泰国法律烂熟于心的法律 AI——由泰国人打造,服务泰国。

OpenThai 项目正式发布 OpenThai 2.0 Legal——一款专为泰国法律打造的开放权重大语言模型,完整权重已免费公开在 Hugging Face 上。

它面向律师、企业法务、合规团队、法律科技开发者,以及需要可靠、可溯源的泰国成文法与判例答案的政府机构。

在线试用

无需安装,直接在浏览器中与真实模型对话。

在线演示 + 完整文档iapp.co.th/openmodels/openthai2p0-legal

该页面提供覆盖三种模式(闭卷 / 引用-RAG / 法律论述)的交互式演示,以及在 2026 年 8 月 24 日前免费的托管 API(需一个免费的 iApp API 密钥)。

下载模型

OpenThai 2.0 Legal 30B-A3B — Hugging Facehuggingface.co

iapp/openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b

🌟 核心亮点

  • 开放权重,可自建部署 —— 30B 混合专家模型,每 token 仅激活约 3B 参数,采用 NVFP4(4-bit)时单张 24 GB 显存 GPU 即可运行。
  • 引用真实法条 —— 以固定 JSON 契约返回准确的法律名称与条文(มาตรา),可直接接入 RAG 流程与文书起草工具。
  • 凭记忆掌握法典 —— 提示词中不含法条时仍能回忆出正确条文:在《民商法典》上的闭卷召回率约为体量大得多的 Qwen3.6-35B 的 4 倍
  • 像律师一样写作 —— 在法律论述评测的全部四个维度上均领先 Qwen3.6-35B。
  • 扎根真实泰国法律语料 —— 训练语料为公开的泰国成文法与最高法院判决。

📊 基准测试结果

基准测试记分板:对比 Qwen3.6-35B 与 Nemotron 基座模型

评测项OpenThai 2.0 LegalQwen3.6-35BNemotron-3-30B 基座
闭卷:凭记忆掌握法律
《民商法典》(n=3,729)0.070.020.001
税法 —《税法典》(n=50)0.400.360.31
开卷:使用给定法条(RAG)
民商法,从上下文引用(n=3,729)0.990.990.98
税法 echo(n=50)0.840.840.64
税法 干扰项中选择(n=50)0.690.640.45
法律论述(泰国最高法院判例)
引用准确度(n=72)0.250.090.02
得出正确裁判结论(n=72)0.570.500.31
覆盖关键要点(n=72)0.600.550.27
行文质量(n=72)0.460.430.13

分值区间 0 到 1,越高越好。引用类指标使用 NitiBench 的 citation-F1 评分器;裁判结论、覆盖度与行文质量由 Gemini 3.1 Flash Lite 评判。所有模型均在同一套协议下端到端重跑:单次推理、关闭思考模式、引用由代码核验。

ℹ️ 表述范围

这是在可自建部署的模型中测得的最强泰国法律闭卷召回能力。仍有闭源云端 API 得分更高。

🧾 模型细节

模型名称openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b
基座模型NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning(提取文本核心;Mamba2-Transformer 混合 MoE)
参数量总计 30B,每 token 激活约 3B
上下文长度已测试 32,768(架构最高支持 256k)
语言泰语(主)、英语(推理)
精度bfloat16 safetensors,17 分片 · 单卡 24 GB 可用 NVFP4
训练栈NVIDIA NeMo(CPT/SFT 用 Megatron-Bridge,GRPO 用 NeMo-RL)
推理服务vLLM(已验证)与 NVIDIA NIM(兼容 OpenAI 接口)
许可证NVIDIA Open Model Agreement

🔬 训练方式

训练流程:30B 基座 → CPT → SFT → GRPO → 发布

在 NVIDIA NeMo 技术栈上分三个阶段:

  1. CPT(继续预训练) —— 双向演练每条法条的完整文本,使法律沉淀进权重。360,985 条训练样本,约 8 亿泰语法律 token。
  2. SFT(监督微调) —— 在固定 JSON 契约下教会有据可依的作答。16,436 条考试答案与律考论述样本。
  3. GRPO(强化学习) —— 以基准测试自身的 citation F1 作为奖励,惩罚错误或遗漏的引用。8,568 道已评分题目、约 68,500 份草稿。

🚀 开始使用

用 vLLM 在 2 张 GPU 上部署:

vllm serve iapp/openthai2.0-legal-thaillm-nemotron-3-nano-30b-a3b \
--tensor-parallel-size 2 --trust-remote-code \
--max-model-len 32768 --enforce-eager

或调用托管 API(2026 年 8 月 24 日前,凭免费 iApp API 密钥免费使用):

from openai import OpenAI
client = OpenAI(base_url="https://api.iapp.co.th/v3/llm/openthai2p0-legal",
api_key="YOUR_IAPP_API_KEY")

r = client.chat.completions.create(
model="openthai2.0-legal",
messages=[{"role": "user", "content": "ลักทรัพย์ในเวลากลางคืน ผิดมาตราใด"}],
max_tokens=1024,
)
print(r.choices[0].message.content)

🔗 配合 RAG 使用(强烈推荐)

法条在提示词里时模型表现最佳:开卷引用准确度 0.99,纯记忆只有 0.07–0.40。实际业务请务必搭配检索。

OpenThaiRAG —— 泰语原生 RAG 框架openthai.aieat.or.th/openthairag

教程:Open WebUI 与 OpenThaiRAGiapp.co.th

推荐的泰国法律数据集:WangchanX-Legal-ThaiCCL-RAGNitiBench,以及国务委员会法制办公室的权威法条原文。

⚠️ 局限与负责任使用

  • 检索质量决定结果 —— 若检索器给错条文,回答也会跟着错。
  • 区分形近条文是最难的任务 —— 这是所有模型(包括我们)得分最低的维度。
  • 知识范围 —— 训练语料为泰国成文法与税务厅裁定;小众领域与最新修订的覆盖可能较薄。
  • 必须有人工监督 —— 输出属于决策辅助,并非法律意见。请对照现行法律核验每一处引用。

🙏 致谢

OpenThai 团队(AIEAT / iApp Technology)在 NVIDIA NemotronNeMo 技术栈上打造,合作方包括 ThaiLLM 计划与 NVIDIA

评测使用 NitiBench(VISAI-AI,MIT);SFT 数据基于 WangchanX-Legal-ThaiCCL(VISTEC,MIT)构建。