🌟 OpenThaiGPT 1.6 72b

OpenThaiGPT 1.6 72b 是一款拥有 720 亿参数的泰语大语言模型，专为通用任务设计，并具备强大的分析思考能力。该版本在 OpenThaiGPT 1.5 的基础上进一步发展，在多项基准测试中表现更佳，尤其是在代码编写和通用语言任务方面。

下载模型

OpenThaiGPT 1.6 72b — Hugging Facehuggingface.co

openthaigpt/openthaigpt-1.6-72b-instruct

核心亮点

• 先进的泰语大语言模型，拥有 720 亿参数
• 强大的分析思考能力，泰语与英语均表现出色
• 性能显著提升，优于以往的 OpenThaiGPT 版本
• 能力均衡，涵盖数学、代码编写与通用语言任务
• 深入理解泰语及泰国文化语境

相较 1.5 的主要改进

与 OpenThaiGPT 1.5 72b 相比，1.6 版本展现出：

• 代码编写性能大幅提升，无论是泰语（LiveCodeBench-TH：32.43 对比 12.61）还是英语（LiveCodeBench：54.21 对比 46.38）
• 通用语言理解能力相当，语言准确率高达 98.2%
• 数学与代码编写任务之间的能力更加均衡

基准测试结果

基准测试	OpenThaiGPT 1.6 72b	OpenThaiGPT 1.5 7b	OpenThaiGPT 1.5 14b	OpenThaiGPT 1.5 72b	Typhoon2 Qwen2.5 7b	Typhoon2 Llama3.1 8b	Typhoon2 Llama3.1 70b	NECTEC Pathumma LLM Text 1.0.0 7b
AIME24-TH	6.67	0	0	6.67	3.33	3.33	13.33	0
AIME24	23.33	6.67	10	23.33	6.67	3.33	10	0
MATH500-TH	43.2	24.2	26.2	62	51.8	31	55.8	21.8
MATH500	82	40.4	47.4	83.2	65.4	49.6	67.4	42.8
LiveCodeBench-TH	32.43	22.52	21.62	12.61	9.91	8.11	27.03	0
LiveCodeBench	54.21	31.12	37.96	46.38	0.98	5.87	37.38	0
OpenThaiEval	78.7	64.5	71.26	77.16	64.76	56.63	72.54	65.27
语言准确率	98.2	97.6	98.4	99.4	99.4	98.6	99.8	98.6
平均分	52.34	35.88	39.11	51.34	37.78	32.06	47.91	28.56

技术报告

OpenThaiGPT 1.6 与 R1 技术报告 — arXivarxiv.org

如果 OpenThaiGPT 对您的工作有所助益，敬请按以下方式引用：

@misc{yuenyong2025openthaigpt16r1thaicentric,
      title={OpenThaiGPT 1.6 and R1: Thai-Centric Open Source and Reasoning Large Language Models}, 
      author={Sumeth Yuenyong and Thodsaporn Chay-intr and Kobkrit Viriyayudhakorn},
      year={2025},
      eprint={2504.01789},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2504.01789}, 
}

使用方法

Transformers

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "openthaigpt/openthaigpt-1.6-72b"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "กรุงเทพมหานครคืออะไร"
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=8192,
    temperature=0.6
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

vLLM

1. 安装 vLLM（vllm-project/vllm）
2. 启动服务

vllm serve openthaigpt/openthaigpt-1.6-72b --tensor-parallel-size 2

• 注意：请将 --tensor-parallel-size 2 修改为可用 GPU 卡的数量。

3. 执行推理（CURL 示例）

curl -X POST 'http://127.0.0.1:8000/v1/chat/completions' \
-H 'Content-Type: application/json' \
-d '{
  "model": "openthaigpt/openthaigpt-1.6-72b",
  "messages": [
    {
      "role": "user",
      "content": "กรุงเทพมหานครคืออะไร"
    }
  ],
  "max_tokens": 4096,
  "temperature": 0.6,
  "top_p": 0.95,
  "top_k": 40
}'

GPU 显存需求

参数量	FP 16 bits	8 bits（量化）	4 bits（量化）
72b	144 GB	72 GB	36 GB

许可协议

• 本模型可依据 Qwen2.5 许可协议的条款用于研究和商业用途。详情请参阅 LICENSE 文件。

支持与联系

• 官方网站：openthai.aieat.or.th
• Facebook 主页：OpenThaiGPT 社群
• 用于交流与支持的 Discord 服务器：discord.gg/7KDdKkBGUs
• 电子邮箱：kobkrit@iapp.co.th

Disclaimer: Provided responses are not guaranteed.