大语言模型预训练

用于 OpenThaiGPT 模型预训练阶段的代码与 Notebooks，由项目志愿者团队开发，并公开于项目的 GitHub Organization

OpenThaiGPT GitHub Organization — 项目源代码与 Notebooksgithub.com

关于模型开发的后续阶段，请参阅 InstructGPT 微调 与 基于人类反馈的强化学习（RLHF）