OpenArch是一个开源PyTorch项目,旨在通过清晰易读的代码帮助学习者理解大语言模型的构建原理。该项目计划实现72个LLM架构,目前已包含GPT2、Llama3、Qwen3、Grok2.5、DeepSeek V3、Pali-Gemma等多个主流模型的实现。