Openarch

科技人工智能

OpenArch:现代大语言模型架构的PyTorch实现库

OpenArch是一个开源PyTorch项目,旨在通过清晰易读的代码帮助学习者理解大语言模型的构建原理。该项目计划实现72个LLM架构,目前已包含GPT2、Llama3、Qwen3、Grok2.5、DeepSeek V3、Pali-Gemma等多个主流模型的实现。