研究人员提出了持久状态机(PSM)框架,用于在FPGA上实现大语言模型的注意力操作。该框架采用INT4量化的内存单元设计,通过在Zynq-7000和UltraScale+两个硬件平台上的实现验证,展示了低功耗和高集成度的特性。