AMD GPU

科技半导体

Windows平台上AMD GPU实现CUDA兼容运行

一个开源项目通过整合ZLUDA和AMD ROCm/HIP技术栈,实现了在Windows系统中于AMD显卡上直接运行CUDA目标应用的兼容性方案。该方案已在AMD Radeon RX 9060 XT上进行了验证,支持cuBLAS、cuSPARSE、cuFFT等多个CUDA库的调用,并通过包含2,216,347个参数的P…

科技人工智能

vLLM在AMD GPU上实现投机解码 吞吐量最高提升2.87倍

vLLM项目在AMD GPU平台上成功实现了投机解码技术。这一方法通过轻量级草稿组件提出候选token,再由目标模型在单次验证中从左到右逐一接受或拒绝这些token,从而在单轮推理中提交多个token,显著提升大语言模型的推理吞吐量。

科技半导体

RADV开源Vulkan驱动成功移植至Windows平台

开发团队已将RADV(Mesa开源Vulkan驱动)从Linux移植到Windows,使AMD GPU用户能够使用开源Vulkan实现,而不必依赖专有驱动程序。该项目基于Faith Ekstrand在XDC 2024大会上的前期研究,通过反向工程WDDM2接口实现GPU命令提交功能。项目已成功运行《Counter-S…