一名开发者在Hacker News上发布了一项演示项目，展示如何利用关系型数据库语言从约25行SQL代码中自动推导出FlashAttention内核 。这一成果依赖于三个正处于开发阶段的SQL扩展库：xarray-sql、ddx以及einfold 。其中，xarray-sql旨在云环境中以表格形式高效表示PB级数组数…
PyTorch被称为现代深度学习的"通用语言"，其独特之处在于兼具研究灵活性和生产可扩展性的双重角色。有观点认为，深度学习框架应采用参考实现与生产实现分离的架构，即拥有用于研究的实现、用于规模化的实现，以及用于验证两者等价性的验证工具。