Berkeley AI Research·· 2026-07-29精选
K-Search：将 CUDA 内核优化知识迁移到 Apple Silicon 的 MLX 后端
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
Berkeley AI Research 团队扩展 K-Search 框架，新增 MLX 后端和 CUDA-to-MLX 翻译层，把 NVIDIA 内核优化知识自动迁移到 Apple Silicon。实验显示，注意力核达到原生 MLX Attention 的 0.97 倍速度，Mamba SSM 核在 M1 Max 上预填充吞吐比社区 mlx-lm 实现高约 20 倍。
推荐理由
通过结构化翻译层把 CUDA 内核优化知识迁移到 MLX，K-Search 在 Apple Silicon 上把注意力核做到原生 0.97 倍、Mamba 预填充核提升约 20 倍。
来源：Berkeley AI Research · bair.berkeley.edu