От CUDA к MLX: как K-Search переносит десятилетия опыта работы с ядрами на Apple Silicon
Apple
NVIDIA
Google/DeepMind
Исследователи из лаборатории Sky Lab Калифорнийского университета в Беркли расширили фреймворк эволюционной оптимизации ядер K-Search, добавив бэкенд MLX для Apple Silicon. Они разработали структурированный слой трансляции CUDA в MLX, который переносит десятилетия экспертного опыта оптимизации CUDA на графические процессоры Apple, достигая производительности, близкой к экспертной, на ядрах attention и Mamba SSM.
Исследователи из лаборатории UC Berkeley Sky Lab развили фреймворк K-Search, использующий искусственный интеллект для оптимизации GPU-ядер, и расширили его бэкендом для фреймворка MLX от Apple. Они разработали новый структурированный слой трансляции CUDA-to-MLX, который преобразует существующие CUDA-ядра в высококачественные ядра для Apple Silicon. Подход достиг ускорения в 0,97 раза по сравнению
Показать ещё ↓
Источник: BAIR (Berkeley AI) —
оригинал