Microsoft разработала инструменты для взлома доминирования NVIDIA CUDA

Microsoft тайно разработала набор программных инструментов, призванных разрушить "крепость" NVIDIA CUDA — программную экосистему, которая обеспечивает доминирование компании в сфере ИИ. Об этом сообщил высокопоставленный сотрудник Microsoft.

Главная цель Microsoft — снизить затраты на ИИ-инфраструктуру. Компания наблюдает огромный рост спроса на задачи логического вывода ИИ, а не только на "обучение" моделей. Для этих задач дорогие ускорители NVIDIA не всегда являются самым экономически эффективным решением.

Разработанный инструментарий позволяет конвертировать код, написанный для NVIDIA CUDA, для его запуска на конкурирующих чипах, в частности, на ИИ-ускорителях AMD Instinct (MI300X, MI400X и MI450X). По сути, это ретранслятор API CUDA в ROCm (программную платформу AMD).

Будут ли эти решения доступны всем желающим в будущем — неизвестно, но у нас уже есть открытый аналог ZLUDA.