- 14,594
- 22
- 8 Ноя 2022
Узнайте, как большие языковые модели меняют правила игры в мире ИИ.
Технический директор Intel , Грег Лавендер, предложил использовать большие языковые модели (LLM) для конвертации устаревшего кода, написанного для платформы Nvidia CUDA, чтобы сделать его совместимым с другими ускорителями ИИ, такими как Gaudi2 или GPU Max от Intel.
Во время своего ключевого доклада по инновациям Лавендер выразил идею использования LLM и технологий, таких как Copilot, для обучения модели машинного обучения конвертировать код CUDA в SYCL, инструмент программирования, ориентированный на ускорители от Intel.
Одной из проблем, с которой сталкиваются Intel, AMD и другие производители ускорителей при продвижении своего оборудования для ИИ, является необходимость рефакторинга кода, написанного для среды выполнения CUDA от Nvidia, перед его использованием на альтернативных платформах.
Intel уже достиг некоторого прогресса в этом направлении, активно инвестировав в свою кроссплатформенную модель параллельного программирования oneAPI и предложение для вывода ИИ под названием OpenVINO. Лавендер отметил, что база установок oneAPI увеличилась на 85% с 2021 года, что свидетельствует о растущем интересе к платформе.
SYCL является частью усилий Intel по разрыву доминирования CUDA в экосистеме программного обеспечения ИИ. SYCL, или точнее SYCLomatic, представляет собой бесплатный слой абстракции, который поддерживает параллельный язык программирования C++ от Intel.
Хотя SYCL значительно упрощает процесс портирования кода CUDA для работы на ускорителях, не относящихся к Nvidia, для достижения максимальной производительности обычно требуется дополнительная настройка.
Лавендер предположил, что этот процесс настройки может быть автоматизирован с помощью модели LLM. "Это не просто хорошая идея, это идея, которая обязательно произойдет", - сказал Кёрли, вице-президент по программным продуктам и экосистеме в Intel.
Тем не менее, стоит отметить, что есть и другие способы написания кода, который не зависит от конкретного ускорителя. К примеру, фреймворки OpenAI's Triton или Google's Jax.
На фоне программных сред выполнения, таких как SYCL, Intel предоставляет множество ресурсов в виде программного обеспечения, поддержки и ускорителей в своем Developer Cloud для оптимизации кода для Gaudi2, GPU Max и других продуктов.
В этой неделе Linux Foundation в партнерстве с рядом компаний, включая Intel, создала Фонд Унифицированного Ускорения (UXL). Цель рабочей группы - развивать oneAPI для ускорителей от различных производителей.
По словам Лавендера, "отрасль выигрывает от открытых стандартизированных языков программирования для программирования ускорительного оборудования, к которому все могут внести свой вклад и сотрудничать без привязки к поставщику".
Технический директор Intel , Грег Лавендер, предложил использовать большие языковые модели (LLM) для конвертации устаревшего кода, написанного для платформы Nvidia CUDA, чтобы сделать его совместимым с другими ускорителями ИИ, такими как Gaudi2 или GPU Max от Intel.
Во время своего ключевого доклада по инновациям Лавендер выразил идею использования LLM и технологий, таких как Copilot, для обучения модели машинного обучения конвертировать код CUDA в SYCL, инструмент программирования, ориентированный на ускорители от Intel.
Одной из проблем, с которой сталкиваются Intel, AMD и другие производители ускорителей при продвижении своего оборудования для ИИ, является необходимость рефакторинга кода, написанного для среды выполнения CUDA от Nvidia, перед его использованием на альтернативных платформах.
Intel уже достиг некоторого прогресса в этом направлении, активно инвестировав в свою кроссплатформенную модель параллельного программирования oneAPI и предложение для вывода ИИ под названием OpenVINO. Лавендер отметил, что база установок oneAPI увеличилась на 85% с 2021 года, что свидетельствует о растущем интересе к платформе.
SYCL является частью усилий Intel по разрыву доминирования CUDA в экосистеме программного обеспечения ИИ. SYCL, или точнее SYCLomatic, представляет собой бесплатный слой абстракции, который поддерживает параллельный язык программирования C++ от Intel.
Хотя SYCL значительно упрощает процесс портирования кода CUDA для работы на ускорителях, не относящихся к Nvidia, для достижения максимальной производительности обычно требуется дополнительная настройка.
Лавендер предположил, что этот процесс настройки может быть автоматизирован с помощью модели LLM. "Это не просто хорошая идея, это идея, которая обязательно произойдет", - сказал Кёрли, вице-президент по программным продуктам и экосистеме в Intel.
Тем не менее, стоит отметить, что есть и другие способы написания кода, который не зависит от конкретного ускорителя. К примеру, фреймворки OpenAI's Triton или Google's Jax.
На фоне программных сред выполнения, таких как SYCL, Intel предоставляет множество ресурсов в виде программного обеспечения, поддержки и ускорителей в своем Developer Cloud для оптимизации кода для Gaudi2, GPU Max и других продуктов.
В этой неделе Linux Foundation в партнерстве с рядом компаний, включая Intel, создала Фонд Унифицированного Ускорения (UXL). Цель рабочей группы - развивать oneAPI для ускорителей от различных производителей.
По словам Лавендера, "отрасль выигрывает от открытых стандартизированных языков программирования для программирования ускорительного оборудования, к которому все могут внести свой вклад и сотрудничать без привязки к поставщику".
- Источник новости
- www.securitylab.ru
