Новости Разработчик создал инструмент для оценки энергопотребления ИИ

[CryptoWatcher]

---

Разработчик Hugging Face Жюльен Делаванде Для просмотра ссылки Войди или Зарегистрируйся инструмент AI Energy Score, который помогает определить количество затрачиваемой электроэнергии на запрос к искусственному интеллекту.

Сервис отображает потребление энергии графическими процессорами в киловаттах или джоулях для каждого отправленного сообщения. Для удобства он добавляет эквиваленты в других исчислениях вроде процента заряда батареи телефона, секунд работы микроволновой печи или времени функционирования светодиодных ламп.

---

https://twitter.com/i/web/status/1914777201624465485

---

«Даже небольшая экономия энергии может распространяться на миллионы запросов — выбор модели или длина вывода могут привести к значительному воздействию на окружающую среду», — говорится на странице инструмента.

Сервис работает с Qwen 2.5 7B, Llama, Gemma и Mistral.

Инструмент оценивает энергопотребление сообщений в реальном времени. Если попросить Llama 3.3 70B написать обычное письмо, на это уйдет примерно 0,1841 Вт·ч — эквивалент работы микроволновки в течение 0,12 секунд или тостера в течение 0,02 секунд.

Делаванде подчеркивает, что результаты не досконально точные, однако они напоминают, что все, в том числе чат-боты, имеет свою цену.

«Благодаря таким проектам, как AI Energy Score, и более широким исследованиям энергетического следа искусственного интеллекта мы добиваемся прозрачности в сообществе разработчиков с открытым исходным кодом. В один прекрасный день энергопотребление станет таким же ясным, как этикетки на продуктах питания», — отметил разработчик.

Напомним, в апреле CEO OpenAI Сэм Альтман Для просмотра ссылки Войди или Зарегистрируйся, что компания потратила десятки миллионов долларов на ответы пользователей, которые писали «пожалуйста» и «спасибо».

В августе 2024 года исследование Bitcoin Policy Institute Для просмотра ссылки Войди или Зарегистрируйся, что объем потребляемой энергии ИИ, вероятно, уже превысил затраты на майнинг биткоина.

В декабре Google и Microsoft Для просмотра ссылки Войди или Зарегистрируйся «озеленение» процесса получения энергии и системы охлаждения дата-центров.