Google утверждает, что один запрос Gemini использует примерно столько же энергии, сколько и базовый поиск

Сколько энергии требуется системе Gemini для ответа на пользовательский запрос? Google утверждает, что это меньше, чем вы можете подумать. Одной из задач генеративного ИИ является объем энергии, необходимый для работы дата-центров, которые обрабатывают запросы и генерируют текст.

Разобраться в этом непросто, но ранние отчеты показывали, что использование ChatGPT от OpenAI для поиска требует в десять раз больше энергии, чем обычный Google. Генеральный директор OpenAI, Сэм Альтман, подтвердил, что это около 0.034 ватт-часа (Вт·ч) энергии.

Исследование Google о расходе энергии

Однако, исследователи Google смогли получить более точные данные, так как имеют доступ к собственным системам компании. Исследование охватывало всю инфраструктуру, лежащую в основе ряда AI Gemini, и его результаты были представлены в недавней технической статье.

В рамках всестороннего исследования были рассмотрены:

• активная мощность AI-ускорителей;
• энергетические затраты хост-систем;
• возможности простоя машин;
• энергоемкость дата-центров.

В общей сложности, средний текстовый запрос в приложениях Gemini использует 0.24 ватт-часа энергии — показатель, который компания стремится подчеркивать как «значительно ниже многих публичных оценок». Вдобавок, один запрос производит 0.03 грамма эквивалента углекислого газа и расходует 0.26 миллилитров воды, что составляет примерно пять капель.

Сравнение с традиционным поиском Google

Как Gemini сравнивается с традиционным поиском в Google? Согласно отчетам MIT Technology Review, 58% потребления энергии при выполнении запроса происходит от AI-микросхем, 25% составляют CPU и память сервера, 8% — на охлаждение и преобразование энергии, а 10% приходится на резервное оборудование.

Для сравнения, выполнение запроса в Google требует в среднем 0.0003 кВт·ч или 0.03 Вт·ч, что указывает на то, что выполнение текстового запроса в Gemini сопоставимо — или даже более энергоэффективно, чем базовый поиск.

Недостатки исследования Google

Стоит отметить, что эти цифры относятся только к использованию модели ИИ. Обучение моделей ИИ также требует огромных объемов энергии, как и строительство и эксплуатация дата-центров, необходимых для хостинга моделей ИИ и различных рабочих нагрузок. Именно поэтому выбросы Google увеличились на 51% за последние пять лет.

Техногигант не одинок в оценке воздействия своих моделей ИИ на окружающую среду. В прошлом месяце компания Mistral представила свой инструмент аудита устойчивости, который включал данные о процессе обучения и использовании моделей в течение 18 месяцев.

Французская ИИ-компания установила, что только стадия обучения использовала такое же количество воды, как 5,100 граждан в год, и 20.4 килотонны углекислого газа. Исключив этап обучения, Google не учитывает значительную часть более широкого влияния этих систем.

Уменьшение воздействия ИИ на окружающую среду

Google утверждала, что улучшения в аппаратном и программном обеспечении помогли снизить энергозатраты систем Gemini, указав на улучшения в архитектуре модели Transformer, более эффективные алгоритмы и специализированное оборудование. На данный момент Google подтвердила, что среднее потребление энергии от текстового запроса в приложении Gemini снизилось на 33 раза, а углеродный след — на 44 раза за последний год.

Хотя воздействие одного запроса невелико по сравнению со многими повседневными действиями, огромная масштабность использования делает необходимость понижать экологическую цену ИИ крайне важной.

Выводы

Несмотря на то, что цифры могут быть лучше ожидаемых, интенсивное использование этих ИИ-инструментов, а также экологическая цена постройки дата-центров и обучения моделей, все еще представляют угрозу для энергетических сетей. Энергетические потребности дата-центров быстро растут по всему миру, и Международное энергетическое агентство предупреждает, что ИИ будет потреблять столько же энергии в год, сколько Япония к 2030 году.

Прокомментировать в Телеграм: https://t.me/n8nhow

Подписаться на канал обучения n8n: https://t.me/n8ncoaching