Интеграцијата на вештачката интелигенција (ВИ) во нашето секојдневие претставува една од најзначајните промени во оваа деценија. Стотици милиони луѓе секојдневно користат вештачка интелигенција за помош со домашни задачи, истражувања, кодирање, за креирање слики и видеа. Секако, ова нема да биде можно без значително користење на електрична енергија.
Новата анализа на MIT Technology Review обезбедува најдетален преглед досега на тоа колку енергија троши индустријата за вештачка интелигенција. Статијата е дел од Power Hungry серијалот кој се фокусира на енергетските барања и на револуцијата на вештачката интелигенција.
Со оглед на тоа колку енергија е потребна за работа на податочните центри воопшто не е изненадување што компаниите започнуваат сами да инвестираат во електрани. Сепак, до изградбата на овие електрани ќе мора да ја користат електричната енергија која е достапна. Енергијата која е достапна најчесто не доаѓа од јаглерод-неутрални извори. Ова не ги спречува компаниите кои се залагаат за 0-емисии во инвестициите во вештачка интелигенција. Microsoft, Google, Meta, па дури и Apple најавуваат изградба на нови податочни центри.
OpenAI најави 10 нови податочни центри. Apple ќе инвестира 500 милијарди во производствени и податочни центри во следните 4 години. Само следната година Google ќе потроши 500 милијарди долари на ВИ-инфраструктура. Според процената, до 2028 година над половина од електричната енергија за податочните центри ќе се користи за вештачка интелигенција. Ова секако значи дека ќе има потреба од инвестиции во енергетскиот сектор, за да ги покријат новите барања.
Интересни податоци
ChatGPT е петта најпосетувана веб-страница во светот, веднаш по Инстаграм и пред X.Во декември, OpenAI објави дека ChatGPT добива 1 милијарда пораки секој ден.
По лансирањето на новиот генератор на слики во март, OpenAI објави дека луѓето го користат за генерирање 78 милиони слики дневно.
Во 2024 година, центрите за податоци во САД потрошиле околу 200 TW електрична енергија, приближно колку што е потребно за напојување на Тајланд за една година.
Компаниите како Meta, Amazon и Google се обврзаа тројно да го зголемат светскиот нуклеарен капацитет до 2050 година за да ги задоволат потребите на ВИ.
Причини за високата потрошувачка
Главната причина за високата потрошувачка на енергија на вештачката е потребата од моќен хардвер и континуирано работење на центрите за податоци. Потрошувачката на енергија на ВИ моделите значително варира во зависност од нивната големина, видот на генерираните резултати и многу други фактори.
Кога текст моделите се во прашање, како што се моделите Llama 3.1, помалите верзии со 8 милијарди параметри трошат околу 57 џули за одговор. Ова е енергија која е потребна за генерирање на одговорот, без ладење и дополнителни пресметки. Вкупната потрошувачка на Llama 3.1 за одговор може да достигне 114 џули за одговор. Ова не е голема потрошувачка. Според MIT ова е еквивалентно на два метри возење со електричен велосипед или 1/10 секунда работа на микробранова печка.
Големите текст модели, како Llama 3.1 405B трошат значително повеќе – просечно 3353 џули за моделот, или проценети 6706 џули вкупно по одговор. Оваа разлика е голема. Главната причина за ова е што големите модели бараат повеќе чипови (како Nvidia H100) за работа. Секако и сложеноста на барањето е важен фактор. Едноставните барања трошат значително помалку енергија од оние што бараат креативни приказни или детални идеи. На пример барањата за раскажување на вицови се супер евтини.
За моделите за генерирање слики, како Stable Diffusion 3 Medium, генерирањето слика со стандарден квалитет (1024 x 1024 пиксели) бара околу 1141 џули енергија од графичката единица (GPU), или проценети 2282 џули вкупно. Зголемувањето на квалитетот на сликата со удвојување на чекорите на дифузија речиси ја удвојува потребната енергија.
Она што изгледа неверојатно е дека генерирањето слики често троши помалку енергија од најголемите текст модели. Основната причина за ова е што обично работат со помалку параметри.
Кај моделите за генерирање видео, потрошувачката на енергија драстично се зголемува. Постара верзија на CogVideoX барала околу 109 000 џули по видео. Ова делува подносливо, но, поновата, поквалитетна верзија која креира петсекундни видеа, користи над 30 пати повеќе енергија околу 3,4 милиони џули. Ова е повеќе од 700 пати повеќе енергија од генерирање слика со висок квалитет. Потрошената енергија на овие видеа е еквивалентна со возење 60 километри со електричен велосипед. За жал, очекувањата се дека водечките генератори на видео со вештачка интелигенција ќе продолжат да ја зголемуваат оваа потрошувачка. Тоа секако не е изненадување со оглед на поголемиот квалитет и поголемата должина на видеата.
Од тренинг до секојдневна употреба
Најголем дел од електричната енергија во моментов се троши на иницијализацијата. Ова е процесот на користење на веќе обучени ВИ модели за добивање одговори или генерирање резултати. Процените се дека најголем дел од побарувачката на енергија на ВИ се (80-90% од компјутерската моќ) се користи за иницијализација.
За обука или тренинг на моделите значителна количина на електричната енергија се троши во процесот на тренинг. Сепак, самиот процес на обука на ВИ модели е исклучително скап и за него е потребно многу електрична енергија. За илустрација, обуката на GPT-4 на OpenAI чинела над 100 милиони долари и потрошила 50 гигават-часа енергија. Ова е доволно електрична енергија за напојување на Сан Франциско три дена.
Моделите се хостирани на сервери кои содржат специјални чипови, главно GPU како Nvidia H100, A100 и слично. Овие чипови трошат многу енергија за нивните напредни операции без прегревање. Голем центар за податоци често може да има над 10000 чипови. За одржување на оптимална температура, центрите за податоци користат милиони литри вода дневно во нивните системи за ладење. Ова, дополнително придонесува за вкупната потрошувачка на енергија.
За жал едно е сигурно: Компаниите кои развиваат ВИ модели (како OpenAI, Google, Anthropic) не објавуваат доволно информации за нивната потрошувачка на енергија. Ова го отежнува точното предвидување и планирање.
Уште повеќе енергија во иднина
Трендот на потрошувачка на енергија на ВИ е во нагорна линија и се очекува да продолжи да расте експоненцијално. Од 2017 година, центрите за податоци значително ја удвоија својата потрошувачка на електрична енергија, а денес 4,4% од целата енергија во САД се користи за нив. Според нови проекции, до 2028 година, повеќе од половина од електричната енергија што оди до центрите за податоци ќе се користи за ВИ, што е доволно за да се напојат 22% од сите домаќинства во САД. Ова ќе значи и зголемени емисии на јаглерод, бидејќи центрите за податоци често користат „повалкани“ форми на енергија. Идната употреба на ВИ агенти и посложени модели кои извршуваат задачи без човечки надзор ќе ја зголеми побарувачката на енергија уште повеќе.
TL;DR
Причината за високата потрошувачка на енергија на ВИ лежи во потребата од моќен хардвер и континуирано работење на центрите за податоци. Процесот на обука на ВИ модели е исклучително интензивен и скап, а потоа следи и иницијализацијата, односно користењето на веќе обучени модели, која денес претставува дури 80-90% од побарувачката на енергија за ВИ. Сето ова се одвива во центри за податоци кои се преполни со специјализирани чипови, главно графички процесорски единици (GPUs) како Nvidia H100, кои бараат огромна енергија за да работат без прегревање. Дополнително, системите за ладење во овие центри трошат милиони литри вода дневно, што исто така придонесува за вкупната потрошувачка. Голем проблем е и недостатокот на транспарентност од страна на водечките компании за ВИ (како OpenAI, Google, Anthropic), кои не обелоденуваат доволно информации за нивната потрошувачка на енергија, што го отежнува точното предвидување и планирање.Стани премиум член и доби пристап до сите содржини, специјален попуст на над 2.200 производи во ИТ маркет, верификуван профил и можност за огласување на ИТ Огласник. Плус ќе го поддржиш медиумот кој го градиме цели 16 години!
Доколку веќе имаш премиум членство, најави се тука.
