Штучний інтелект (ШІ) здається невидимим і легким у користуванні — достатньо ввести запит, і відповідь з’явиться за кілька секунд. Але за цим процесом стоїть складна обчислювальна система, яка обробляє мільйони токенів — фрагментів слів, перетворених у цифрові дані. Як з’ясували дослідники з Німеччини, навіть проста відповідь ШІ може залишити вуглецевий слід, більший, ніж ми звикли уявляти.
Про це розповідає TechExplore.
У новому дослідженні, проведеному командою Вищої школи прикладних наук Мюнхена, проаналізовано викиди CO₂, які виникають під час відповідей великих мовних моделей (LLM). Дослідники визначили, що процес «мислення» ШІ, тобто генерація проміжних токенів перед фінальною відповіддю, суттєво збільшує енергоспоживання. І що цікаво, інтелектуальні моделі, які міркують і пояснюють, продукують у 50 разів більше CO₂. А ніж ті, які дають короткі та лаконічні відповіді.
Лаконічність як еко-чеснота
У дослідженні було протестовано 14 моделей із різною кількістю параметрів — від 7 до 72 мільярдів. З’ясувалося, що «мислячі» моделі в середньому створювали понад 540 токенів на запитання. Тоді як «лаконічні» моделі обходились лише 38. Ця різниця безпосередньо впливала на викиди: більше токенів — більше енергії, а отже, і більше CO₂.
Проте докладні відповіді не завжди точніші. Наприклад, модель Cogito з 70 мільярдами параметрів досягла найвищої точності — 84,9%, але при цьому її викиди були утричі вищими за інші моделі того ж класу. Жодна зі «зеленіших» моделей, які залишалися нижче порогу в 500 грамів CO₂ на 1000 відповідей, не змогла перевищити точність у 80%.
Також з’ясувалося, що предмети, які потребують складного мислення, такі як: філософія, абстрактна алгебра та логіка провокують до шести разів більші викиди, ніж прості теми, як-от історія чи базова географія.
Грамотне користування — шлях до сталого ШІ
“Користувачі можуть зменшити свій вуглецевий слід, обираючи стислий формат відповіді або не залучаючи моделі з мільярдами параметрів до вирішення простих задач” – наголошують автори дослідження.
Іноді вибір моделі має вирішальне значення. Наприклад, DeepSeek R1 згенерує стільки ж CO₂ на 600 тисячах запитів, скільки спричиняє переліт Лондон — Нью-Йорк і назад. Натомість Qwen 2.5 з аналогічними характеристиками виконає утричі більше запитів з тим самим рівнем викидів.
Значення мають і технічні фактори:
- Тип серверів
- Джерело енергії (вугілля, гідро чи «зелена» енергетика)
- Ефективність коду
- Метод обробки запитів
У різних регіонах світу однакова модель може мати різний вплив на клімат.
Учасники дослідження закликають розробників та користувачів ШІ бути обачнішими. Як наголошує перший автор дослідження Максиміліан Даунер, розуміння «ціни» кожного запиту змусить людей задуматись – чи справді варто генерувати ще один зображений мем або 10 варіантів резюме для простого листа.
У майбутньому подібні дослідження можуть призвести до появи «екологічних рейтингів» моделей ШІ або позначення відповідей, які мають низький вуглецевий слід. Це не тільки дасть змогу користувачам робити усвідомлений вибір, а й стимулюватиме технологічні компанії розвивати більш енергоефективні архітектури.
