Кратък отговор: Изкуственият интелект влияе върху околната среда главно чрез потреблението на електроенергия в центровете за данни (както обучение, така и ежедневни изводи), наред с водата за охлаждане, плюс въплътените въздействия от производството на хардуер и електронните отпадъци. Ако употребата се мащабира до милиарди заявки, изводите могат да надделеят над обучението; ако мрежите са по-чисти и системите са ефективни, въздействията намаляват, докато ползите могат да се увеличат.
Ключови изводи:
Електричество: Проследяване на използването на изчислителни ресурси; емисиите намаляват, когато работните натоварвания работят на по-чисти мрежи.
Вода: Изборът на охлаждане променя въздействието; методите на водна основа са най-важни в районите с ограничен достъп.
Хардуер: Чиповете и сървърите носят значително въздействие върху околната среда; удължават живота им и дават приоритет на обновяването.
Възстановяване: Ефективността може да повиши общото търсене; измервайте резултатите, не само печалбите за всяка задача.
Оперативни лостове: Правилно оразмеряване на модели, оптимизиране на изводите и прозрачно отчитане на показатели за всяка заявка.
Статии, които може да ви харесат след тази:
🔗 Вреден ли е изкуственият интелект за околната среда?
Разгледайте въглеродния отпечатък на изкуствения интелект, потреблението на електроенергия и изискванията на центровете за данни.
🔗 Защо изкуственият интелект е вреден за обществото?
Обърнете внимание на предразсъдъците, прекъсването на работните места, дезинформацията и разширяващото се социално неравенство.
🔗 Защо изкуственият интелект е лош? Тъмната страна на изкуствения интелект
Разберете рискове като наблюдение, манипулация и загуба на човешки контрол.
🔗 Дали изкуственият интелект е отишъл твърде далеч?
Дебати за етиката, регулациите и къде иновациите трябва да поставят граници.
Как изкуственият интелект влияе на околната среда: бърз преглед ⚡🌱
Ако си спомняте само няколко точки, направете ги следните:
-
Изкуственият интелект използва енергия - най-вече в центрове за данни, работещи с графични процесори/процесори, за обучение и за ежедневно „извеждане“ (използвайки модела). IEA: Енергия и изкуствен интелект
-
Енергията може да означава емисии - в зависимост от местния мрежов микс и договорите за електроенергия. МАЕ: Енергетика и изкуствен интелект
-
Изкуственият интелект може да използва изненадващо количество вода - главно за охлаждане в някои центрове за данни. Li et al. (2023): Да направим изкуствения интелект по-малко „жаден“ (PDF) US DOE FEMP: Възможности за ефективност на охлаждащата вода за федерални центрове за данни
-
Изкуственият интелект зависи от физически неща - чипове, сървъри, мрежово оборудване, батерии, сгради... което означава добив, производство, доставка и в крайна сметка електронни отпадъци. US EPA: Полупроводникова индустрия ITU: Глобалният монитор на електронните отпадъци 2024
-
Изкуственият интелект може да намали въздействието върху околната среда и другаде - чрез оптимизиране на логистиката, откриване на течове, подобряване на ефективността, ускоряване на изследванията и намаляване на разточителността на системите. МАЕ: Изкуствен интелект за енергийна оптимизация и иновации
И тогава е частта, която хората забравят: мащабът. Една заявка към ИИ може да е малка, но милиарди от тях са съвсем различно нещо... като мъничка снежна топка, която някак си се превръща в лавина с размерите на диван. (Тази метафора е малко неточна, но я разбирате.) IEA: Енергия и ИИ
Екологичният отпечатък на изкуствения интелект не е едно нещо - той е комплекс от 🧱🌎
Когато хората спорят за изкуствения интелект и устойчивостта, те често пренебрегват едни други, защото посочват различни нива:
1) Изчислете електричеството
-
Обучението на големи модели може да изисква големи клъстери, работещи интензивно за дълги периоди. МАЕ: Енергетика и изкуствен интелект
-
Изводът (ежедневната употреба) може да се превърне в по-голям отпечатък с течение на времето, защото се случва постоянно и навсякъде. МАЕ: Енергия и изкуствен интелект
2) Разходи за център за данни
-
Охлаждане, загуби в електроразпределението, резервни системи, мрежово оборудване. LBNL (2024): Доклад за потреблението на енергия в центрове за данни в Съединените щати (PDF)
-
Едно и също изчисление може да има различно въздействие на място в зависимост от ефективността. Зелената мрежа: PUE – цялостен преглед на метриката
3) Вода и топлина
-
Много съоръжения използват вода директно или индиректно за управление на топлината. US DOE FEMP: Възможности за ефективност на охлаждащата вода за федерални центрове за данни Li et al. (2023): Да направим изкуствения интелект по-малко „жаден“ (PDF)
-
Отпадната топлина може да бъде регенерирана или просто... да излезе като горещ въздух. (Не е идеално.)
4) Верига за доставки на хардуер
-
Добив и рафиниране на материали.
-
Производство на чипове и сървъри (енергоемко). US EPA: Полупроводникова индустрия imec: Намаляване на въздействието върху околната среда при производството на чипове
-
Доставка, опаковане, подобрения, замени.
5) Поведение и ребаунд ефекти
-
Изкуственият интелект прави задачите по-евтини и лесни, така че хората да изпълняват повече от тях. ОИСР (2012): Многобройните ползи от подобренията в енергийната ефективност (PDF)
-
Подобренията в ефективността могат да бъдат погълнати от увеличеното търсене. Това е частта, която ме кара да въздъхна леко. ОИСР (2012): Многобройните ползи от подобренията в енергийната ефективност (PDF)
Така че, когато някой попита как изкуственият интелект влияе на околната среда, директният отговор е: зависи от това кой слой измервате и какво означава „ИИ“ в тази ситуация.
Обучение срещу извод: разликата, която променя всичко 🧠⚙️
Хората обичат да говорят за обучение, защото звучи драматично - „един модел използва X енергия“. Но изводът е тихият гигант. IEA: Енергия и изкуствен интелект
Обучение (голямото изграждане)
Обучението е като построяването на фабрика. Плащате първоначалната цена: големи изчисления, дълги времена на изпълнение, много пробни и грешни изпълнения (и да, много итерации от типа „упс, не се получи, опитайте отново“). Обучението може да бъде оптимизирано, но все пак може да бъде значително. IEA: Енергия и изкуствен интелект
Извод (ежедневна употреба)
Изводът е като фабрика, работеща всеки ден, за всички, в голям мащаб:
-
Чатботове, отговарящи на въпроси
-
Генериране на изображения
-
Класиране в търсенето
-
Препоръки
-
Преобразуване на реч в текст
-
Разкриване на измами
-
Копилоти в документи и инструменти за кодиране
Дори ако всяка заявка е сравнително малка, обемът на използване може да засенчи обучението. Това е класическата ситуация „една сламка е нищо, милион сламки са проблем“. IEA: Енергия и изкуствен интелект
Една малка забележка - някои задачи, свързани с изкуствен интелект, са много по-тежки от други. Генерирането на изображения или дълги видеоклипове е по-енергоемко от класификацията на кратки текстове. Така че групирането на „ИИ“ в една категория е малко като сравняването на велосипед с товарен кораб и наричането и на двата „транспорт“. IEA: Енергия и ИИ
Центрове за данни: захранване, охлаждане и онази тиха история за водата 💧🏢
Центровете за данни не са нещо ново, но изкуственият интелект променя интензивността. Високопроизводителните ускорители могат да консумират много енергия в тесни пространства, което се превръща в топлина, която трябва да се управлява. LBNL (2024): Доклад за потреблението на енергия в центровете за данни на Съединените щати (PDF) IEA: Енергия и изкуствен интелект
Основи на охлаждането (опростено, но практично)
-
Въздушно охлаждане: вентилатори, охладен въздух, проектиране за горещ/студен коридор. US DOE FEMP: Енергийна ефективност в центрове за данни
-
Течно охлаждане: по-ефективно в гъсти конфигурации, но може да включва различна инфраструктура. ASHRAE (TC 9.9): Поява и разширяване на течното охлаждане в масовите центрове за данни (PDF)
-
Изпарително охлаждане: може да намали потреблението на електроенергия в някои климатични условия, но често увеличава потреблението на вода. US DOE FEMP: Възможности за ефективност на охлаждащата вода за федерални центрове за данни
Това е компромисът: понякога можете да намалите консумацията на електроенергия, като се разчитате на охлаждане на водна основа. В зависимост от местния недостиг на вода, това може да е добре... или може да е истински проблем. Li et al. (2023): Да направим изкуствения интелект по-малко „жаден“ (PDF)
Също така, екологичният отпечатък зависи силно от:
-
Къде се намира центърът за данни (емисиите от мрежата варират) API за въглероден интензитет (GB) IEA: Енергия и изкуствен интелект
-
Колко ефективно се управлява (използването е от голямо значение) Зелената мрежа: PUE - Цялостно изследване на метриката
-
Дали отпадната топлина се използва повторно
-
Възможности за снабдяване с енергия (възобновяеми енергийни източници, дългосрочни договори и др.)
Честно казано: в публичния разговор „център за данни“ често се третира като черна кутия. Това не е зло, не е магия. Това е инфраструктура. Държи се като инфраструктура.
Чипове и хардуер: частта, която хората пропускат, защото е по-малко секси 🪨🔧
Изкуственият интелект живее на базата на хардуер. Хардуерът има жизнен цикъл, а въздействието върху него може да бъде голямо. US EPA: Полупроводникова индустрия ITU: Глобалният монитор за електронни отпадъци 2024
Къде се проявява въздействието върху околната среда
-
Добив на материали: добив и рафиниране на метали и редки материали.
-
Производство: производството на полупроводници е сложно и енергоемко. US EPA: Полупроводникова индустрия imec: Намаляване на въздействието върху околната среда при производството на чипове
-
Транспорт: глобалните вериги за доставки превозват части навсякъде.
-
Кратки цикли на подмяна: бързите подобрения могат да увеличат електронните отпадъци и въплътените емисии. ITU: Глобалният монитор на електронните отпадъци 2024
Електронни отпадъци и „напълно здрави“ сървъри
Голяма част от вредите за околната среда не произтичат от едно съществуващо устройство, а от преждевременната му подмяна, защото вече не е рентабилна. Изкуството на изкуствения интелект ускорява това, защото скоковете в производителността могат да бъдат големи. Изкушението за обновяване на хардуера е реално. ITU: Глобалният монитор на електронните отпадъци 2024
Практически момент: удължаването на живота на хардуера, подобряването на използването и обновяването могат да имат същото значение, както и всяка сложна промяна на модела. Понякога най-зеленият графичен процесор е този, който не купувате. (Това звучи като слоган, но е и... донякъде вярно.)
Как изкуственият интелект влияе на околната среда: цикълът на поведение „хората забравят това“ 🔁😬
Ето и неловката социална част: изкуственият интелект улеснява нещата, така че хората правят повече неща. Това може да е чудесно - по-голяма производителност, повече креативност, по-голям достъп. Но може да означава и по-голямо общо използване на ресурсите. ОИСР (2012): Многобройните ползи от подобренията в енергийната ефективност (PDF)
Примери:
-
Ако изкуственият интелект направи генерирането на видео евтино, хората ще генерират повече видео.
-
Ако изкуственият интелект направи рекламата по-ефективна, ще се показват повече реклами и ще се завъртят повече цикли на ангажираност.
-
Ако изкуственият интелект направи логистиката на доставките по-ефективна, електронната търговия може да се мащабира още по-силно.
Това не е причина за паника. Това е причина да се измерват резултатите, не само ефективността.
Една несъвършена, но забавна метафора: Ефективността на изкуствения интелект е като да дадеш на тийнейджър по-голям хладилник - да, съхранението на храна се подобрява, но някак си хладилникът отново е празен след един ден. Не е перфектна метафора, но... виждали сте го да се случва 😅
Положителното: Изкуственият интелект може наистина да помогне на околната среда (когато е насочен правилно) 🌿✨
А сега за частта, която се подценява: изкуственият интелект може да намали емисиите и отпадъците в съществуващи системи, които са... честно казано, неелегантни. МАЕ: ИИ за енергийна оптимизация и иновации
Области, в които изкуственият интелект може да помогне
-
Енергийни мрежи: прогнозиране на натоварването, реакция на търсенето, интегриране на променливи възобновяеми енергийни източници. МАЕ: Изкуствен интелект за енергийна оптимизация и иновации
-
Сгради: по-интелигентно управление на ОВК, прогнозна поддръжка, потребление на енергия въз основа на заетостта. МАЕ: Дигитализация
-
Транспорт: оптимизация на маршрути, управление на автопарка, намаляване на празните километри. МАЕ: Изкуствен интелект за енергийна оптимизация и иновации
-
Производство: откриване на дефекти, оптимизиране на процеса, намаляване на брака.
-
Земеделие: прецизно напояване, откриване на вредители, оптимизиране на торовете.
-
Мониторинг на околната среда: откриване на изтичане на метан, проследяване на сигнали за обезлесяване, картографиране на моделите на биоразнообразие. UNEP: Как работи MARS Global Forest Watch: Сигнали за обезлесяване GLAD Институтът Алън Тюринг: Изкуствен интелект и автономни системи за оценка на биоразнообразието
-
Кръгова икономика: по-добро сортиране и идентифициране в потоците за рециклиране.
Важен нюанс: „Помагането“ на изкуствения интелект не компенсира автоматично неговия отпечатък. Зависи от това дали изкуственият интелект е реално внедрен, реално използван и дали води до реални намаления, а не само до по-добри табла за управление. Но да, потенциалът е реален. МАЕ: Изкуствен интелект за енергийна оптимизация и иновации
Какво прави една добра версия на екологичен изкуствен интелект? ✅🌍
Това е разделът „добре, какво да правим“. Една добра екологично отговорна система за изкуствен интелект обикновено има:
-
Ясна стойност на случая на употреба: Ако моделът не променя решенията или резултатите, това е просто сложна изчислителна задача.
-
Вградени измервания: Енергия, оценки на въглеродните емисии, използване и показатели за ефективност, проследявани като всеки друг ключов ключов показатели за ефективност (KPI). CodeCarbon: Методология
-
Модели с правилния размер: Използвайте по-малки модели, когато по-малките модели работят. Не е морален провал да бъдеш ефективен.
-
Ефективен дизайн на извода: кеширане, пакетиране, квантуване, извличане и добри модели на подсказване. Gholami et al. (2021): Преглед на методите за квантуване (PDF) Lewis et al. (2020): Генериране чрез допълнено извличане
-
Осъзнаване на хардуера и местоположението: изпълнявайте работни натоварвания, където мрежата е по-чиста, а инфраструктурата е ефективна (когато е възможно). API за въглероден интензитет (GB)
-
По-дълъг живот на хардуера: максимално използване, повторна употреба и обновяване. ITU: Глобалният монитор на електронните отпадъци 2024
-
Директно отразяване: избягвайте език, който е „зелено“ и неясни твърдения като „екологичен изкуствен интелект“ без цифри.
Ако все още следите как изкуственият интелект влияе на околната среда, това е моментът, в който отговорът престава да бъде философски и става оперативен: той ѝ влияе въз основа на вашите избори.
Сравнителна таблица: инструменти и подходи, които действително намаляват въздействието 🧰⚡
По-долу е дадена бърза, практична таблица. Тя не е перфектна и да, някои клетки са малко категорични... защото така работи истинският избор на инструменти.
| Инструмент / Подход | Аудитория | Цена | Защо работи | |
|---|---|---|---|---|
| Библиотеки за проследяване на въглерод/енергия (оценители по време на изпълнение) | Екипи за машинно обучение | Свободно | Дава видимост - което е половината от битката, дори ако оценките са малко неясни… | CodeCarbon |
| Мониторинг на захранването на хардуера (GPU/CPU телеметрия) | Инфра + машинно обучение | Безплатно | Измерва реалната консумация; подходящ за сравнителни тестове (не е лъскав, но е златен) | |
| Моделна дестилация | Инженери по машинно обучение | Безплатно (разходи от време 😵) | По-малките модели на студенти често съпоставят представянето с много по-ниски разходи за извод | Хинтън и др. (2015): Дестилиране на знанието в невронна мрежа |
| Квантиране (извод с по-ниска точност) | ML + продукт | Безплатно | Намалява латентността и потреблението на енергия; понякога с малки компромиси с качеството, понякога без никакви | Голами и др. (2021): Преглед на методите за квантуване (PDF) |
| Кеширане + пакетно извеждане | Продукт + платформа | Безплатно | Намалява излишните изчисления; особено удобно за повтарящи се подкани или подобни заявки | |
| Генериране с добавено извличане (RAG) | Екипи за приложения | Смесени | Прехвърля „паметта“ към извличане; може да намали нуждата от огромни контекстни прозорци | Луис и др. (2020): Генериране чрез допълнено извличане |
| Планиране на работното натоварване по въглероден интензитет | Инфраструктура/операции | Смесени | Прехвърля гъвкави работни места към по-чисти електрически прозорци - изисква обаче координация | API за въглероден интензитет (GB) |
| Фокус върху ефективността на центъра за данни (използване, консолидация) | ИТ лидерство | Платено (обикновено) | Най-малко бляскавият лост, но често най-големият - спрете да използвате полупразни системи | Зелената мрежа: PUE |
| Проекти за повторно използване на топлина | Съоръжения | Зависи | Превръща отпадната топлина в стойност; не винаги е възможно, но когато е възможно, е някак красиво | |
| „Имаме ли изобщо нужда от изкуствен интелект тук?“ проверете | Всеки | Безплатно | Предотвратява безсмислените изчисления. Най-мощната оптимизация е да кажеш „не“ (понякога) |
Забелязахте ли какво липсва? „Купете си вълшебен зелен стикер.“ Такъв не съществува 😬
Практическа наръчник: намаляване на въздействието на изкуствения интелект, без да се унищожава продуктът 🛠️🌱
Ако изграждате или купувате системи с изкуствен интелект, ето една реалистична последователност, която работи на практика:
Стъпка 1: Започнете с измерване
-
Проследявайте потреблението на енергия или го оценявайте последователно. CodeCarbon: Методология
-
Измервайте за всяко тренировъчно изпълнение и за всяка заявка за извод.
-
Следете използването - неизползваните ресурси имат свойството да се крият на видно място. Зелената мрежа: PUE
Стъпка 2: Оразмерете модела според заданието
-
Използвайте по-малки модели за класификация, извличане, маршрутизиране.
-
Запазете тежкия модел за твърдите калъфи.
-
Помислете за „каскада от модели“: първо малък модел, по-голям модел само ако е необходимо.
Стъпка 3: Оптимизиране на изводите (тук мащабът е от решаващо значение)
-
Кеширане: съхраняване на отговори за повтарящи се заявки (с внимателен контрол на поверителността).
-
Пакетиране: групиране на заявки за подобряване на ефективността на хардуера.
-
По-кратки изходни материали: дългите изходни материали струват повече - понякога есето не е необходимо.
-
Дисциплина на подканите: неподредените подкани създават по-дълги изчислителни пътища… и да, повече токени.
Стъпка 4: Подобряване на хигиената на данните
Това звучи несвързано, но не е:
-
По-чистите набори от данни могат да намалят отпадането на преобучение.
-
По-малко шум означава по-малко експерименти и по-малко загубени изпълнения.
Стъпка 5: Отнасяйте се към хардуера като към актив, а не като към нещо за еднократна употреба
-
Удължете циклите на обновяване, където е възможно. ITU: Глобалният монитор на електронните отпадъци 2024
-
Използвайте повторно по-стар хардуер за по-леки натоварвания.
-
Избягвайте осигуряването „винаги при пикови натоварвания“.
Стъпка 6: Изберете разумно внедряване
-
Изпълнявайте гъвкави задачи, където енергията е по-чиста, ако е възможно. API за въглероден интензитет (GB)
-
Намалете ненужното репликация.
-
Поддържайте реалистични цели за латентност (ултраниската латентност може да доведе до неефективни настройки за постоянно включени устройства).
И да… понякога най-добрата стъпка е просто: не стартирайте автоматично най-големия модел за всяко едно потребителско действие. Този навик е екологичният еквивалент на това да оставяте всяка лампа включена, защото ходенето до ключа е досадно.
Често срещани митове (и кое е по-близо до истината) 🧠🧯
Мит: „Изкуственият интелект винаги е по-лош от традиционния софтуер“
Истина: Изкуственият интелект може да изисква повече изчисления, но може също така да замени неефективните ръчни процеси, да намали отпадъците и да оптимизира системите. Той е ситуационен. МАЕ: Изкуствен интелект за енергийна оптимизация и иновации
Мит: „Обучението е единственият проблем“
Истина: Мащабните изводи могат да доминират с течение на времето. Ако употребата на вашия продукт се увеличи драстично, това се превръща в основната история. МАЕ: Енергия и изкуствен интелект
Мит: „Възобновяемите енергийни източници решават проблема мигновено“
Истина: По-чистото електричество помага много, но не премахва хардуерния отпечатък, потреблението на вода или ефектите на отскок. Все пак е важно. МАЕ: Енергия и изкуствен интелект
Мит: „Ако е ефикасно, значи е устойчиво“
Истина: Ефективността без контрол на търсенето все още може да увеличи общото въздействие. Това е капанът на отскока. ОИСР (2012): Многобройните ползи от подобренията в енергийната ефективност (PDF)
Управление, прозрачност и не театрализиране 🧾🌍
Ако сте компания, това е мястото, където се изгражда или губи доверие.
-
Отчитайте смислени показатели: за заявка, за потребител, за задача - не просто големи, плашещи суми. LBNL (2024): Доклад за потреблението на енергия в центрове за данни на Съединените щати (PDF)
-
Избягвайте неясни твърдения: „зеленият изкуствен интелект“ не означава нищо без числа и граници.
-
Помислете за водата и местното въздействие: въглеродът не е единствената променлива на околната среда. Li et al. (2023): Да направим изкуствения интелект по-малко „жаден“ (PDF)
-
Дизайн за сдържаност: по-кратки отговори по подразбиране, по-евтини режими, „еко“ настройки, които действително правят нещо.
-
Помислете за справедливостта: интензивното използване на ресурси на места с оскъдна вода или крехки мрежи има последици отвъд вашата електронна таблица. US DOE FEMP: Възможности за ефективност на охлаждащата вода за федерални центрове за данни
Това е моментът, в който хората въртят очи, но е важно. Отговорната технология не е само въпрос на умно инженерство. Тя е и въпрос на това да не се преструваме, че компромиси не съществуват.
Заключително резюме: кратко резюме на това как изкуственият интелект влияе върху околната среда 🌎✅
Влиянието на ИИ върху околната среда се свежда до допълнително натоварване: електричество, вода (понякога) и търсене на хардуер. МАЕ: Енергетика и ИИ Li et al. (2023): Да направим ИИ по-малко „жаден“ (PDF) Той също така предлага мощни инструменти за намаляване на емисиите и отпадъците в други сектори. МАЕ: ИИ за енергийна оптимизация и иновации Крайният резултат зависи от мащаба, чистотата на мрежата, избора на ефективност и дали ИИ решава реални проблеми или просто генерира новост заради самата новост. МАЕ: Енергетика и ИИ
Ако искате най-простото практично решение за вкъщи:
-
Мярка.
-
Правилен размер.
-
Оптимизирайте извода.
-
Удължете живота на хардуера.
-
Бъдете откровени относно компромисите.
И ако се чувствате претоварени, ето една успокояваща истина: малките оперативни решения, повторени хиляда пъти, обикновено са по-ефективни от едно голямо твърдение за устойчивост. Нещо като миенето на зъбите. Не е бляскаво, но работи…
Пример от реалния свят: Намаляване на отпечатъка на асистент за обслужване на клиенти с изкуствен интелект 🌱🎧
Сценарий
Представете си, че малък онлайн търговец на дребно иска да използва изкуствен интелект, за да отговаря на често задавани въпроси от клиентите относно срокове за доставка, връщане, повредени пратки и размери на продуктите.
Първата версия е разточителна: всяко клиентско съобщение отива директно към най-големия наличен модел, дори когато въпросът е прост. Асистентът също така пише прекалено дълги отговори, повтаря текста на политиката и отговаря на едни и същи въпроси хиляди пъти, вместо да използва повторно одобрени отговори.
По-разумната настройка не е „никакъв изкуствен интелект“. Това е изкуствен интелект с правилния размер: използвайте по-леки инструменти за лесни задачи, запазете по-големия модел за сложни случаи и измервайте въздействието за всеки разрешен заявка.
От какво се нуждае асистентът
Екипът ще подготви:
Актуална политика за връщане
Правила за доставка по регион
Бележки за размерите на продукта
Кратка политика за ескалация на възстановявания на суми, оплаквания и правни въпроси
Списък с 50 често задавани въпроса от клиенти
Одобрени кратки отговори за повтарящи се въпроси
Прост лист за проследяване с: тип заявка, използван модел, дължина на отговора, дали е била необходима ескалация и дали отговорът е преминал човешка проверка
Примерна инструкция
Използвайте първо най-малкия подходящ модел или отговор, базиран на правила. Използвайте по-големия модел само когато въпросът на клиента е неясен, емоционален, съдържа множество проблеми или изисква комбиниране на информация от повече от една политика. Поддържайте отговорите под 120 думи, освен ако клиентът не поиска подробности. Ако увереността е ниска, задайте един уточняващ въпрос или ескалирайте до човек. Не измисляйте дати на доставка, одобрения за възстановяване на суми или изключения от политиката.
Как да го тествам
Изпълнете тест с 50 билета преди стартирането:
10 въпроса за доставка
10 въпроса за връщане
10 въпроса за размера на продукта
10 рекламации за повредени артикули
10 противоречиви или неясни съобщения
За всеки отговор, проверете:
Използвана ли е правилната политика?
Можеше ли кеширан одобрен отговор да го реши?
Необходим ли беше по-големият модел?
Асистентът отговори ли кратко?
Някой отговор измисли ли информация?
Деликатни случаи ескалираха ли правилно?
Разумен резултат би бил нещо като: 95% точност на политиката, 0 измислени обещания за възстановяване на суми и 100% ескалация на оплаквания, свързани със спорове за плащания или правни заплахи.
Резултат
Илюстративен резултат, базиран на времеви анализ и броене на тест с 50 билета преди и след оптимизация:
Преди оптимизацията, всичките 50 билета използваха по-големия модел, със средна дължина на отговора от 210 думи.
След оптимизация, 31 билета използваха кеширани одобрени отговори, 14 използваха по-малък модел и само 5 използваха по-големия модел.
Средната дължина на отговора е спаднала от 210 думи на 92 думи.
Времето за преглед от човек спадна от 4 часа и 10 минути на 1 час и 25 минути.
Екипът откри 2 неправилни отговора на въпросите, свързани с правилата, при първото тестово изпълнение, след което 0 неправилни отговора на въпросите, свързани с правилата, след актуализиране на изходните документи и добавяне на по-ясни правила за ескалация.
Това не доказва, че асистентът е „зелен“. Той просто показва вида измерване, което прави твърдението за екологичност проверимо: по-малко извиквания на тежки модели, по-кратки резултати, по-малко повтарящи се генерации и по-малко предотвратими цикли на преглед.
Какво може да се обърка
Асистентът все още може да хаби изчислителни ресурси, ако всяко неясно съобщение се пренасочва към най-големия модел „за всеки случай“.
Кешираните отговори могат да станат рискови, ако политиката за връщане се промени и никой не ги актуализира.
Кратките отговори могат да разочароват клиентите, ако премахват важни подробности.
Твърденията за въглеродни или енергийни загуби могат да се превърнат в „зелена реклама“, ако компанията отчита само процентни спестявания, без да показва метода на измерване.
Най-голямата грешка е да се третира изборът на модел като единствен лост. На практика, по-екологичният работен процес идва от маршрутизация, кеширане, по-кратки резултати, по-добри изходни документи и човешки преглед за случаи с висок риск.
Практично извлечение
Системата с изкуствен интелект с по-малко въздействие обикновено не е най-модерната. Тя е тази, която измерва реалното използване, избягва ненужни тежки изводи, използва повторно одобрени отговори, където е възможно, и все пак дава на хората контрол върху важните решения.
ЧЗВ
Как изкуственият интелект влияе на околната среда в ежедневната употреба, не само в големите изследователски лаборатории?
По-голямата част от въздействието на изкуствения интелект идва от електричеството, което захранва центровете за данни, работещи с графични процесори и централни процесори, както по време на обучение, така и по време на ежедневни „изводи“. Една единствена заявка може да е скромна, но в голям мащаб тези заявки се натрупват бързо. Въздействието зависи и от това къде се намира центърът за данни, колко чиста е локалната мрежа и колко ефективно се управлява инфраструктурата.
По-лошо ли е за околната среда обучението на ИИ модел от използването му (извод)?
Обучението може да бъде голям, предварителен тласък на изчисления, но изводът може да се превърне в по-голям фактор с течение на времето, тъй като работи постоянно и в огромен мащаб. Ако даден инструмент се използва от милиони хора всеки ден, повтарящите се заявки могат да надхвърлят еднократните разходи за обучение. Ето защо оптимизацията често се концентрира върху ефективността на извода.
Защо изкуственият интелект използва вода и винаги ли това е проблем?
Изкуственият интелект може да използва вода главно защото някои центрове за данни разчитат на охлаждане на водна основа или защото водата се консумира индиректно чрез производство на електроенергия. В определени климатични условия изпарителното охлаждане може да намали потреблението на електроенергия, като същевременно увеличи потреблението на вода, създавайки истински компромис. Дали е „лошо“ зависи от местния недостиг на вода, дизайна на охлаждането и дали потреблението на вода се измерва и управлява.
Какви части от екологичния отпечатък на изкуствения интелект идват от хардуера и електронните отпадъци?
Изкуственият интелект зависи от чипове, сървъри, мрежово оборудване, сгради и вериги за доставки - което означава добив, производство, доставка и евентуално обезвреждане. Производството на полупроводници е енергоемко и бързите цикли на обновяване могат да увеличат емисиите и електронните отпадъци. Удължаването на живота на хардуера, обновяването и подобряването на използването му могат значително да намалят въздействието, понякога конкурирайки се с промените на ниво модел.
Решава ли използването на възобновяема енергия проблема с въздействието на изкуствения интелект върху околната среда?
По-чистата електроенергия може да намали емисиите от изчисленията, но не елиминира други въздействия, като например потреблението на вода, производството на хардуер и електронните отпадъци. Тя също така не се справя автоматично с „ефектите на отскок“, при които по-евтините изчисления водят до по-голямо потребление като цяло. Възобновяемите енергийни източници са важен лост, но те са само една част от цялостния отпечатък.
Какъв е ефектът на отскок и защо е важен за изкуствения интелект и устойчивостта?
Ефектът на отскок е, когато повишаването на ефективността прави нещо по-евтино или по-лесно, така че хората правят повече от него - понякога заличавайки спестяванията. С изкуствения интелект, по-евтиното производство или автоматизацията могат да увеличат общото търсене на съдържание, изчисления и услуги. Ето защо измерването на резултатите на практика е по-важно от това да се празнува ефективността изолирано.
Какви са практичните начини за намаляване на въздействието на изкуствения интелект, без да се навреди на продукта?
Често срещан подход е да се започне с измерване (оценки на енергията и въглерода, използване), след това да се оразмерят моделите според задачата и да се оптимизира изводът с кеширане, пакетиране и по-кратки резултати. Техники като квантуване, дестилация и генериране с добавено извличане могат да намалят изчислителните нужди. Оперативните избори - като планиране на натоварването по въглероден интензитет и по-дълъг живот на хардуера - често водят до големи печалби.
Как може изкуственият интелект да помогне на околната среда, вместо да ѝ вреди?
Изкуственият интелект може да намали емисиите и отпадъците, когато се използва за оптимизиране на реални системи: прогнозиране на мрежата, реагиране на търсенето, контрол на ОВК системите в сгради, маршрутизиране на логистиката, прогнозна поддръжка и откриване на течове. Той може също така да поддържа мониторинг на околната среда, като например предупреждения за обезлесяване и откриване на метан. Ключът е дали системата променя решенията и води до измерими намаления, а не само до по-добри табла за управление.
Какви показатели трябва да отчитат компаниите, за да избегнат твърдения за „зелено излагане“ на изкуствен интелект?
По-смислено е да се отчитат показатели за всяка задача или заявка, отколкото само големи общи числа, защото това показва ефективност на ниво единица. Проследяването на потреблението на енергия, оценките за въглеродните емисии, използването и - където е уместно - въздействието върху водата създава по-ясна отчетност. Също така е важно: дефинирайте граници (какво е включено) и избягвайте неясни етикети като „екологичен изкуствен интелект“ без количествени доказателства.
Референции
-
Международна агенция по енергетика (МАЕ) - Енергетика и изкуствен интелект - iea.org
-
Международна агенция по енергетика (МАЕ) - Изкуствен интелект за енергийна оптимизация и иновации - iea.org
-
Международна агенция по енергетика (МАЕ) - Дигитализация - iea.org
-
Национална лаборатория „Лорънс Бъркли“ (LBNL) - Доклад за потреблението на енергия в центровете за данни на Съединените щати (2024 г.) (PDF) - lbl.gov
-
Ли и др. - Да направим ИИ по-малко „жаден“ (2023) (PDF) - arxiv.org
-
ASHRAE (TC 9.9) - Поява и разширяване на течното охлаждане в масовите центрове за данни (PDF) - ashrae.org
-
Зелената мрежа - PUE-цялостно изследване на метриката - thegreengrid.org
-
Министерство на енергетиката на САЩ (DOE) - FEMP - Възможности за ефективност на охлаждащата вода за федерални центрове за данни - energy.gov
-
Министерство на енергетиката на САЩ (DOE) - FEMP - Енергийна ефективност в центрове за данни - energy.gov
-
Агенция за опазване на околната среда на САЩ (EPA) - Полупроводникова индустрия - epa.gov
-
Международен съюз по телекомуникации (ITU) - Глобален монитор на електронните отпадъци 2024 г. - itu.int
-
ОИСР - Многобройните ползи от подобренията в енергийната ефективност (2012 г.) (PDF) - oecd.org
-
API за въглероден интензитет (GB) - carbonintensity.org.uk
-
imec - Намаляване на въздействието върху околната среда при производството на чипове - imec-int.com
-
UNEP - Как работи MARS - unep.org
-
Global Forest Watch - Сигнали за обезлесяване по GLAD - globalforestwatch.org
-
Институтът „Алън Тюринг“ - Изкуствен интелект и автономни системи за оценка на биоразнообразието и здравето на екосистемите - turing.ac.uk
-
CodeCarbon - Методология - mlco2.github.io
-
Голами и др. - Преглед на методите за квантуване (2021) (PDF) - arxiv.org
-
Луис и др. - Генериране с добавено търсене (2020) - arxiv.org
-
Хинтън и др. - Дестилиране на знанието в невронна мрежа (2015) - arxiv.org
-
CodeCarbon - codecarbon.io