Как да създадем AI агент

Как да създадем AI агент

Кратък отговор: За да изградите AI агент, който работи на практика, третирайте го като контролиран цикъл: приемайте входни данни, решете следващото действие, извикайте инструмент с тесен обхват, наблюдавайте резултата и повтаряйте, докато не премине ясна проверка „готово“. Задачата си заслужава, когато е многостъпкова и управлявана от инструменти; ако една единствена подкана я решава, пропуснете агента. Добавете строги схеми на инструменти, ограничения на стъпките, регистриране и валидатор/критик, така че когато инструментите се провалят или входните данни са двусмислени, агентът да ескалира, вместо да се повтаря в цикъл.

Ключови изводи:

Цикъл на контролера : Реализирайте вход → действие → наблюдение на повторение с изрични условия за спиране и максимален брой стъпки.

Дизайн на инструменти : Поддържайте инструментите тесни, типизирани, с разрешения и валидирани, за да предотвратите хаос от типа „do_anything“.

Хигиена на паметта : Използвайте компактно краткосрочно състояние плюс дългосрочно извличане; избягвайте изхвърлянето на пълни транскрипти.

Устойчивост на злоупотреби : Добавете списъци с разрешени, ограничения на скоростта, идемпотентност и „пробно изпълнение“ за рискови действия.

Тестируемост : Поддържайте набор от сценарии (неуспехи, неясноти, инжекции) и го изпълнявайте отново при всяка промяна.

Как да създадем AI агент? Инфографика
Статии, които може да ви харесат след тази:

🔗 Как да измерим производителността на изкуствения интелект
Научете практически показатели за сравняване на скоростта, точността и надеждността.

🔗 Как да говорим с изкуствен интелект
Използвайте подкани, контекст и последващи действия, за да получите по-добри отговори.

🔗 Как да се оценяват модели на изкуствен интелект
Сравнете модели, използвайки тестове, рубрики и резултати от задачи в реалния свят.

🔗 Как да оптимизираме AI моделите
Подобрете качеството и разходите с настройка, подрязване и мониторинг.

1) Какво е AI агент, по обикновени думи 🧠

AI агентът е цикъл. Документация за „Агенти“ на LangChain

Това е. Примка с мозък по средата.

Въвеждане → мислене → действие → наблюдение → повторение . Реагиране (разсъждение + действие)

Къде:

  • Входът е потребителска заявка или събитие (нов имейл, билет за поддръжка, ping от сензор).

  • „Мислене “ е езиков модел, който разсъждава за следващата стъпка.

  • Действието извиква инструмент (търсене на вътрешна документация, изпълнение на код, създаване на заявка, писане на отговор). Ръководство за извикване на функции на OpenAI

  • Наблюдението отчита изхода на инструмента.

  • Повторението е частта, която го кара да се усеща „агентско“ вместо „приказливо“. Документация за „Агенти“ на LangChain

Някои агенти са по същество интелигентни макроси. Други действат по-скоро като младши оператор, който може да жонглира със задачи и да се възстановява от грешки. И двата варианта се броят.

Освен това, не е необходима пълна автономия. Всъщност... вероятно не я искате 🙃

2) Кога трябва да създадете агент (и кога не трябва) 🚦

Създайте агент, когато:

  • Работата е многоетапна и се променя в зависимост от това, което се случва по средата.

  • Работата изисква използване на инструменти (бази данни, CRM, изпълнение на код, генериране на файлове, браузъри, вътрешни API). Документация за „Инструменти“ на LangChain.

  • Искате повтаряеми резултати с предпазни мерки, а не само еднократни отговори.

  • Можете да дефинирате „готово“ по начин, който компютърът може да провери, дори и най-общо.

Не създавайте агент, когато:

  • Едно просто подканяне + отговор решава проблема (не прекалявайте с инженерството, ще се намразите по-късно).

  • Нуждаете се от перфектен детерминизъм (агентите могат да бъдат последователни, но не роботизирани).

  • Нямате никакви инструменти или данни, за да се свържете - тогава това са предимно само вибрации.

Нека бъдем откровени: половината от „проектите за AI агенти“ биха могли да бъдат работен процес с няколко правила за разклоняване. Но понякога и атмосферата е важна 🤷♂️

3) Какво прави една версия на AI агент добра ✅

Ето раздела „Какво прави една версия добра“, който поискахте, само че ще бъда малко директен:

Добрата версия на агент с изкуствен интелект не тази, която мисли най-усилено. Тя е тази, която:

Ако вашият агент не може да бъде тестван, това е по същество много уверена слот машина. Забавна на партита, ужасяваща в продукцията 😬

4) Основните градивни елементи на агента („анатомията“ 🧩)

Повечето солидни агенти имат тези части:

A) Контурът на контролера 🔁

Това е оркестраторът:

Б) Инструменти (известни още като възможности) 🧰

Инструментите са това, което прави един агент ефективен: Документация за „Инструменти“ на LangChain

  • заявки към база данни

  • изпращане на имейли

  • изтегляне на файлове

  • изпълняващ се код

  • извикване на вътрешни API-та

  • писане в електронни таблици или CRM системи

В) Памет 🗃️

Два вида имат значение:

  • краткосрочна памет : текущ контекст на бягане, скорошни стъпки, текущ план

  • дългосрочна памет : потребителски предпочитания, контекст на проекта, извлечени знания (често чрез вграждане + векторно хранилище) RAG документ

Г) Политика за планиране и вземане на решения 🧭

Дори и да не го наричате „планиране“, ви е необходим метод:

Д) Предпазни мерки и оценка 🧯

Да, това е по-скоро инженерство, отколкото подкана. Което е... донякъде смисълът.

5) Сравнителна таблица: популярни начини за изграждане на агент 🧾

По-долу е дадена реалистична „Сравнителна таблица“ - с няколко особености, защото истинските отбори са странни 😄

Инструмент / Рамка Аудитория Цена Защо работи Бележки (малък хаос)
LangChain строители, които харесват компоненти в стил лего свободно-приблизително + инфрачервено голяма екосистема за инструменти, памет, вериги можеш да получиш спагети бързо, ако не назоваваш нещата ясно
Индекс на ламата Отбори с много RAG елементи свободно-приблизително + инфрачервено силни модели на извличане, индексиране, конектори чудесно, когато вашият агент работи основно по принцип „търсене + действие“... което е често срещано
Подход в стил OpenAI Assistants екипи, които искат по-бърза настройка базиран на употреба вградени шаблони за извикване на инструменти и състояние на изпълнение по-малко гъвкав в някои ъгли, но чист за много приложения OpenAI изпълнява API, извиквайки функции на OpenAI Assistants
Семантично ядро разработчици, които искат структурирана оркестрация свободно чиста абстракция за умения/функции усеща се „подредено като в предприятието“ - понякога това е комплимент 😉
AutoGen многоагентни експериментатори свободно модели на сътрудничество между агенти може да прекалява с говоренето; да се поставят строги правила за прекратяване
CrewAI фенове на „екипи от агенти“ свободно роли + задачи + предаване на задачи са лесни за изразяване работи най-добре, когато задачите са ясни, а не кашави
Купа сено търсене + хора с тръбопроводи свободно твърди тръбопроводи, извличане, компоненти по-малко „театър на агенти“, повече „практическа фабрика“
Създай си сам (персонализиран цикъл) контрол-фрикове (привързани) твоето време минимална магия, максимална яснота обикновено най-доброто в дългосрочен план... докато не преоткриеш всичко 😅

Няма един-единствен победител. Най-добрият избор зависи от това дали основната работа на вашия агент е извличане на данни , изпълнение на инструменти , координация между множество агенти или автоматизация на работния процес .

6) Как да изградим AI агент стъпка по стъпка (действителната рецепта) 🍳🤖

Това е частта, която повечето хора пропускат, след което се чудят защо агентът се държи като миеща мечка в килер.

Стъпка 1: Дефинирайте работата с едно изречение 🎯

Примери:

  • „Изгответе отговор на клиента, използвайки политиката и контекста на заявката, след което поискайте одобрение.“

  • „Проучете доклад за грешка, възпроизведете го и предложете решение.“

  • „Превърнете несъвършените бележки от срещи в задачи, собственици и крайни срокове.“

Ако не можете да го дефинирате просто, вашият агент също не може. Искам да кажа, че може, но ще импровизира, а импровизацията е мястото, където бюджетите умират.

Стъпка 2: Определете нивото на автономност (ниско, средно, пикантно) 🌶️

  • Ниска автономност : предлага стъпки, човешки кликвания „одобряват“

  • Среден : изпълнява инструменти, изготвя резултат, ескалира при несигурност

  • Високо : изпълнява се от край до край, пингва хора само при изключения

Започнете с по-ниска скорост, отколкото искате. Винаги можете да я увеличите по-късно.

Стъпка 3: Изберете вашата стратегия за модел 🧠

Обикновено избирате:

  • един силен модел за всичко (прост)

  • един силен модел + по-малък модел за евтини стъпки (класификация, маршрутизация)

  • специализирани модели (зрение, код, реч), ако е необходимо

Също така решете:

  • максимален брой токени

  • температура

  • дали позволявате вътрешни дълги следи от разсъждения (можете, но не излагайте суровата верига от мисли на крайните потребители)

Стъпка 4: Дефинирайте инструменти със строги схеми 🔩

Инструментите трябва да бъдат:

Вместо инструмент, наречен do_anything(input: string) , направете:

Ако дадете на агента резачка, не се изненадвайте, когато тя подреже жив плет, като премахне и оградата.

Стъпка 5: Изградете контролния цикъл 🔁

Минимален цикъл:

  1. Започнете с цел + начален контекст

  2. Попитайте модела: „Следващо действие?“

  3. Ако се извика инструмент - изпълни инструмента

  4. Добавяне на наблюдение

  5. Проверете условието за спиране

  6. Повторете (с максимален брой стъпки) документацията за „Агенти“ на LangChain

Добави:

Стъпка 6: Добавете паметта внимателно 🗃️

Краткосрочно: поддържайте компактно „обобщение на състоянието“, актуализирано на всяка стъпка. LangChain „Общ преглед на паметта“
Дългосрочно: съхранявайте трайни факти (потребителски предпочитания, организационни правила, стабилна документация).

Емпирично правило:

  • ако се променя често - поддържайте го краткосрочно

  • ако е стабилно - съхранявайте дългосрочно

  • ако е чувствително - съхранявайте минимално (или изобщо не съхранявайте)

Стъпка 7: Добавете валидиране и „критичен“ пропуск 🧪

Евтин, практичен модел:

  • агентът генерира резултат

  • Валидаторът проверява структурата и ограниченията

  • опционални прегледи на критични модели за липсващи стъпки или нарушения на правилата NIST AI RMF 1.0

Не е перфектно, но улавя шокиращо количество глупости.

Стъпка 8: Запишете всичко, за което ще съжалявате, че не сте го записали 📜

Дневник:

  • извиквания на инструменти + входове + изходи

  • взети решения

  • грешки

  • крайни резултати

  • Увод в наблюдаемостта на токени и латентност

Бъдещето - ще ти благодариш. Настоящето - ще забравиш. Такъв е просто животът 😵💫

7) Извикване на инструменти, което не ти разбива душата 🧰😵

Извикването на инструменти е мястото, където „Как да изградим AI агент“ се превръща в истинско софтуерно инженерство.

Направете инструментите надеждни (надеждността е добра)

Надеждните инструменти са:

Добавете предпазни огради на слоя с инструменти, не само подкани

Подканите са учтиви предложения. Валидирането на инструменти е заключена врата. Структурирани изходи на OpenAI

Направете:

  • списъци с разрешени (кои инструменти могат да се изпълняват)

  • валидиране на входа

  • Ръководство за ограничения на скоростта в OpenAI

  • проверки на разрешенията за всеки потребител/организация

  • „режим на сухо изпълнение“ за рискови действия

Проектиране за частичен отказ

Инструментите се провалят. Мрежите се разклащат. Авторизацията изтича. Агентът трябва:

Един тих и ефективен трик: връщане на структурирани грешки като:

  • тип: грешка_при_авторизация

  • тип: не е_намерено

  • тип: rate_limited
    Така моделът може да реагира интелигентно, вместо да се паникьосва.

8) Памет, която помага, вместо да те преследва 👻🗂️

Паметта е мощна, но може да се превърне и в чекмедже за боклуци.

Краткосрочна памет: дръжте я компактна

Употреба:

  • последните N стъпки

  • текущо обобщение (актуализира се всеки цикъл)

  • текущ план

  • текущи ограничения (бюджет, време, политики)

Ако поставите всичко в контекст, ще получите:

  • по-висока цена

  • по-бавна латентност

  • повече объркване (да, дори тогава)

Дългосрочна памет: извличане, а не „пълнене“

Повечето „дългосрочна памет“ е по-скоро като:

  • вграждания

  • магазин за вектори

  • извличане с допълнено генериране (RAG) RAG хартия

Агентът не запомня. Той извлича най-подходящите фрагменти по време на изпълнение. LlamaIndex „Въведение в RAG“

Практически правила за запаметяване

  • Съхранявайте „предпочитанията“ като явни факти: „Потребителят харесва резюмета и мрази емоджита“ (хаха, не е тук обаче 😄)

  • Съхранявайте „решенията“ с времеви отметки или версии (в противен случай се натрупват противоречия)

  • Никога не пазете тайни, освен ако наистина не е наложително

И ето моята несъвършена метафора: паметта е като хладилник. Ако никога не го почистваш, в крайна сметка сандвичът ти ще има вкус на лук и съжаление.

9) Модели на планиране (от прости до изискани) 🧭✨

Планирането е просто контролирано разлагане. Не го правете мистично.

Модел A: Планер за контролен списък ✅

  • Моделът извежда списък със стъпки

  • Изпълнява се стъпка по стъпка

  • Състояние на контролния списък с актуализации

Чудесно за внедряване. Лесно, тестемо.

Модел Б: Цикъл на ReAct (причина + действие) 🧠→🧰

  • моделът определя следващото извикване на инструмент

  • наблюдава изхода

  • повтаря ReAct документ

Това е класическото усещане на агента.

Модел C: Ръководител-работник 👥

  • ръководителят разделя целта на задачи

  • работниците изпълняват специализирани задачи

  • супервайзорът обединява резултатите Microsoft AutoGen (многоагентна рамка)

Това е ценно, когато задачите са паралелизируеми или когато искате различни „роли“, като например:

  • изследовател

  • програмист

  • редактор

  • Проверка на качеството

Модел D: Планирай, после изпълни с препланиране 🔄

  • създаване на план

  • изпълнявам

  • Ако резултатите от инструмента променят реалността, препланирайте

Това предпазва агента от упорито следване на лош план. Хората също правят това, освен ако не са уморени, като в този случай те също следват лоши планове.

10) Безопасност, надеждност и това да не бъдеш уволнен 🔐😅

Ако вашият агент може да предприема действия, имате нужда от дизайн за безопасност. Не е „хубаво да има“. Необходимост. NIST AI RMF 1.0

Твърди ограничения

  • максимален брой стъпки на бягане

  • максимален брой извиквания на инструменти в минута

  • максимални разходи на сесия (бюджет на токени)

  • ограничени инструменти зад одобрението

Обработка на данни

  • редактирайте чувствителни данни преди регистриране

  • отделни среди (разработка срещу производство)

  • разрешения за инструмент с най-ниски привилегии

Поведенчески ограничения

  • принудете агента да цитира вътрешни откъси от доказателства (не външни връзки, а само вътрешни препратки)

  • изискват флагове за несигурност, когато доверието е ниско

  • изискване за „задаване на уточняващ въпрос“, ако входните данни са двусмислени

Надеждният агент не е най-увереният. Той е този, който знае кога гадае... и го казва.

11) Тестване и оценка (частта, която всички избягват) 🧪📏

Не можеш да подобриш това, което не можеш да измериш. Да, този цитат е банален, но е досадно верен.

Създайте набор от сценарии

Създайте 30-100 тестови случая:

Резултати от оценката

Използвайте показатели като:

  • процент на успех на задачата

  • време за завършване

  • процент на възстановяване от грешки на инструмента

  • процент на халюцинации (твърдения без доказателства)

  • процент на одобрение от страна на човека (ако е в контролиран режим)

Регресионни тестове за подкани и инструменти

Всеки път, когато промените:

  • схема на инструмента

  • системни инструкции

  • логика на извличане

  • форматиране на паметта.
    Стартирайте пакета отново.

Агентите са чувствителни зверове. Като стайните растения, но по-скъпи.

12) Модели на внедряване, които не стопяват бюджета ви 💸🔥

Започнете с една услуга

Добавете контрол на разходите рано

  • резултати от кеширане на извличане

  • компресиране на състоянието на разговора с резюмета

  • използване на по-малки модели за фрезоване и извличане

  • ограничаване на „режима на задълбочено мислене“ до най-трудните стъпки

Избор на обща архитектура

  • контролер без състояние + външно хранилище на състоянието (DB/redis)

  • Извикванията на инструменти са идемпотентни, където е възможно. Stripe „Идемпотентни заявки“

  • опашка за дълги задачи (за да не държите уеб заявката отворена завинаги)

Също така: изградете си „авариен прекъсвач“. Няма да ви е нужен, докато наистина, наистина не ви потрябва 😬

13) Заключителни бележки - кратката версия на „Как да създадем AI агент“ 🎁🤖

Ако не си спомняте нищо друго, запомнете това:

Агентът не е магия. Това е система, която взема добри решения достатъчно често, за да бъде ценна... и признава поражението, преди то да причини щети. Тихо успокояващо, по някакъв начин 😌

И да, ако го направите както трябва, усещането е като да наемете малък дигитален стажант, който никога не спи, понякога се паникьосва и обича документите. Така че, на практика стажант.

ЧЗВ

Какво е AI агент, казано по-просто?

Агентът с изкуствен интелект е по същество цикъл, който се повтаря: приема входни данни, определя следващата стъпка, използва инструмент, прочита резултата и повтаря, докато не приключи. „Агентската“ част идва от действие и наблюдение, а не само от чат. Много агенти са просто интелигентна автоматизация с достъп до инструменти, докато други се държат по-скоро като младши оператор, който може да се възстанови от грешки.

Кога трябва да създам AI агент, вместо просто да използвам подкана?

Създайте агент, когато работата е многоетапна, променя се въз основа на междинни резултати и изисква надеждно използване на инструменти (API, бази данни, система за заявки, изпълнение на код). Агентите са полезни и когато искате повтарящи се резултати с предпазни мерки и начин за проверка на „готово“. Ако един прост бърз отговор работи, агентът обикновено е ненужен режийен ресурс и създава допълнителни режими на отказ.

Как да създам AI агент, който не се зацикля в цикли?

Използвайте условия за твърдо спиране: максимален брой стъпки, максимален брой извиквания на инструменти и ясни проверки за завършване. Добавете структурирани схеми на инструменти, времеви ограничения и повторни опити, които няма да се повтарят безкрайно. Записвайте решенията и изходите на инструмента, за да можете да видите къде се случват грешки. Често срещан предпазен клапан е ескалацията: ако агентът е несигурен или повтаря грешки, той трябва да поиска помощ, вместо да импровизира.

Каква е минималната архитектура за това как да изградим AI агент?

Като минимум ви е необходим контролер, който захранва модела с цел и контекст, пита за следващото действие, изпълнява инструмент, ако е поискан, добавя наблюдението и повтаря. Също така ви трябват инструменти със строги форми на вход/изход и проверка за „готово“. Дори цикълът „roll-your-own“ може да работи добре, ако поддържате състоянието чисто и налагате ограничения на стъпките.

Как трябва да проектирам извикване на инструменти, така че да е надеждно в производствения процес?

Поддържайте инструментите ограничени, типизирани, с разрешения и валидирани – избягвайте генерични инструменти, които „вършат каквото и да било“. Предпочитайте строги схеми (като структурирани изходи/извикване на функции), така че агентът да не може да обработва входове ръчно. Добавете списъци с разрешени потребители, ограничения на скоростта и проверки за разрешения на потребители/организации на нивото на инструмента. Проектирайте инструментите така, че да са безопасни за повторно изпълнение, когато е възможно, като използвате модели за идемпотентност.

Кой е най-добрият начин да се добави памет, без да се влоши работата на агента?

Третирайте паметта като две части: краткосрочно състояние на изпълнение (скорошни стъпки, текущ план, ограничения) и дългосрочно извличане (предпочитания, стабилни правила, съответна документация). Поддържайте краткосрочна компактност с текущи обобщения, а не пълни преписи. За дългосрочната памет, извличането (вграждания + векторно съхранение/RAG модели) обикновено е по-добро от „вмъкването“ на всичко в контекст и объркването на модела.

Кой модел на планиране трябва да използвам: контролен списък, ReAct или ръководител-служител?

Планировчикът с контролен списък е чудесен, когато задачите са предвидими и искате нещо лесно за тестване. Циклите в стил ReAct са отлични, когато резултатите от инструментите променят това, което правите след това. Моделите на ръководител-работник (като разделянето на ролите в стил AutoGen) помагат, когато задачите могат да бъдат паралелизирани или да се възползват от различни роли (изследовател, програмист, QA). „Планиране и изпълнение“ с препланиране е практичен среден път за избягване на упорити лоши планове.

Как да направя агент безопасен, ако може да предприема реални действия?

Използвайте разрешения с най-ниски привилегии и ограничете рисковите инструменти зад режими на одобрение или „пробно изпълнение“. Добавете бюджети и ограничения: максимален брой стъпки, максимални разходи и ограничения за извикване на инструменти на минута. Редактирайте чувствителни данни преди регистриране и отделете развойната от производствената среда. Изисквайте флагове за несигурност или уточняващи въпроси, когато входните данни са двусмислени, вместо да позволявате увереността да замени доказателствата.

Как да тествам и оценявам AI агент, така че той да се подобрява с течение на времето?

Създайте набор от сценарии с щастливи пътища, гранични случаи, откази на инструменти, двусмислени заявки и опити за инжектиране на подкани (в стил OWASP). Оценявайте резултати като успех на задачата, време за завършване, възстановяване от грешки на инструмента и твърдения без доказателства. Всеки път, когато промените схемите на инструмента, подканите, извличането или форматирането на паметта, стартирайте отново набора. Ако не можете да го тествате, не можете надеждно да го пуснете в експлоатация.

Как да внедря агент, без да увелича латентността и разходите?

Често срещан модел е контролер без състояние с външно хранилище за състояния (DB/Redis), инструменти зад него и силно регистриране/мониторинг (често OpenTelemetry). Контролирайте разходите с кеширане на извличане, компактни обобщения на състоянията, по-малки модели за маршрутизиране/извличане и ограничаване на „задълбоченото мислене“ до най-трудните стъпки. Използвайте опашки за дълги задачи, за да не държите уеб заявките отворени. Винаги включвайте авариен ключ.

Референции

  1. Национален институт за стандарти и технологии (NIST) - NIST AI RMF 1.0 (надеждност и прозрачност) - nvlpubs.nist.gov

  2. OpenAI - Структурирани резултати - platform.openai.com

  3. OpenAI - Ръководство за извикване на функции - platform.openai.com

  4. OpenAI - Ръководство за ограничения на скоростта - platform.openai.com

  5. OpenAI - Изпълнява API - platform.openai.com

  6. OpenAI - Извикване на функции на асистенти - platform.openai.com

  7. LangChain - Документация за агенти (JavaScript) - docs.langchain.com

  8. LangChain - Документация за инструменти (Python) - docs.langchain.com

  9. LangChain - Преглед на паметта - docs.langchain.com

  10. arXiv - ReAct статия (разум + действие) - arxiv.org

  11. arXiv - RAG статия - arxiv.org

  12. Библиотека за изграждане на Amazon Web Services (AWS) - Времена на изчакване, повторни опити и отсрочка с трептене - aws.amazon.com

  13. OpenTelemetry - Увод в наблюдаемостта - opentelemetry.io

  14. Stripe - Идемпотентни заявки - docs.stripe.com

  15. Google Cloud - Стратегия за повторен опит (отказ + трептене) - docs.cloud.google.com

  16. OWASP - Топ 10 за приложения с големи езикови модели - owasp.org

  17. OWASP - LLM01 Инжектиране на бързи данни - genai.owasp.org

  18. LlamaIndex - Въведение в RAG - developers.llamaindex.ai

  19. Microsoft - Семантично ядро ​​- learn.microsoft.com

  20. Microsoft AutoGen - Многоагентна рамка (документация) - microsoft.github.io

  21. CrewAI - Концепции за агенти - docs.crewai.com

  22. Haystack (дълбоко засаден) - Документация за ретривъри - docs.haystack.deepset.ai

Намерете най-новия изкуствен интелект в официалния магазин за асистенти с изкуствен интелект

За нас

Обратно към блога