Как правилно да изградим процеси и агенти, базирани на езикови модели, в организациите си? На 24 юли DEV.BG организира интензивен 4-часов уъркшоп с лектор Виктор Вълчев, който е съосновател и главен технологичен директор на Keen Agents JSC.
Как да интегрираме AI в продуктите си, как работят големите езикови модели (LLMs), как се измерва промяната в продуктивността? За това и за още много ще говорим с Виктор, а пълната програма за Building AI Agents: Reliable & Consistent може да видите тук.
Ето и какво има да сподели Виктор за работата с изкуствен интелект и ползите от нея.
Виктор, кои са най-важните концепции, които трябва да научат IT хората за работата с AI, и защо?
IT и AI са огромни области и „най-важните“ концепции се променят, но от моя опит има няколко ключови неща, които трябва да разберете преди да започнете.
Първо – разберете с какво точно работите. Всички говорят за AI, но това е като да кажете „спорт“, има футбол, тенис, плуване… А всъщност има езикови модели като ChatGPT, computer vision за разпознаване на визуална информация, традиционно машинно обучение за данни. Всеки тип AI има своето приложение и решава различни проблеми по-добре от другите. Не бихте използвали езиков модел за калкулатор, нали?
Второ – разберете ограниченията и очакванията. AI моделите, особено езиковите, са вероятностни. Това означава различни отговори на същия въпрос, халюцинации и грешки. Това не е дефект, просто така работят. Понякога дори има полза от креативните решения, възникнали поради „халюцинация“. Като стигнете до production системи обаче, винаги и задължително валидирайте резултатите.
Би ли споделил конкретни примери, при които AI е улеснил много работата ти или ти е спестил време?

Да започна с класиката – AI ми помага да пиша код, да разбирам документация и да не звуча като робот в имейлите. Знам, революционно.
Но, ето два примера, които осезаемо ми спестяват време, и мога истински да стана от компютъра и да се върна на готова задача.
Първо, deep research в интернет. AI-ят събира информация от десетки източници и ми ги структурира. Когато се върна, имам готов материал с проследими източници, които мога сам да проверя за надеждност. Вторият пример е когато пусна система да генерира 5, 10, 50 различни решения на проблем, да ги тества всички и да ми върне доклад кое работи най-добре. Особено вторият ми спести може би хиляди часове.
Как според теб AI агентите променя начина, по който функционират организациите?
Автоматизацията на когнитивни задачи. Вместо да автоматизираме само повтарящи се задачи, сега можем да автоматизираме задачи, които изискват „мислене“ – анализ на документи, съставяне на отговори, вземане на решения върху променяща се информация. Последното е много трудно и времеемко за традиционното програмиране, но по-лесно с езикови модели.
24/7 интелигентна поддръжка. Агентите могат да обработват заявки, да решават проблеми и да предоставят информация непрекъснато и без човешка намеса.
Мащабиране на експертиза. Един експерт може да „умножи“ знанието и уменията си чрез агенти, които могат да обслужват стотици клиенти едновременно със сходно качество.
Explore more
Кое вече се случва и кое засега остава в бъдещето?
През последните 6 до 12 месеца езиковите модели задобряха драстично. Станаха по-точни и могат да работят по-дълго преди да деградират в способности си. Това позволи разработката на системи, които спестяват все повече време и ресурс като вършат истинска и смислена работа:
– Автоматизирано създаване на документация и отчети;
– Интелигентни чатботове за HR и вътрешна поддръжка;
– Code testing, unit, module, whole system (ранни);
– Code review и bug detection системи.
И макар да не са напълно готови за всички сценарии и крайни случаи, с продължителното развитието на езиковите модели виждаме. че тези системи се подобряват драстично.
Не мисля, че някой със сигурност знае какво ще стане в бъдещето, но от по-възможно до по-фантастично в следващите 5 години, бих ги подредил така:
– Пълноценни AI служители, които могат да изпълняват сложни, многодневни проекти;
– Системи за стратегическо планиране с достъп до взимане на реални решения с реални последици. Това ще им позволи автономно да се учат и да се подобряват.
– Рояк от AI агенти, които могат да управляват цели отдели в организациите (много ранни стадии, бавни и скъпи първоначално).
Колко време си инвестирал, за да натрупаш знанието и опита, които ще споделиш в този AI Workshop?
Професионално работя в областта от пет години, а личен интерес към технологиите имам от над десетилетие.
Ползвам езикови модели от преди да станат популярни с излизането на ChatGPT. Спомням си, че показвах на майка ми как да си донаписва имейлите с GPT-3.
През всички години съм чел arxiv.org, както и безплатните библиотеки на най-различни университети (.edu). Там ще намерите ценна информация, която е релевантна днес и сега. Всъщност голяма част от технологията, която нашумява сега, беше концептуално написана преди години в подобни академични публикации.
Запишете се оттук за уъркшопа Building AI Agents: Reliable & Consistent. С Виктор Вълчев ще поговорим подробно за интегрирането на AIOps, как изкуственият интелект може да бъде полезен за Team Lead-овете и още много.