Законът за AI: Стимул или спирачка за IT сектора?

Според редица анализатори Европа изостава от основните си конкуренти Китай и САЩ, когато става дума за бизнес модели, базирани на иновативни технологии. Но поне е едни гърди напред в тяхното регулиране. Причината е Законът за изкуствения интелект (AI Act).

Развитието му следим и в DEV.BG, като в нашия Job Board има и обяви за работа, свързани именно с AI. 

Първата по рода си правна рамка, която регулира тази технология, влезе в сила на 1 август тази година, но повечето разпоредби ще се прилагат от 2026 г. Нейната цел е да ограничи AI процесите, които носят неприемливи рискове, да определи ясни изисквания за високорисковите системи, както и да наложи конкретни задължения за внедрителите и доставчиците им. 

„AI Act регламентира до ниво високорискови системи и забранява всички останали над него. Компаниите, които предлагат услуга за разработване на платформи над това ниво, са в нарушение. Тези, които ги използват – също. Високорискови са системите, при които имаме големи данни, създаваме последователност от алгоритми и търсим определен резултат“, обяснява д-р Галя Манчева, основател на консултантска компания Ai Advy и научен изследовател на регулацията. 

Законодателството работи с един основен термин – AI системи, като под това се разбира „базирана на машина система, проектирана да работи с различни нива на автономност…“, както е описано и тук. 

AI Act и подходът, основан на риска

Като цяло регулаторната рамка на ЕС разделя AI платформите в четири нива на риск. На върха на пирамидата са тези, които може да доведат до неприемливи последици, застрашавайки безопасността, прехраната и правата на хората. Пример за това са системите за социално оценяване, използвани от някои правителства. Подобни технологии са напълно забранени. 

Към тази група се причисляват и AI системи за дистанционно биометрично идентифициране на лица на обществени места, като тук изключение се прави в ситуации, в които се извършва целенасочено издирване на потенциални жертви на престъпление.

На второ място са поставени AI системите с висок риск и именно те са във фокуса на регулацията. От ЕС посочват, че в тази група влизат технологии, свързани процесите за управление на критична инфраструктура, кредитните оценки и оценяването на изпити, процедурите за набиране на персонал, съдебните решения, автоматизираното разглеждане на заявления за издаване на визи и др. 

Преди да бъдат пуснати на пазара, те трябва да бъдат подложени на адекватна оценка на риска, която да гарантира високо ниво на сигурност и точност. Освен това към тях трябва да бъдат прилагани подходящи човешки надзорни мерки и да е налице възможност за проследяване на резултатите.

Тук идва мястото на генеративния изкуствен интелект (GenAI) или чатботовете, които всички вече добре познаваме. Въпреки че именно той е в основата на силното развитие на технологията в последните години, Европейската комисия го поставя в групата с ограничен риск.

„През 2023 г., когато всички очаквахме AI Act официално да влезе в сила, дойде бумът на ChatGPT. ЕК преразгледа регулацията, но не го постави в тази група, тъй като логиката и начинът на създаването на генеративния изкуствен интелект са много различни от тези на системите с висок риск“, посочва д-р Галя Манчева. 

Един от най-популярните чатботи в света вече има 200 млн. активни потребители на седмична база. Създателите му от Open AI по-рано заявиха, че подкрепят европейския закон и са готови да го спазват, „не замо защото е правно задължение, но и защото целта на закона съвпада с мисията им да разработят и внедряват безопасен AI в полза на цялото човечество“.

Законът за изкуствения интелект въвежда задължения за прозрачност на системите с висок риск, а доставчиците трябва да гарантират, че генерираното от AI съдържание може да бъде идентифицирано като такова.

На четвърто място са поставени AI системите с минимален риск и онези, които изобщо не пораждат такъв. Тук например попадат спам филтри и видеоигри с внедрен изкуствен интелект.

AI Act и бизнесът

Когато започва да изследва предстоящото законодателство през 2021 г. и да споделя знанията си, основателката на Ai Advy се сблъсква с неразбиране от страна на бизнеса. Тогава това е нещо далечно, футуристично и компаниите отказват да чуят за какво става въпрос. В научните среди също има известно недоверие.

„В онзи момент бизнесът не обърна внимание. Това са неща, за които започваме да мислим, когато прекалено много се доближат до нас. В маркетинга например следим тенденции, искаме да бъдем в крак с тях, искаме да използваме най-новите вълни. Но регулациите създават неприятно усещане на компаниите и те отлагат действията си буквално до последния момент“, споделя опита си д-р Манчева.

От DEV.BG потърсихме мнението на няколко компании, част от които не отговориха на запитванията ни, свързани със закона.

Обратен обаче е случаят с българската Accedia и американската DataArt, която се занимава с разработка на софтуер по поръчка. Системите с изкуствен интелект са една от основните ѝ услуги, като вече няколко години те развиват модели за AI/ML в ключови сектори като финанси, медии, туризъм, търговия на дребно и здравеопазване. 

„От 1 август 2024 г., когато Законът за AI влезе в сила, направихме няколко важни промени, за да гарантираме съответствие с новите регулации. Например прилагаме подход, базиран на оценка на риска, за категоризация на AI системите. Системите с висок риск преминават задълбочен преглед и одобрение, а неприемливите са забранени за ползване в нашата дейност“, разказва Дмитро Байков, технически директор на AI Labs в DataArt.

За да се подготви за новите регулации, компанията предприема няколко ключови стъпки. Първо прави задълбочен анализ, след което са набелязани необходимите промени и е изготвен план за тяхното изпълнение. 

„След като внедрихме промените, проведохме обучение на екипа, за да гарантираме, че всички са наясно с новите изисквания. Актуализирахме вътрешните си политики и процедури, за да се съобразим с изискванията на закона. Същевременно направихме корекции по текущите AI проекти, за да отговарят на новите стандарти“, изброява Байков.

Изкуственият интелект е ключова част и от решенията на една от най-големите български IT компании – Accedia. Въпреки че техните проекти са с B2B насоченост и не са свързани с обработването на лични данни на крайни потребители, те също следят отблизо развитието на регулаторната рамка в сферата.

Затова правят преглед на проектите и методологиите си и се уверяват, че отговарят на закона и стандартите. „Освен това, внедрихме и практики за контрол на качеството и киберсигурността, които гарантират надеждността и безопасността на нашите системи, когато те се използват за нуждите на клиентите ни“, коментира за DEV.BG Димитър Димитров, управляващ съдружник в Accedia.

Въпреки че AI Act не изисква конкретни промени в обученията и сертификацията на екипите им, от компанията поддържат консултантите си информирани за новите регулации и добрите практики при създаване на AI решения.

Това включва и обучения за етично използване на AI, които отговарят на стандартите за прозрачност и отговорност при създаването на иновативни и надеждни бизнес решения.

„Най-важно е компаниите да разберат дали попадат в обхвата на AI Act. Дали работят с високорискови системи. Ако отговорът е „не“, няма нужда да правят нищо. Ако работят с подобни платформи обаче, трябва да се направи одит“, препоръчва д-р Галя Манчева. 

А въпросният одит преминава през няколко нива – ако компанията покрива минималните изисквания, се прави такъв от гледна точка на пълните критерии. Но AI процесите, които не отговарят на изискванията, трябва да бъдат извадени от употреба. В противен случай компаниите са заплашени с глоби, които достигат до 7% от глобалните им приходи или 35 млн. евро, като предвид се взема по-високата от двете стойности, както е посочено и тук.

Стимул или спирачка?

След всичко казано дотук идва въпросът дали AI Act повече пречи, или повече помага за развитието на изкуствения интелект в Европа. 

„Има риск твърде строгите регулации да забавят някои иновации, като наложат значителни изисквания за съответствие върху компаниите. Въпреки това вярвам, че Законът за AI по-скоро ще насърчи отговорните иновации, отколкото ще ги забави“, коментира Дмитро Байков от DataArt. 

По думите му ЕС изгражда стабилна регулаторна рамка, която насърчава компаниите да посочат като свой приоритет отговорните практики, свързани с изкуствения интелект. Освен това се задават ясни стандарти за прозрачност, отчетност и етичност. 

DataArt е сред компаниите, в чието портфолио има услуги, свързани с AI. Такъв е случаят и с Accedia, откъдето също смятат, че AI Act има потенциала да окаже положително въздействие върху иновациите, като насърчи развитието на етични и отговорни AI решения. 

„Наличието на ясни регулаторни рамки създава доверие към новите технологии, като осигурява защита на крайните потребители и насърчава компаниите да действат прозрачно и отговорно. Това би помогнало на Европа да утвърди своето място като лидер в иновациите, като същевременно защитава обществения интерес и стимулира устойчивото развитие на AI“, отбелязва Димитър Димитров.

Основателката на Ai Advy, д-р Галя Манчева, също гледа в тази посока. По думите ѝ ключовата цел на това законодателство е Европа да мине на следващо технологично ниво. 

„САЩ и Китай ще продължат да водят, но с AI Act Европа се опитва да не задълбочи изоставането си, а да започне да се движи. Досега тя стоеше на едно място, а другите вървяха напред. Това законодателство цели да се защитят правата на хората, които могат да бъдат потърпевши от използването на високорискови системи, от една страна. От друга, самите компании да са сигурни, че това, което правят, е в правилната посока“, акцентира в заключение тя.