Изкуственият интелект навлиза бързо в нашия живот, като обхваща все по-широк кръг от обществени отношения. Предвид неговата важност и приложимост е необходимо пускането на пазара, въвеждането в експлоатация и използването на системи с изкуствен интелект да бъдат стриктно регулирани.
Европейският парламент и Съветът са се заели с тази нелека задача и вече няколко години работят по Проект за регламент, с който да въведат хармонизирани правила относно изкуствения интелект на ниво Европейски съюз. Настоящият материал има за цел да отговори на следните въпроси:
-
Какво цели ЕС с приемането на Проекта за регламент?
-
Какво означава система с изкуствен интелект?
-
Има ли някакви ограничения върху системите с изкуствен интелект?
-
Кои системи са високорискови и какви специални правила за тях съдържа Проекта за регламент?
- Цел на Проекта за регламент
Проектът за регламент цели да хармонизира правилата, свързани с пускането на пазара, въвеждането в експлоатация и използването на системи с изкуствен интелект в рамките на ЕС. Предвид деликатността на темата се очаква той да наложи и някои забрани на определени практики в областта, както и специфични изисквания за високорисковите системи с изкуствен интелект и задължения за операторите на такива системи. Предвиждат се и правила за наблюдение на пазара, за спазването на които, съгласно член 59, параграф 2 от Проекта за регламент, ще следи национален надзорен орган.
Очаква се приемането и на хармонизирани правила за прозрачност за системите с изкуствен интелект, които са предназначени за взаимодействие с физически лица, за системи за разпознаване на емоции и системите за биометрично категоризиране, както и тези, използвани за генериране или манипулиране на образно, аудио или видео съдържание.
- Система с изкуствен интелект
Проектът за регламент дефинира “системата с изкуствен интелект” като софтуер, разработен с една или повече от изрично посочените в Приложение I техники и подходи, който софтуер “може по отношение на даден набор от цели, определени от човек, да генерира резултати, като съдържание, прогнози, препоръки или решения, които оказват въздействие върху средите, с които взаимодействат” (чл. 3, ал. 1 от Проекта за регламент).
Към настоящия момент има дебат по отношение на понятието, като се предвижда, в името на гъвкавостта и стабилността, да бъдат изброени изрично технологии, които следва да се използват за изграждане на софтуера, за да се приеме, че е налице изкуствен интелект. Такъв потенциален списък би бил част от Проекта за регламент под формата на приложение.
- Ограничения върху системите с изкуствен интелект
Проектът за регламент, в своя дял II, предвижда да забрани някои практики в сферата на изкуствения интелект. Сред тях попадат системи, които подсъзнателно въздействат върху хора, в резултат на което могат да настъпят физически или психологически вреди.
Под забраната попадат и системи, които експлоатират слабости на специфични групи хора, в резултат на което по аналогичен ред могат да настъпят вреди за човек. Ограничени са и системите за оценяване на поведението или класифициране на надеждността на лице на база наблюдение на неговото поведение, в случай че същото води до по-неблагоприятно третиране на лицето в контекст, различен от този, в който данните са събрани или води до по-неблагоприятно третиране, непропорционално на поведението на тези лица.
Въвежда се и частична забрана при системите за отдалечена биометрична идентификация в реално време, като такава е позволена само при наличие на някоя от предпоставките, описани в Проекта за регламент, насочени към осъществяване целите на правоприлагането. Използване на система с изкуствен интелект с такава цел би било допустимо при:
-
Издирване на конкретни потенциални жертви на престъпления;
-
Издирване на изчезнали деца;
-
За предотвратяване на конкретна значителна и непосредствена заплаха за физически лица;
-
За предотвратяване на терористично нападение;
-
За откриване и идентифициране/ преследване на извършител на престъпление, когато за престъпното деяние се предвижда не по-малко от 3 години лишаване от свобода.
- Високорискови системи
Като високорискови системи, Проектът за регламент определя тези, гарантиращи безопасността на стоките и услугите, посочени в Приложение II към предложения акт, като например безопасността на детските играчки, медицинските изделия и др. За тях се предвижда оценка за съответствие, която следва да се извърши от трето лице.
В Приложение III към Проекта за регламент пък следва да се посочат изрично кои системи са високорискови, като списъкът може да бъде допълван от Европейската комисия. Във водещите се дебати по текстовете на Проекта за регламент не липсват мнения, които да критикуват въведеното понятие за "високорискова система", като не е изключено при окончателното приемане на акта то да бъде стеснено.
Предвижда се използването на система за управление на риска, когато става въпрос за системи с висок риск. Същата включва идентифициране, анализ, прогноза и оценка на рисковете, както и приемане на подходящи мерки за управление на риска в съответствие с разпоредбите на Проекта за регламент.
Предвид важността на темата за високорисковите системи, в Проекта за регламент ѝ е посветена цяла глава, като в нея се предвиждат редица специални правила, като например цялата техническа документация на високорисковата система да бъде предварително достъпна и разбираема. В член 12, Проектът за регламент въвежда и задължение за съхраняване в регистри на всички събития по време на работа на системата с изкуствен интелект, като например записване на периода, в който е използвана системата, входящите данни, довели до съвпадение, идентификация на физическите лица, участвали във верификацията на резултатите, както и референтната база данни, спрямо която системата е проверявала входящите данни.
Продължаваме да следим темата за регулирането на съвременните технологични решения както на национално, така и на ниво Европейски съюз. Ако имате въпроси, то ни пишете на office@kdbmlaw.com.
