По тридневните „маратонски“ разговори, Претседателството на Советот и преговарачите на Европскиот парламент постигнаа привремен договор за предлогот за усогласени правила за вештачка интелигенција (АИ), таканаречен акт за вештачка интелигенција. Нацрт-регулативата има за цел да обезбеди дека системите за вештачка интелигенција што се пласираат на европскиот пазар и се користат во ЕУ се безбедни и ги почитуваат основните права и вредностите на ЕУ. Овој значаен предлог, исто така, има за цел да ги стимулира инвестициите и иновациите за вештачката интелигенција во Европа.
Ова е историско достигнување и огромна пресвртница кон иднината! Денешниот договор ефикасно се справува со глобален предизвик во технолошката средина што брзо се развива на клучна област за иднината на нашите општества и економии. И во овој потфат, успеавме да одржиме исклучително деликатна рамнотежа: зајакнување на иновациите и прифаќањето на вештачката интелигенција низ Европа, истовремено почитувајќи ги целосно основните права на нашите граѓани. Карме Артигас, шпански државен секретар за дигитализација и вештачка интелигенција
Актот за вештачка интелигенција е а предводник законодавна иницијатива со потенцијал да го поттикне развојот и прифаќањето на безбедна и доверлива вештачка интелигенција на единствениот пазар на ЕУ и од приватни и од јавни актери. Главната идеја е да се регулира вештачката интелигенција врз основа на капацитетот на последната да предизвика штета на општеството по а „базиран на ризик“ приод: колку е поголем ризикот, толку построги се правилата. Како прв законски предлог од ваков вид во светот, може да постави а глобален стандард за регулација на вештачката интелигенција во други јурисдикции, исто како што тоа го направи GDPR, со што се промовира европскиот пристап кон технолошката регулатива на светската сцена.
Главните елементи на привремениот договор
Во споредба со првичниот предлог на Комисијата, главните нови елементи на привремената спогодба може да се сумираат на следниов начин:
правила на модели со вештачка интелигенција за општа намена со големо влијание што може да предизвика системски ризик во иднина, како и на високоризични ВИ системи
ревидиран систем на управување со одредени овластувања за спроведување на ниво на ЕУ
продолжување на листата на забрани но со можност за користење далечинска биометриска идентификација од страна на органите за спроведување на законот на јавни простори, кои подлежат на заштитни мерки
подобра заштита на правата преку обврска за распоредувачите на високоризични системи за вештачка интелигенција да спроведат a проценка на влијанието на основните права пред да се стави во употреба систем со вештачка интелигенција.
Поконкретно кажано, привремениот договор ги опфаќа следните аспекти:
Дефиниции и опсег
За да се осигура дека дефиниција на системот за вештачка интелигенција обезбедува доволно јасни критериуми за разликување на вештачката интелигенција од поедноставните софтверски системи, компромисниот договор ја усогласува дефиницијата со пристапот предложен од ОЕЦД.
Привремената спогодба, исто така, појаснува дека регулативата не се применува на области надвор од опсегот на правото на ЕУ и во никој случај не треба да влијае на надлежностите на земјите-членки во Национално обезбедување или кој било субјект на кој му се доверени задачи во оваа област. Понатаму, актот за вештачка интелигенција нема да се применува на системи кои се користат исклучиво за воена or одбрана цели. Слично на тоа, договорот предвидува дека регулативата нема да се применува на системи за вештачка интелигенција што се користат за единствена цел истражување и иновации, или за луѓе кои користат вештачка интелигенција од непрофесионални причини.
Маркетинг
Класификација на системи за вештачка интелигенција како високоризични и забранети практики на вештачка интелигенција
Компромисниот договор предвидува а хоризонтален слој на заштита, вклучувајќи класификација со висок ризик, за да се осигура дека системите за вештачка интелигенција кои најверојатно нема да предизвикаат сериозни прекршувања на основните права или други значајни ризици не се опфатени. Системите за вештачка интелигенција се презентираат само ограничен ризик би биле предмет на многу светлина обврски за транспарентност, на пример откривање дека содржината е генерирана со вештачка интелигенција за корисниците да можат да донесат информирани одлуки за понатамошна употреба.
А широк спектар на висок ризик Системите за вештачка интелигенција ќе бидат овластени, но ќе подлежат на низа барања и обврски за да се добие пристап до пазарот на ЕУ. Овие барања се разјаснети и приспособени од страна на созаконодавците на тој начин што тие се повеќе технички изводливопомалку оптоварувачки засегнатите страни да се усогласат со, на пример, во однос на квалитетот на податоците или во однос на техничката документација што треба да ја изготват МСП за да покажат дека нивните високоризични системи за вештачка интелигенција се усогласени со барањата.
Со оглед на тоа што системите за вештачка интелигенција се развиваат и дистрибуираат преку сложени синџири на вредност, компромисниот договор вклучува промени кои го разјаснуваат распределба на одговорноститеулоги на различни актери во тие синџири, особено добавувачи и корисници на системи за вештачка интелигенција. Исто така, ја појаснува врската помеѓу одговорностите според Законот за вештачка интелигенција и одговорностите што веќе постојат според друго законодавство, како што е релевантната заштита на податоците на ЕУ или секторското законодавство.
За некои употреби на вештачката интелигенција, се смета дека постои ризик неприфатлива и затоа овие системи ќе бидат забранети од ЕУ. Привремениот договор забранува, на пример, когнитивните манипулација со однесувањето, нетаргетираното укинување слики на лицето од интернет или снимки од видео надзор, препознавање на емоции на работното место и образовните институции, социјално бодување, биометриска категоризација да заклучи чувствителни податоци, како што се сексуалната ориентација или религиозните убедувања, и некои случаи на предвидливо полициско работење за поединци.
Исклучоци за спроведување на законот
Со оглед на специфичностите на органите за спроведување на законот и потребата да се зачува нивната способност да користат вештачка интелигенција во нивната витална работа, беа договорени неколку измени на предлогот на Комисијата кои се однесуваат на употребата на системи за вештачка интелигенција за цели на спроведување на законот. Предмет на соодветно заштитни мерки, овие промени имаат за цел да ја одразат потребата да се почитува доверливоста на чувствителните оперативни податоци во однос на нивните активности. На пример, беше воведена итна постапка со која им се дозволува на агенциите за спроведување на законот да распоредат високоризична алатка за вештачка интелигенција која не го поминала проценка на сообразност постапка во случај на итност. Сепак, воведен е и специфичен механизам за да се обезбеди тоа основните права ќе бидат доволно заштитени од какви било потенцијални злоупотреби на системите за вештачка интелигенција.
Покрај тоа, во однос на користењето на реално време далечинска биометриска идентификација системи на јавно достапни простори, привремената спогодба ги појаснува целите кога таквата употреба е строго неопходна за цели на спроведување на законот и за кои на органите за спроведување на законот треба да им се дозволи по исклучок да користат такви системи. Компромисниот договор предвидува дополнителни заштитни мерки и ги ограничува овие исклучоци на случаи на жртви на одредени злосторства, спречување на вистински, присутни или предвидливи закани, како што се терористички напади и претреси по лица осомничени за најтешките злосторства.
Општа намена ВИ системи и модели на основа
Додадени се нови одредби за да се земат предвид ситуациите кога системите за вештачка интелигенција може да се користат за многу различни цели (ВИ за општа намена), и каде технологијата за општа намена ВИ последователно се интегрира во друг систем со висок ризик. Привремената спогодба се однесува и на конкретни случаи на системи за општа намена ВИ (GPAI).
Договорени се и конкретни правила модели на темели, големи системи способни компетентно да извршуваат широк опсег на карактеристични задачи, како што се генерирање видео, текст, слики, разговор на страничен јазик, пресметување или генерирање на компјутерски код. Привремениот договор предвидува дека моделите на фондацијата мора да се усогласат со одредени обврски за транспарентност пред да бидат пуштени во промет. Воведен е построг режим за „високо влијание“ модели на темели. Ова се модели на основа обучени со голема количина на податоци и со напредна сложеност, способности и перформанси далеку над просекот, кои можат да шират системски ризици низ синџирот на вредност.
Нова архитектура на владеење
Следејќи ги новите правила за GPAI моделите и очигледната потреба за нивно спроведување на ниво на ЕУ, ан Канцеларија за вештачка интелигенција во рамките на Комисијата е формирана со задача да ги надгледува овие најнапредни модели на вештачка интелигенција, да придонесе за поттикнување на стандардите и практиките за тестирање и да ги спроведува заедничките правила во сите земји-членки. А научен панел од независни експерти ќе ја советува Канцеларијата за вештачка интелигенција за моделите GPAI, со тоа што ќе придонесе за развој на методологии за оценување на способностите на моделите на темели, советување за означување и појава на модели на темели со големо влијание и следење на можните ризици за безбедноста на материјалите поврзани со моделите на темели.
на Одбор за вештачка интелигенција, кој ќе ги сочинува претставниците на земјите-членки, ќе остане како платформа за координација и советодавно тело на Комисијата и ќе им даде важна улога на земјите-членки во спроведувањето на регулативата, вклучително и дизајнот на кодекси на пракса за моделите на основа. Конечно, ан советодавен форум за засегнатите страни, како што се претставниците на индустријата, малите и средните претпријатија, почетните претпријатија, граѓанското општество и академската заедница, ќе бидат формирани за да се обезбеди техничка експертиза на Одборот за вештачка интелигенција.
казни
Казните за прекршување на актот за вештачка интелигенција беа утврдени како процент од глобалниот годишен обрт на прекршителната компанија во претходната финансиска година или однапред утврден износ, кој и да е поголем. Ова би било 35 милиони евра или 7% за прекршување на забранетите апликации за вештачка интелигенција, 15 милиони евра или 3% за прекршување на обврските од актот за вештачка интелигенција и 7,5 милиони евра или 1,5% за доставување неточни информации. Меѓутоа, привремениот договор предвидува попропорционални капи за административни казни за малите и средните претпријатија и почетните претпријатија во случај на прекршување на одредбите од актот за ВИ.
Договорот за компромис исто така јасно покажува дека физичко или правно лице може да поднесе жалба до релевантните орган за надзор на пазарот во врска со неусогласеноста со актот за вештачка интелигенција и може да очекува дека таквата жалба ќе биде постапена во согласност со посебните процедури на тој орган.
Транспарентност и заштита на основните права
Привремениот договор предвидува а проценка на влијанието на основните права пред да биде пуштен на пазарот систем за вештачка интелигенција со висок ризик од неговите распоредувачи. Привремениот договор предвидува и зголемени транспарентност во однос на употребата на високоризични системи за вештачка интелигенција. Имено, некои одредби од предлогот на Комисијата се изменети за да укажат дека одредени корисници на високоризичен систем за вештачка интелигенција кои се јавни субјекти, исто така, ќе бидат обврзани да се регистрираат во База на податоци на ЕУ за високоризични системи за вештачка интелигенција. Исто така, новододадените одредби ставаат акцент на обврската за корисниците на систем за препознавање емоции да ги информира физичките лица кога се изложени на таков систем.
Мерки за поддршка на иновациите
Со цел да се создаде правна рамка која е попријатна за иновации и да се промовира регулаторното учење засновано на докази, одредбите кои се однесуваат на мерки за поддршка на иновациите се значително изменети во споредба со предлогот на Комисијата.
Имено, појаснето е дека А.И регулаторни песочни кутии, кои треба да воспостават контролирана средина за развој, тестирање и валидација на иновативни системи за вештачка интелигенција, исто така треба да овозможат тестирање на иновативни системи за вештачка интелигенција во реални услови. Понатаму, додадени се нови одредби кои дозволуваат тестирање на системи за вештачка интелигенција во услови на реалниот свет, под специфични услови и заштитни мерки. За да се олесни административното оптоварување за помалите компании, привремениот договор вклучува список на активности што треба да се преземат за поддршка на таквите оператори и предвидува некои ограничени и јасно специфицирани отстапувања.
Влегување во сила
Привремениот договор предвидува дека треба да се применува актот за вештачка интелигенција две години по неговото влегување во сила, со одредени исклучоци за конкретни одредби.
Следните чекори
По денешниот привремен договор, работата ќе продолжи на техничко ниво во наредните недели за да се финализираат деталите од новата регулатива. Претседателството ќе го достави компромисниот текст до претставниците на земјите-членки (Корепер) за одобрување откако оваа работа ќе биде завршена.
Целиот текст ќе треба да биде потврден од двете институции и да биде подложен на правно-јазична ревизија пред формално усвојување од страна на созаконодавците.
Основни информации
Предлогот на Комисијата, претставен во април 2021 година, е клучен елемент на политиката на ЕУ за поттикнување на развојот и прифаќањето на единствениот пазар на безбедна и законска вештачка интелигенција која ги почитува основните права.
Предлогот следи пристап заснован на ризик и утврдува униформа, хоризонтална правна рамка за вештачката интелигенција која има за цел да обезбеди правна сигурност. Нацрт-регулативата има за цел да ги промовира инвестициите и иновациите во вештачката интелигенција, да го подобри управувањето и ефикасното спроведување на постојниот закон за основни права и безбедност и да го олесни развојот на единствен пазар за апликации за вештачка интелигенција. Тоа оди рака под рака со други иницијативи, вклучувајќи го и координираниот план за вештачка интелигенција кој има за цел да ги забрза инвестициите во вештачката интелигенција во Европа. На 6 декември 2022 година, Советот постигна договор за општ пристап (преговарачки мандат) за ова досие и стапи во меѓуинституционални разговори со Европскиот парламент („трилози“) во средината на јуни 2023 година.
EU Reporter објавува написи од различни надворешни извори кои изразуваат широк опсег на гледишта. Позициите заземени во овие написи не се нужно оние на EU Reporter.
