Pogajalci držav članic, združenih v Svetu EU, in parlamenta, so dogovor dosegli v petek zvečer, po treh dneh intenzivnih pogajanj. V Svetu EU, ki mu trenutno predseduje Španija, dogovor označujejo za zgodovinskega, v Evropskem parlamentu pa poudarjajo, da gre za prvi predlog tovrstne zakonodaje na svetu.

Podobno je v odzivu poudaril evropski komisar za notranji trg Thierry Breton. "Zgodovinsko! S političnim dogovorom o aktu o umetni inteligenci EU postaja prva celina, ki postavlja jasna pravila za njeno uporabo," je zapisal na omrežju X. Po njegovih besedah pa gre za veliko več kot le pravilnik - "to je odskočna deska za startup podjetja in raziskovalce pri vodenju globalne tekme na področju umetne inteligence".

Historic!

The EU becomes the very first continent to set clear rules for the use of AI ????????

The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.

The best is yet to come! ???? pic.twitter.com/W9rths31MU

— Thierry Breton (@ThierryBreton) December 8, 2023

Predsednica Evropske komisije Ursula von der Leyen je menila, da bo akt pripomogel k razvoju tehnologije, ki ne ogroža varnosti in pravic ljudi. V zapisu na omrežju X je dodala, da gre za "edinstven pravni okvir za razvoj umetne inteligence, ki ji gre zaupati".

The ???????? AI Act is a global first.

A unique legal framework for the development of AI you can trust.

And for the safety and fundamental rights of people and businesses.

A commitment we took in our political guidelines - and we delivered.

I welcome today's political agreement.

— Ursula von der Leyen (@vonderleyen) December 8, 2023

Predlogi vsebujejo varovala za uporabo umetne inteligence na območju EU, pa tudi omejitve pri njeni uporabi, denimo s strani organov pregona. Temeljijo na oceni tveganja za posamezne programske modele - večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti.

Posamezniki bi glede na dogovor imeli pravico do pritožb in smiselnih pojasnil. V primeru kršitev pa so predvidene kazni v razponu od 7,5 milijona evrov ali 1,5 odstotka prometa do 35 milijonov evrov ali sedem odstotkov globalnega prometa.

Dogovor predvideva, da morajo biti temeljni modeli, kot sta jezikovni model ChatGPT in modeli za splošne namene GPAI, v skladu z obvezo o preglednosti, preden pridejo na trg. To vključuje pripravo tehnične dokumentacije ter uskladitev z evropsko zakonodajo o avtorskih pravicah in širjenju podrobnih povzetkov o vsebini, ki se uporablja za izobraževanje.

Visoko učinkoviti modeli, ki so utemeljeni na osnovnih načelih z visoko stopnjo tveganja, bodo morali izvajati evalvacijo modela, ocenjevati in zmanjševati sistemsko tveganje, obveščati Evropsko komisijo o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti.

Oblasti lahko uporabljajo biometrični nadzor v realnem času v javnih prostorih samo v primerih žrtev določenih kaznivih dejanj, preprečevanja dejanskih, trenutnih ali predvidljivih groženj, kot so teroristični napadi in iskanje osumljencev za najhujša kazniva dejanja.

Dogovor prepoveduje kognitivno vedenjsko manipulacijo, zbiranje fotografij obrazov z interneta ali s posnetkov nadzornih kamer, sistem družbenega ocenjevanja in biometrične kategorizacije z namenom ugotavljanja političnih, verskih in drugih prepričanj, spolne usmerjenosti in rase, izhaja iz sporočil Bruslja in poročanja tujih tiskovnih agencij.

O zakonodaji, ki jo je Evropska komisija predlagala leta 2021, bosta morala sedaj za uradno potrditev odločati tako Evropski parlament kot Svet EU.