Institucije Europske unije postigle su politički dogovor o Aktu o umjetnoj inteligenciji (AI Act) koji će uskoro biti na snazi u svim članicama EU-a. Posljednja verzija Akta temelji se na različitim razinama rizika koji se odnose na AI sustave, a razine su rizika sljedeće:

• minimalni rizik: većina AI sustava pripada ovoj kategoriji, npr. filteri za neželjenu poštu koji funkcioniraju uz pomoć umjetne inteligencije. Nova se pravila ne odnose na ovu skupinu jer ovi sustavi predstavljaju minimalan ili nikakav rizik za sigurnost i prava građana
• visoki rizik: AI sustavi koji pripadaju ovoj kategoriji dužni su strogo se pridržavati novih obaveza, što uključuje vođenje detaljne dokumentacije, dijeljenje jasnih informacija o korisnicima, kao i visok stupanj cyber sigurnosti. Primjer AI sustava s visokim stupnjem rizika su određene infrastrukture u područjima vode, plina i struje, medicinski uređaji ili sustavi za biometrijsko identificiranje i prepoznavanje emocija
• neprihvatljivi rizik: sustavi umjetne inteligencije koji su izravna prijetnja temeljnim ljudskim pravima bit će zabranjeni. Ovo uključuje sustave umjetne inteligencije ili aplikacije koje mogu manipulirati ljudsko ponašanje da zaobiđu slobodnu volju korisnika, kao što su igračke s glasovnim značajkama koje potiču opasno ponašanje kod maloljetnika.

Osim prethodno navedenog sistema s različitim razinama rizika, ovim novim pravilima podliježu i AI modeli za opće prakse (GPAI modeli) čime se smatraju modeli koji su sposobni kompetentno obavljati širok raspon različitih zadataka bez obzira na način na koji su ti modeli pušteni na tržište. Ovi će se modeli morati pridržavati strožih pravila transparentnosti (prilaganje tehničke dokumentacije i detaljnih izvještaja o sadržaju korištenom za treniranje sustava te pridržavanje zakona o autorskom pravu EU-a).

Tvrtke koje se ne pridržavaju novih pravila bit će kažnjene novčanim kaznama do 35 milijuna eura ili 7% globalnog prometa, ovisno o tome koji je iznos viši, u skladu s težinom prekršaja. Ovaj politički dogovor sada moraju potvrditi Europski parlament i Vijeće, a na snagu će stupiti 20 dana nakon objave u Službenom listu Europske unije.

Što ovo znači za agencije? 

AI Act ne dotiče se izravno oglašavanja, no određene aktivnosti će najvjerojatnije biti neizravno zahvaćene – automatska interakcija s ljudima (chatbots), prepoznavanje emocija ili automatska kategorizacija u procesu donošenja odluka utemeljena na biometrijskim podacima. Stroža pravila o transparentnosti najvjerojatnije će utjecati na agencije na dvije razine.

1. Pri razvijanju ili prilagodbi već postojećeg AI modela za specifičnu upotrebu koja pripada području Akta o umjetnoj inteligenciji

– agencije će morati pružiti sve nužne informacije za korisnike koji će preuzeti njihov AI model.

2. Pri prikazivanju oglasa ili tijekom interakcije s kupcem/korisnikom

– ljudi moraju biti svjesni da komuniciraju sa strojem i sadržaj generiran uz pomoć umjetne inteligencije mora biti jasno označen,

– sustav mora biti dizajniran i označen na način da uređaji mogu prepoznati kada su zvuk, slika, video ili tekst proizvedeni uz pomoć umjetne inteligencije.

Više informacija možete pronaći na poveznici.