Umjetna inteligencija – etički i zakonski zahtjevi

S ciljem regulacije umjetne inteligencije (AI), Europska komisija je poduzela još jedan korak i objavila mapu koja omogućuje javno komentiranje.

O čemu se radi

Europska komisija (EK) radi na uredbi kojom se utvrđuju zahtjevi za AI aplikacijama te se bavi etičkim i pravnim pitanjima proizašlih iz takvih aplikacija zbog njihove složenosti, detaljne primjenjivosti na pojedince i skalabilnosti. Inicijativa prepoznaje pozitivne implikacije AI aplikacija, ali i potencijalnu štetu (fizičku i nematerijalnu) te nastoji riješiti pitanja koja još uvijek nisu obuhvaćena postojećim zakonodavstvom, npr. o kibernetičkoj sigurnosti, anti-diskriminaciji, zaštiti podataka, zaštiti zaposlenika itd.

Zašto je to bitno za agencije

Velika je vjerojatnost da će Komisija svrstati AI aplikacije u različite kategorije rizika. Iako je malo vjerojatno da AI aplikacije agencija uzrokuju fizičku štetu, one bi mogle prouzročiti nematerijalnu štetu ako se primijene na segment, target ili profile ljudi (npr. diskriminacija, narušavanje privatnosti). S obzirom na nova pravila EU-a (koja se još uvijek primjenjuju) o kolektivnim naknadama, korisnici koji traže odštetu mogli bi poprimiti potpuno novu dimenziju.

Koje bi posljedice mogle biti za agencije

Komisija računa na ekonomske (i investicijske) koristi kada se povećava povjerenje korisnika u AI aplikacije. Međutim, zakonodavstvo će dovesti do troškova usklađivanja (dizajn, implementacija, nadzor, izvještavanje, potencijalni zahtjevi za naknadu štete, razvoj ili pridržavanje Kodeksa, oznake, itd.).

Koje političke opcije Komisija razmatra?

  1. Meki zakon: promovirati industrijske inicijative oko AI načela, etičke kodekse i sl., uz nadzor, izvještavanje i dobrovoljno poštivanje zakona
  2. Zakonodavstvo s dobrovoljnim programom označavanja (labelling): kako bi korisnici mogli prepoznati pouzdane AI aplikacije, sudjelovanje u programu označavanja bilo bi dobrovoljno, ali moralo bi biti u skladu sa zahtjevima diljem EU
  3. Zakonodavstvo s obveznim zahtjevima za sve ili određene (npr. specifične ili visokorizične kategorije) vrste AI aplikacija, npr. koje se tiču ​​podataka o obuci, vođenja evidencije o skupovima podataka i algoritmima, informacijama koje se treba pružiti, robusnosti i točnosti, ljudskom nadzoru
  4. Kombinacija bilo koje od navedenih opcija uzimajući u obzir različite razine rizika AI aplikacija

Mapi Europske komisije koja omogućuje javno komentiranje možete pristupiti ovdje.