Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji te o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828, poznatija kao Akt o umjetnoj inteligenciji, donijela je nove izazove u području razvoja umjetne inteligencije, ali i području zaštite osobnih podataka.
Uredba o umjetnoj inteligenciji stupila je na snagu 1. kolovoza 2024. godine te je u uvodnim i završnim odredbama predviđena postupna primjena pojedinih članaka. Sukladno članku 113. Uredba o umjetnoj inteligenciji, poglavlja I. i II. počela su se primjenjivati 2. veljače 2025. godine.
Uredbom o umjetnoj inteligenciji utvrđuju se usklađena pravila o stavljanju na tržište, stavljanju u upotrebu i korištenju umjetne inteligencije u skladu s novim zakonodavnim okvirom te se zahtijeva nadzor tržišta u smislu Uredbe (EU) 2019/10202 .
Kako je navedeno u članku 1. stavku 1. Uredbe o umjetnoj inteligenciji, predmetnom Uredbom nastoji se poboljšati funkcioniranje unutarnjeg tržišta i poduprijeti inovacije, uz istodobno promicanje primjene antropocentrične i pouzdane umjetne inteligencije te osiguravanje zdravlja, sigurnosti i visoke razine zaštite temeljnih prava sadržane u Povelji Europske unije o temeljnim pravima (dalje u tekstu „Povelja”), među ostalim u pogledu temeljnih prava na privatnost i zaštitu osobnih podataka (članci 7. i 8. Povelje).
Članak 3. stavak 1. Uredbe o umjetnoj inteligenciji definira sustav umjetne inteligencije kao “strojni sustav dizajniran za rad s promjenjivim razinama autonomije i koji nakon uvođenja može pokazati prilagodljivost te koji, za eksplicitne ili implicitne ciljeve, iz ulaznih vrijednosti koje prima, zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koji mogu utjecati na fizička ili virtualna okruženja.”
Ta definicija obuhvaća sedam glavnih elemenata: (1) sustav temeljen na strojevima; (2) koji je dizajniran da djeluje s različitim razinama autonomije; (3) koji može pokazivati prilagodljivost nakon implementacije; (4) i koji, za eksplicitne ili implicitne ciljeve; (5) inferira, na temelju ulaza koji prima, kako generirati izlaze (6) kao što su predikcije, sadržaj, preporuke ili odluke (7) koje mogu utjecati na fizička ili virtualna okruženja.
Definicija sustava umjetne inteligencije usvaja perspektivu temeljenu na životnom ciklusu koja obuhvaća dvije glavne faze: fazu prije implementacije ili ‘izgradnje’ sustava i fazu nakon implementacije ili ‘upotrebe’ sustava. Sedam elemenata navedenih u toj definiciji ne mora biti prisutno kontinuirano tijekom obje faze tog životnog ciklusa. Umjesto toga, definicija prepoznaje da se određeni elementi mogu pojaviti u jednoj fazi, ali možda neće postojati u obje faze. Ovaj pristup definiranju sustava umjetne inteligencije odražava složenost i raznolikost ovih sustava, osiguravajući da definicija bude usklađena s ciljevima Uredbe o umjetnoj inteligenciji prilagođavajući se širokom spektru AI sustava.[1]
Uredbu o umjetnoj inteligenciji i Opću uredbu o zaštiti podataka treba smatrati kao komplementarne instrumente odnosno instrumente koji se međusobno nadopunjuju. Važno je naglasiti da se pravo EU o zaštiti podataka u potpunosti primjenjuje na obradu osobnih podataka uključenih u životni ciklus sustava umjetne inteligencije, kako je izričito navedeno u članku 2. stavku 7. Uredbe o umjetnoj inteligenciji (vidjeti i uvodne izjave 9. i 10.). [2]
Opća uredba o zaštiti podataka i Uredba o umjetnoj inteligenciji usko su povezane pravne norme, pri čemu je usklađenost s Općom uredbom o zaštiti podataka temeljni preduvjet za razvoj etičke, zakonite i antropocentrične umjetne inteligencije, koja je u skladu s temeljnim pravima, demokratskim načelima i vladavinom prava.
Ovi propisi ne predstavljaju prepreku inovacijama, već osiguravaju regulatorni okvir koji omogućuje razvoj umjetne inteligencije na način koji maksimizira društvenu korist, uz istodobno minimiziranje rizika.
Od 25. svibnja 2018. godine u punoj primjeni je Opća uredba o zaštiti podataka koja se primjenjuje na obradu osobnih podataka koja se u cijelosti obavlja automatizirano te na neautomatiziranu obradu osobnih podataka koji čine dio sustava pohrane ili su namijenjeni biti dio sustava pohrane. Međutim, u praksi je uočeno da velik broj organizacija nije svjestan ove obveze i njenih implikacija na razvoj i uporabu umjetne inteligencije. Ističemo da se Opća uredba o zaštiti podataka u cijelosti primjenjuje na automatiziranu obradu osobnih podataka, bez obzira na to pohranjuju li se osobni podaci ili ne.
Agencija za zaštitu osobnih podataka kao neovisno nadzorno tijelo koje nadzire provedbu Opće uredbe o zaštiti podataka posebno naglašava da svaka obrada osobnih podataka, uključujući i obrade osobnih podataka u sustavima umjetne inteligencije, u svim fazama razvoja, testiranja i uporabe umjetne inteligencije moraju biti u skladu s Općom uredbom o zaštiti podataka. Organizacije koje razvijaju ili primjenjuju sustave umjetne inteligencije koji obrađuju osobne podatke obvezne su osigurati potpunu usklađenost takvih obrada s relevantnim odredbama Opće uredbe o zaštiti podataka.
S obzirom na pravnu prirodu i dalekosežne učinke ovog propisa na zaštitu osobnih podataka i privatnosti pojedinaca, skrećemo pozornost akterima koji razvijaju ili omogućuju korištenje sustava umjetne inteligencije da su u obvezi u svim fazama životnog ciklusa takvih sustava, kada se obrađuju osobni podaci, poštovati odredbe Opće uredbe o zaštiti podataka.
Posebno naglašavamo važnost usklađenosti s člancima 5., 6., 9. i 32. Opće uredbe o zaštiti podataka, pri čemu je ključno osigurati da je za svaku obradu osobnih podataka u sustavima umjetne inteligencije identificiran odgovarajući pravni temelj te da su uspostavljene odgovarajuće tehničke i organizacijske mjere zaštite.
Poglavlje I. obuhvaća članke od 1. do 4., kojima se uređuje:
- predmet Uredbe o umjetnoj inteligenciji, odnosno svrha iste,
- područje primjene, odnosno subjekti koji su obvezni ispuniti zahtjeve Uredbe,
- definicije[3],
- pismenost u području umjetne inteligencije.
Osim obveze utvrđivanja primjenjivosti Uredbe o umjetnoj inteligenciji na poslovne aktivnosti, nužno je poduzeti mjere za osiguranje informiranosti i edukacije o regulatornim zahtjevima u području umjetne inteligencije.
Prilikom provedbe aktivnosti edukacije i podizanja svijesti, potrebno je uzeti u obzir tehničku stručnost, prethodno iskustvo, obrazovnu razinu i stupanj osposobljenosti sudionika, kao i specifični kontekst primjene sustava umjetne inteligencije.
Poglavlje II.[4] definira zabranjene prakse u području umjetne inteligencije obuhvaćaju između ostaloga:
- Društveno bodovanje
- Biometrijska kategorizacija
- Korištenje manipulativnih i zavaravajućih tehnika
- Iskorištavanje slabosti određene osobe ili skupina
- Procjena počinjenja kaznenog djela
- Kreiranje/proširenje baze podataka za prepoznavanje lice
- Prepoznavanje emocija na radnom mjestu i u obrazovanju
Također, isto određuje stroge uvjete pod kojima se mogu koristiti sustavi za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima.
S obzirom na stupnjeviti početak primjene, potrebno je voditi računa o sljedećim datumima:
- Uredba o umjetnoj inteligenciji primjenjuje se od kolovoza 2026.
- Ured za umjetnu inteligenciju pri Europskoj komisiji treba predati Kodeks prakse za modele umjetne inteligencije opće namjene do svibnja 2025.
- Početak primjene sljedećih odredbi nastupa od kolovoza 2025.:
- poglavlja III. odjeljka 4. pod nazivom „Tijela koja provode prijavljivanje i prijavljena tijela“ (članci od 28. do 39.)
- poglavlja V. „Modeli umjetne inteligencije opće namjene“ (članci od 51. do 56.)
- poglavlje VII. „Upravljanje“ (članci od 64. do 70.)
- članak 78. „Povjerljivost“
- poglavlje XII. „Sankcije“ (članci od 99. do 100)[5]
Početak primjene članka 6. stavka 1. „Pravila o klasifikaciji UI sustava kao visokorizičnih” i odgovarajućih obveza iz Uredbe primjenjuju se od 2. kolovoza 2027.
[1] Europska komisija je donijela smjernice u pogledu definiranja sustava umjetne inteligencije koje se mogu pronaći na: The Commission publishes guidelines on AI system definition to facilitate the first AI Act’s rules application | Shaping Europe’s digital future
[2] Izjava 3/2024. o ulozi tijela za zaštitu podataka u Aktu o umjetnoj inteligenciji https://www.edpb.europa.eu/system/files/2025-01/edpb_statement_202403_dpasroleaiact_hr.pdf
[3] Europska komisija je donijela smjernice u pogledu definiranja sustava umjetne inteligencije koje se mogu pronaći na: The Commission publishes guidelines on AI system definition to facilitate the first AI Act’s rules application | Shaping Europe’s digital future
[4] Više informacija dostupno u smjernicama Europske komisije na poveznici: Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act. | Shaping Europe’s digital future
[5] Članak 101. se počinje primjenjivati od 2. kolovoza 2026.
