Sustavi umjetne inteligencije sve se češće koriste u poslovanju, javnom sektoru, pružanju usluga, komunikaciji s korisnicima, analizi podataka i postupcima odlučivanja. Kada se pri razvoju, treniranju, testiranju ili uporabi takvih sustava obrađuju osobni podaci, primjenjuje se Opća uredba o zaštiti podataka.
Agencija za zaštitu osobnih podataka u ovoj rubrici objavljuje smjernice, preporuke i druge korisne materijale namijenjene voditeljima i izvršiteljima obrade, službenicima za zaštitu podataka, razvojnim timovima te organizacijama koje koriste ili planiraju koristiti sustave umjetne inteligencije.
Cilj je ovih materijala pomoći organizacijama da na vrijeme prepoznaju obveze i rizike povezane s obradom osobnih podataka u kontekstu umjetne inteligencije. To uključuje, među ostalim, pravilno određivanje svrhe i pravne osnove obrade, poštovanje načela transparentnosti i smanjenja količine podataka, osiguravanje sigurnosti obrade, provedbu procjene učinka kada je potrebna te omogućavanje ostvarivanja prava ispitanika.
Umjetna inteligencija može donijeti brojne koristi, ali njezina uporaba ne smije dovesti do netransparentne, nerazmjerne ili nepoštene obrade osobnih podataka. Upravo iz tog razloga je važno o zaštiti osobnih podataka razmišljati već u fazi planiranja, razvoja, nabave i uvođenja sustava umjetne inteligencije, a ne tek nakon što je sustav stavljen u uporabu.
Agencija ističe da razvoj i uporabu sustava umjetne inteligencije treba razmatrati u svjetlu zaštite temeljnih prava zajamčenih Poveljom Europske unije o temeljnim pravima. Posebno su relevantni članak 7., kojim se jamči poštovanje privatnog i obiteljskog života, doma i komuniciranja, te članak 8., kojim se jamči zaštita osobnih podataka. Članak 8. zahtijeva poštenu obradu podataka za određene svrhe i na odgovarajućoj pravnoj osnovi te jamči pristup vlastitim podacima, njihov ispravak i neovisan nadzor nad poštovanjem pravila zaštite podataka. Ta su jamstva osobito važna kada sustavi umjetne inteligencije povezuju podatke iz različitih izvora, izrađuju profile pojedinaca ili zaključuju o njihovim osobnim obilježjima, ponašanju i životnim okolnostima.
Ovisno o namjeni i načinu uporabe, umjetna inteligencija može utjecati i na ljudsko dostojanstvo iz članka 1., slobodu izražavanja i informiranja iz članka 11., pravo na obrazovanje iz članka 14. te slobodu izbora zanimanja i pravo na rad iz članka 15. Povelje. Pristrani podaci i kriteriji odlučivanja mogu ugroziti zabranu diskriminacije iz članka 21. i ravnopravnost žena i muškaraca iz članka 23. Posebnu pozornost potrebno je posvetiti pravima djece iz članka 24. i uključivanju osoba s invaliditetom, na koje se odnosi članak 26. Primjerice, sustav koji neopravdano nepovoljnije rangira određene skupine kandidata može otežati pristup obrazovanju ili zaposlenju, dok opsežno praćenje ponašanja može zadirati u privatnost i odvraćati pojedince od slobodnog izražavanja.
Agencija stoga preporučuje da se mogući učinci na temeljna prava procjenjuju već pri planiranju, razvoju i nabavi sustava te prate tijekom njegove uporabe. Povelja predstavlja mjerilo tumačenja i primjene prava Unije, uz poštovanje njezina područja primjene iz članka 51. Pri procjeni zadiranja u privatnost i zaštitu osobnih podataka potrebno je uzeti u obzir i članak 52. stavak 1. Povelje: ograničenja moraju imati zakonsko uporište, poštovati bit prava te zadovoljiti zahtjeve nužnosti i razmjernosti. Sama tehnička mogućnost obrade ili očekivana učinkovitost sustava ne predstavljaju dostatno opravdanje za takvo zadiranje.
Materijali objavljeni u ovoj rubrici služe kao pomoć u razumijevanju i primjeni Opće uredbe o zaštiti podataka te ne oslobađaju voditelje i izvršitelje obrade njihove odgovornosti da za svaki konkretan sustav, svrhu i kontekst uporabe provedu vlastitu procjenu zakonitosti, nužnosti, razmjernosti i rizika obrade.
Objavljeno: 11.5.2026.
Objavljeno: 8.5.2026.
Rizici u sustavima umjetne inteligencije i mjere za njihovo ublažavanje
Objavljeno: 7.5.2026.
Zaštita osobnih podataka i umjetna inteligencija: često postavljana pitanja
Objavljeno: 20.8.2025.
Metodologija za provedbu procjene učinka na ljudska prava (FRIA)
Objavljeno: 14.3.2025.
