AI Act je uredba Europske unije o umjetnoj inteligenciji, službeno Uredba (EU) 2024/1689, na hrvatskom Akt o umjetnoj inteligenciji. Vrijedi izravno u svim državama članicama, bez prenošenja u domaći zakon, i AI sustave razvrstava prema riziku: što je rizik veći, to su pravila stroža. Na snazi je od 1. kolovoza 2024., a primjenjuje se u fazama do 2028.
Četiri razine rizika
Uredba regulira namjenu, a ne tehnologiju. Isti jezični model može biti bezopasan kad piše opis proizvoda i visokorizičan kad razvrstava kandidate za posao. Kako umjetna inteligencija radi, ovdje je sporedno. Važno je u koju skupinu pada ono za što je koristite.
| Razina | Što obuhvaća | Što Uredba traži |
|---|---|---|
| Neprihvatljiv rizik | društveno bodovanje, štetna manipulacija, prepoznavanje emocija na poslu i u školi, neciljano prikupljanje lica s interneta | zabranjeno |
| Visok rizik | zapošljavanje, procjena kreditne sposobnosti, obrazovanje, kritična infrastruktura, pravosuđe, granice, sigurnosne komponente proizvoda | procjena sukladnosti, dokumentacija, zapisi, ljudski nadzor |
| Rizik transparentnosti | chatbotovi, generirani sadržaj, deepfake | osoba mora znati da je riječ o AI-ju |
| Minimalan rizik | filtri neželjene pošte, AI u videoigrama, alati za pisanje | nema posebnih obveza |
Europska komisija navodi da velika većina AI sustava koji se danas koriste u EU-u pripada posljednjoj skupini.
Zabranjenih praksi sada je devet. Osam ih vrijedi od veljače 2025. Devetu, zabranu sustava koji bez pristanka izrađuju intimne i seksualno eksplicitne prikaze osoba ili materijal zlostavljanja djece, uvele su izmjene iz 2026. i ona se primjenjuje od prosinca 2026.
Rokovi nakon izmjena iz 2026.
Izvorni raspored promijenio je paket poznat kao AI Omnibus, koji je stupio na snagu 27. srpnja 2026. Najveća promjena je odgoda pravila za visokorizične sustave, za koje još nisu bile gotove norme ni alati za provedbu.
| Datum | Što se počinje primjenjivati |
|---|---|
| 2. veljače 2025. | osam zabranjenih praksi i obveza AI pismenosti |
| 2. kolovoza 2025. | pravila za modele opće namjene, poput onih na kojima rade veliki chatbotovi |
| 2. kolovoza 2026. | većina Uredbe, uključujući obveze transparentnosti iz članka 50. |
| prosinac 2026. | zabrana aplikacija za „svlačenje” i sličnih sustava |
| 2. prosinca 2027. | visokorizični sustavi iz Priloga III.: zapošljavanje, krediti, obrazovanje, biometrija, migracije |
| 2. kolovoza 2028. | visokorizični AI ugrađen u proizvode iz Priloga I., na primjer strojeve, dizala i igračke |
Dobavljač i subjekt koji uvodi sustav
Uredba obveze dijeli prema ulozi, a hrvatski tekst koristi dva izraza koja vrijedi zapamtiti. Dobavljač je onaj tko AI sustav razvija i stavlja na tržište pod svojim imenom, primjerice tvrtka koja prodaje chatbot kao uslugu. Subjekt koji uvodi sustav je tvrtka, obrt ili ustanova koja taj sustav koristi u svom poslu. Upotreba u privatne, neprofesionalne svrhe nije obuhvaćena. U službenom hrvatskom tekstu AI sustav se zove „UI sustav”.
Mala firma je gotovo uvijek subjekt koji uvodi sustav. Dobavljač postaje kad sama razvije alat i ponudi ga drugima, a kod visokorizičnih sustava i kad tuđi sustav stavi na tržište pod svojim imenom ili mu bitno promijeni namjenu. Ista podjela vrijedi i za AI agente: uloga ovisi o tome tko ga gradi, a tko ga pušta da radi.
Obveze transparentnosti od kolovoza 2026.
Za većinu malih tvrtki ovo je jedini dio Uredbe koji se stvarno tiče svakodnevnog posla. Članak 50. propisuje četiri stvari:
- Sustav koji razgovara s ljudima mora biti napravljen tako da osoba zna da komunicira s AI-jem, osim ako je to iz okolnosti očito. Obavijest mora stići najkasnije pri prvom kontaktu, jasno i u pristupačnom obliku.
- Alati koji stvaraju tekst, sliku, zvuk ili video moraju svoj izlaz označiti strojno čitljivom oznakom. Tu obvezu ima dobavljač alata.
- Tko objavi deepfake, odnosno realističnu sliku, zvuk ili video koji nalikuje stvarnim osobama, mjestima ili događajima i mogao bi se zamijeniti za stvaran, mora reći da je umjetno izrađen. Kod očito umjetničkih, satiričnih ili fikcijskih djela dovoljna je oznaka koja ne kvari djelo.
- Tekst objavljen da bi se javnost informirala o pitanjima od javnog interesa označava se, osim ako ga je pregledao čovjek i netko za objavu snosi uredničku odgovornost.
Komisija je u srpnju 2026. objavila smjernice o tim obvezama, a uz kodeks prakse za označavanje generiranog sadržaja ponudila je i set ikona koje izdavači mogu koristiti.
Primjer: četiri alata u jednom webshopu
Recimo da webshop s opremom za kampiranje iz Zadra koristi četiri AI alata. Ovako bi izgledala procjena:
| Alat | Razina rizika | Što treba napraviti |
|---|---|---|
| chatbot koji odgovara na pitanja o dostavi | transparentnost | prva poruka kaže da je riječ o virtualnom asistentu |
| jezični model za opise proizvoda | minimalan | po AI Actu ništa, ali podaci u opisu moraju biti točni |
| generirana fotografija šatora na Velebitu | vjerojatno deepfake | oznaka uz sliku da je izrađena pomoću AI-ja |
| alat koji razvrstava prijave za posao u skladištu | visok rizik | od 2. prosinca 2027. ljudski nadzor, praćenje rada sustava i obavijest radnicima |
Tri alata traže malo ili ništa, a za jedini ozbiljan posao vrijedi najdulji rok. Kod fotografije nema potpune sigurnosti: realističan prikaz stvarnog mjesta koji kupac može shvatiti kao pravu fotografiju bliži je deepfakeu nego ilustraciji, pa je oznaka jeftinija od rasprave.
Kazne i nadzor u Hrvatskoj
Uredba propisuje gornje granice kazni. Za zabranjene prakse to je do 35 milijuna eura ili 7 % ukupnog svjetskog godišnjeg prometa. Za većinu ostalih obveza, uključujući transparentnost iz članka 50., do 15 milijuna eura ili 3 %. Netočni ili nepotpuni podaci dani nadležnim tijelima mogu stajati do 7,5 milijuna eura ili 1 %. Velikim tvrtkama prijeti viši od dvaju iznosa, a malim i srednjim poduzećima niži. Pri odmjeravanju se moraju uzeti u obzir interesi i ekonomska održivost malih poduzeća.
Konkretne kazne i tijelo za nadzor tržišta određuje svaka država. U Hrvatskoj je za to predviđen Zakon o provedbi Uredbe (EU) 2024/1689, uvršten u Plan usklađivanja zakonodavstva za 2026. (NN 26/2026), a nositelj je Ministarstvo pravosuđa, uprave i digitalne transformacije. Prije nego što se oslonite na neki iznos ili postupak, u Narodnim novinama provjerite je li zakon donesen i koje tijelo određuje.
Jedan dio je već riješen. Hrvatska je u prosincu 2024. odredila sedam tijela koja štite temeljna prava kod visokorizičnih sustava: pučku pravobraniteljicu, pravobraniteljice za djecu, za ravnopravnost spolova i za osobe s invaliditetom, AZOP, Državno izborno povjerenstvo i Agenciju za elektroničke medije.
Česte pogreške
Najčešća je pretpostavka da se AI Act odnosi samo na tvrtke koje razvijaju umjetnu inteligenciju. Obveze ima i onaj tko je koristi, posebno kod chatbota, deepfakea i visokorizičnih primjena.
Druga je suprotna krajnost: označavati svaki tekst koji je dotaknuo AI. Opis proizvoda ili članak na blogu koji je čovjek pregledao i uredio ne traži oznaku po AI Actu.
Treća je chatbot s ljudskim imenom i fotografijom bez ikakve napomene. Ime smije imati, ali osoba mora znati da ne razgovara s čovjekom.
Četvrta su stari vodiči. Tekstovi o AI Actu napisani prije srpnja 2026. navode kolovoz 2026. kao rok za visokorizične sustave, a taj datum više ne vrijedi.
AI Act, GDPR i NIS2
GDPR štiti osobne podatke, bez obzira na to obrađuje li ih čovjek, tablica ili jezični model. AI Act regulira sam sustav prema njegovoj namjeni i riziku. NIS2 traži kibernetičku sigurnost od subjekata u određenim sektorima.
Chatbot koji pamti razgovore s kupcima tako podliježe AI Actu zbog transparentnosti i GDPR-u zbog podataka koje sprema. Ispunjavanje jednog propisa ne oslobađa drugog.
Česta pitanja
Odnosi li se AI Act na male tvrtke?
Da, ali uglavnom kroz obveze transparentnosti. Mala firma koja koristi chatbot, generirane slike ili alate za pisanje rijetko dolazi do visokorizičnih pravila. Iznimka su alati koji odlučuju o ljudima, na primjer o zapošljavanju ili kreditiranju.
Moram li označiti tekstove i slike izrađene AI-jem?
Realistične slike, zvuk i video koji bi se mogli zamijeniti za stvarne treba označiti od 2. kolovoza 2026. Tekst se označava samo kad informira javnost o pitanjima od javnog interesa i nitko ga nije urednički pregledao. Običan blog i opisi proizvoda koje je pregledao čovjek ne trebaju oznaku po ovoj Uredbi.
Od kada vrijede pravila za visokorizične sustave?
Nakon izmjena iz 2026. za sustave iz Priloga III., poput zapošljavanja, kreditiranja i obrazovanja, od 2. prosinca 2027. Za AI ugrađen u proizvode poput strojeva i igračaka od 2. kolovoza 2028.
Što je AI pismenost?
Izvorno je Uredba od 2. veljače 2025. tražila da tvrtke osiguraju dovoljno znanja o AI-ju kod ljudi koji s njim rade. Izmjenama iz 2026. ta je obveza za tvrtke pojednostavljena, a veću ulogu u promicanju pismenosti preuzimaju Komisija i države članice.
Povezani pojmovi
Chatbot
Program koji u prozoru za razgovor odgovara posjetiteljima stranice. Hvata upite izvan radnog vremena i prosljeđuje ih čovjeku kada zatreba.
Deepfake
Lažna snimka, fotografija ili glas izrađeni umjetnom inteligencijom tako da stvarna osoba izgleda kao da govori ili radi nešto što nikad nije.
LLM
Veliki jezični model: AI sustav naučen na golemoj količini teksta koji piše odgovore predviđajući sljedeću riječ. Na njemu rade ChatGPT, Claude i Gemini.
GDPR
Europska uredba o zaštiti osobnih podataka. Traži pravnu osnovu za svaku obradu, jasnu politiku privatnosti i poštivanje prava na uvid i brisanje.
AI agent
Sustav temeljen na umjetnoj inteligenciji koji sam planira korake i koristi alate, poput preglednika ili e-pošte, kako bi umjesto korisnika obavio zadatak.
Prompt
Uputa ili pitanje koje upišete AI alatu poput ChatGPT-a. Koliko je prompt precizan, toliko će odgovor biti točan i upotrebljiv bez mnogo ispravljanja.
