EU AI Act
EU AI Act (nariadenie 2024/1689) je prvý komplexný právny rámec pre umelú inteligenciu na svete. Zavádza systém klasifikácie založený na riziku pre systémy AI a podľa úrovne rizika ukladá požiadavky siahajúce od povinností transparentnosti až po úplné zákazy. Pre výrobcov hardvéru, ktorí vyvíjajú výrobky s AI, má tento akt priame dôsledky pre návrh Edge AI, dokumentáciu a posudzovanie zhody.
Kľúčové fakty
| Údaj | Informácia |
|---|---|
| Celý názov | Nariadenie (EÚ) 2024/1689, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie |
| Nadobudnutie platnosti | 1. augusta 2024 |
| Zakázané praktiky využívajúce AI | 2. februára 2025 |
| Povinnosti pre GPAI | 2. augusta 2025 |
| Všeobecné uplatňovanie | 2. augusta 2026 |
| Povinnosti pre vysokorizikovú AI | 2. decembra 2027 (systémy podľa prílohy III); 2. augusta 2028 (AI vo výrobkoch podľa prílohy I) — v znení nariadenia (EÚ) 2026/1744 |
| Pôsobnosť | Všetky systémy AI uvedené na trh EÚ alebo používané v EÚ bez ohľadu na to, kde boli vyvinuté |
| Sankcia | Až 35 miliónov € alebo 7 % celosvetového ročného obratu (zakázané praktiky) |
Kategórie rizika
AI Act zaraďuje systémy AI do štyroch úrovní:
| Úroveň rizika | Príklady | Povinnosti |
|---|---|---|
| Neprijateľné | Sociálne bodovanie (social scoring), biometrická identifikácia v reálnom čase na verejnosti (s výnimkami), manipulatívna AI | Zakázané — nemožno ich uviesť na trh EÚ |
| Vysoké riziko | Zdravotnícke pomôcky s AI, bezpečnostné komponenty vo vozidlách, monitorovanie kritickej infraštruktúry, biometrická identifikácia, preverovanie uchádzačov o zamestnanie | Úplné posudzovanie zhody, riadenie rizík, správa údajov, ľudský dohľad, technická dokumentácia |
| Obmedzené riziko | Chatboty, rozpoznávanie emócií, deepfaky | Povinnosti transparentnosti — používatelia musia byť informovaní, že komunikujú s AI |
| Minimálne riziko | Spamové filtre s AI, AI vo videohrách, riadenie zásob | Žiadne osobitné povinnosti (odporúčajú sa dobrovoľné kódexy správania) |
Dopad na hardvérové výrobky
Zariadenia Edge AI
Pre výrobcov, ktorí vyvíjajú výrobky s inferenciou AI priamo v zariadení (Edge AI), má AI Act vplyv na tieto oblasti:
| Požiadavka | Čo to znamená pre hardvér |
|---|---|
| Klasifikácia rizika | Výrobca výrobku musí klasifikovať úroveň rizika systému AI |
| Technická dokumentácia | Úplná dokumentácia modelu AI, trénovacích údajov a metrík výkonnosti |
| Posudzovanie zhody | Vysokoriziková AI zabudovaná v hardvéri môže vyžadovať posúdenie treťou stranou |
| Ľudský dohľad | Hardvér musí poskytovať rozhrania na preskúmanie/zvrátenie rozhodnutí AI človekom |
| Zaznamenávanie presnosti | Systém musí zaznamenávať rozhodnutia AI na účely auditu a monitorovania zaujatosti (bias) |
| Správa údajov | Trénovacie údaje musia byť zdokumentované vrátane opatrení na zmiernenie zaujatosti |
| Monitorovanie po uvedení na trh | Priebežné monitorovanie výkonnosti nasadených systémov AI |
Edge AI ako stratégia súladu s predpismi
Spracovanie údajov priamo v zariadení pomocou Edge AI môže v porovnaní s cloudovou AI znížiť regulačnú záťaž:
| Aspekt | Cloudová AI | Edge AI |
|---|---|---|
| Prenosy údajov | Údaje sa odosielajú na servery tretích strán — obavy z hľadiska GDPR | Údaje zostávajú v zariadení — jednoduchší súlad s predpismi |
| Spracúvanie treťou stranou | Poskytovateľ cloudu je sprostredkovateľom — vyžaduje sa zmluva o spracúvaní údajov (DPA) | Žiadne spracúvanie treťou stranou — priama kontrola |
| Audítorská stopa | Treba auditovať systémy AI poskytovateľa cloudu | Samostatný, auditovateľný systém v zariadení |
| Latencia z hľadiska bezpečnosti | Závislá od siete — nevhodná pre bezpečnostne kritické použitie | Deterministická lokálna inferencia — vhodná z hľadiska bezpečnosti |
| Dokumentácia podľa AI Act | Treba zdokumentovať cloudový reťazec spracovania AI | Jednoduchšia — jedno zariadenie, jedno nasadenie |
Strategická výhoda: Edge AI na vyhradenej jednotke NPU odstraňuje obavy spojené s prenosom údajov, zjednodušuje súlad s GDPR a zmenšuje rozsah posudzovania zhody podľa AI Act. Preto naše návrhy edge AI kladú dôraz na inferenciu priamo v zariadení.
AI Act vs. ostatné predpisy EÚ
| Predpis | Na čo sa zameriava | Väzba na AI Act |
|---|---|---|
| AI Act | Systémy AI (softvér + hardvér) | Hlavný predpis pre AI |
| CRA | Kybernetická bezpečnosť výrobkov | Výrobky s AI musia byť v súlade s oboma predpismi — AI Act aj CRA |
| GDPR | Ochrana osobných údajov | AI, ktorá spracúva osobné údaje, musí byť v súlade s GDPR + AI Act |
| NIS2 | Bezpečnosť organizácií | Uplatňuje sa nezávisle: organizácia patrí do pôsobnosti NIS2 podľa sektora a veľkosti, nie preto, že nasadzuje AI |
| Nariadenie o zdravotníckych pomôckach | Zdravotnícke pomôcky | Zdravotnícke pomôcky založené na AI, ktoré vyžadujú posúdenie notifikovanou osobou, sú vysokorizikové (čl. 6 ods. 1) |
| Nariadenie o strojových zariadeniach | Priemyselné stroje | Bezpečnostné komponenty s AI v strojových zariadeniach môžu byť vysokorizikové (čl. 6 ods. 1); požiadavky sa začleňujú do nariadenia o strojových zariadeniach |
Modely AI na všeobecné účely (GPAI)
AI Act reguluje aj základné modely (foundation models) a GPAI (napr. veľké jazykové modely):
- Všetky modely GPAI: Musia poskytovať technickú dokumentáciu, dodržiavať autorské právo EÚ a zverejňovať zhrnutia trénovacích údajov.
- Modely GPAI so systémovým rizikom (predpokladá sa pri kumulatívnom objeme výpočtov pri trénovaní nad 10²⁵ operácií s pohyblivou rádovou čiarkou, alebo ak model určí Komisia): Dodatočné požiadavky na hodnotenie modelu, testovanie odolnosti voči útokom (adversarial testing), zmierňovanie systémových rizík, oznamovanie závažných incidentov a kybernetickú bezpečnosť.
Súvisiace pojmy
- Edge AI — Inferencia AI priamo v zariadení, ktorá vďaka lokálnemu spracovaniu údajov zjednodušuje súlad s AI Act.
- CRA — Nariadenie o kybernetickej bezpečnosti výrobkov, ktoré sa na pripojené zariadenia s AI uplatňuje súbežne s AI Act.
- NIS2 — Smernica o kybernetickej bezpečnosti organizácií; uplatňuje sa súbežne, ak je nasadzujúci subjekt kľúčovým alebo dôležitým subjektom.
Oficiálne referencie
- Nariadenie (EÚ) 2024/1689 (EU AI Act) — úplné znenie — EUR-Lex, Úradný vestník Európskej únie
- Nariadenie (EÚ) 2026/1744 (Digital Omnibus on AI) — pozmeňujúci akt — EUR-Lex (nové dátumy začatia uplatňovania povinností pre vysokorizikovú AI)
- EU AI Act — stránka Európskej komisie o tejto politike — Európska komisia, Digitálna stratégia