AI Act to unijne rozporządzenie (UE) 2024/1689, które dzieli systemy sztucznej inteligencji według ryzyka i nakłada obowiązki zarówno na firmy, które je tworzą, jak i na te, które ich używają. Obowiązuje bezpośrednio we wszystkich krajach UE, bez polskiej ustawy wdrażającej, choć każdy kraj musi wyznaczyć własne organy nadzoru. Poniżej wyjaśniamy, czy Twoja firma jest dostawcą, czy podmiotem stosującym, do której klasy ryzyka trafia typowy czatbot, OCR albo scoring, od kiedy obowiązują poszczególne przepisy i co trzeba przygotować od strony technicznej. Piszemy z perspektywy zespołu, który buduje takie systemy, więc to nie jest porada prawna, a przy systemach wysokiego ryzyka i tak potrzebny będzie prawnik.
Czym jest AI Act i kogo dotyczy?
Rozporządzenie weszło w życie 1 sierpnia 2024 r. i obejmuje każdego, kto wprowadza system AI na rynek UE albo używa go zawodowo na terenie Unii. Siedziba nie ma znaczenia, bo amerykański dostawca, którego narzędzie działa w Polsce, podlega tym przepisom tak samo jak polski software house.
Poza zakresem zostają m.in. zastosowania wojskowe, badania naukowe przed wprowadzeniem na rynek i użytek czysto prywatny. Pracownik, który w pracy wkleja umowę do czatu z modelem językowym, korzysta z AI zawodowo, więc firma już jest w zakresie rozporządzenia.
Jesteś dostawcą czy podmiotem stosującym?
AI Act rozdziela obowiązki między kilka ról. Dla większości firm liczą się dwie:
- Dostawca (provider) tworzy system albo zleca jego zbudowanie i wprowadza go na rynek pod własną nazwą. Na nim spoczywa ciężar: ocena zgodności, dokumentacja techniczna, system zarządzania jakością.
- Podmiot stosujący (deployer) używa cudzego systemu w ramach swojej działalności, np. bank korzystający z gotowego narzędzia do oceny wniosków. Ma mniej obowiązków, ale odpowiada za to, jak i do czego system jest używany w jego procesach.
Ta granica może się przesunąć, bo według art. 25 podmiot stosujący staje się dostawcą, gdy oznacza system wysokiego ryzyka swoją marką, istotnie go modyfikuje albo zmienia jego przeznaczenie tak, że trafia on do wysokiego ryzyka. Firma, która na bazie modelu Llama buduje własny system do selekcji CV, jest więc dostawcą tego systemu, choć sam model napisał ktoś inny.
Jakie są klasy ryzyka w AI Act?
Obowiązki zależą od zastosowania, a nie od technologii, więc ten sam model językowy może działać w czatbocie o minimalnym ryzyku i w systemie oceny kandydatów, który jest wysokiego ryzyka.
| Klasa | Przykłady w firmie | Co oznacza |
|---|---|---|
| Zakazane (art. 5) | Rozpoznawanie emocji pracowników, scoring społeczny, manipulacja podprogowa, nieukierunkowane zbieranie wizerunków twarzy z internetu | Nie wolno ich stosować od 2 lutego 2025 r. |
| Wysokie ryzyko (art. 6, załączniki I i III) | Selekcja CV i ocena pracowników, ocena zdolności kredytowej, wycena ubezpieczeń na życie i zdrowotnych, AI jako wyrób medyczny, dostęp do świadczeń publicznych | Dokumentacja, logi, nadzór człowieka, ocena zgodności, rejestracja |
| Ograniczone ryzyko, przejrzystość (art. 50) | Czatbot na stronie, generowanie obrazów i tekstów, deepfake'i | Informacja, że to AI, i oznaczanie treści |
| Minimalne ryzyko | Filtr spamu, OCR faktur, streszczanie dokumentów, wyszukiwarka w bazie wiedzy | Brak szczególnych wymogów poza kompetencjami AI |
OCR dokumentów sam w sobie mieści się w minimalnym ryzyku, ale zmienia się to, gdy wynik odczytu bezpośrednio decyduje o kredycie albo zatrudnieniu, bo wtedy liczy się cały proces, w którym działa. Odwrotny wyjątek opisuje art. 6 ust. 3: system z załącznika III nie jest wysokiego ryzyka, jeśli wykonuje wąskie zadanie proceduralne albo tylko przygotowuje ocenę, którą robi człowiek. Nie dotyczy to profilowania osób, które zawsze zostaje w wysokim ryzyku, a dostawca musi swoją ocenę udokumentować.
Od kiedy obowiązuje AI Act?
Przepisy wchodzą etapami. W lipcu 2026 r. w Dzienniku Urzędowym UE opublikowano rozporządzenie (UE) 2026/1744, nazywane Digital Omnibus on AI, które przesunęło terminy dla systemów wysokiego ryzyka. Stan po tej zmianie:
- 1 sierpnia 2024: wejście w życie.
- 2 lutego 2025: zakazane praktyki i obowiązek dbania o kompetencje AI (AI literacy).
- 2 sierpnia 2025: obowiązki dostawców modeli ogólnego przeznaczenia (GPAI), przepisy o organach nadzoru i karach.
- 2 sierpnia 2026: większość pozostałych przepisów, w tym obowiązki przejrzystości z art. 50.
- 2 grudnia 2026: nowe zakazy dotyczące generowania intymnych wizerunków bez zgody i treści CSAM. Do tej daty dostawcy systemów wprowadzonych na rynek przed 2 sierpnia 2026 r. mają czas na techniczne oznaczanie generowanych treści.
- 2 grudnia 2027: systemy wysokiego ryzyka z załącznika III (pierwotnie 2 sierpnia 2026 r.).
- 2 sierpnia 2028: systemy wysokiego ryzyka wbudowane w produkty z załącznika I, np. wyroby medyczne (pierwotnie 2 sierpnia 2027 r.).
Omnibus zmienił też art. 4. Zamiast zapewnić „wystarczający poziom” kompetencji AI, firma ma podejmować działania wspierające ich rozwój. Przed audytem albo przetargiem sprawdź wersję skonsolidowaną na EUR-Lex, bo terminy zmieniały się już raz i mogą zmienić się znowu.
Co musi zrobić firma, która używa AI?
Część obowiązków dotyczy każdej firmy, część tylko systemów wysokiego ryzyka.
Każda firma używająca AI
- Kompetencje AI zespołu. Pracownicy, którzy obsługują systemy AI, powinni rozumieć, co narzędzie potrafi, gdzie się myli i czego nie wolno do niego wklejać, a w praktyce wystarczy szkolenie dopasowane do roli i notatka, kto je przeszedł.
- Informacja o kontakcie z AI. Klient rozmawiający z czatbotem musi o tym wiedzieć. Formalnie to obowiązek dostawcy, ale jeśli czatbot zbudowała Twoja firma, to Ty nim jesteś.
- Oznaczanie treści. Deepfake'i trzeba ujawniać. Tekst wygenerowany przez AI i opublikowany w sprawach interesu publicznego też, chyba że przeszedł redakcję człowieka, który bierze za niego odpowiedzialność.
- Inwentaryzacja. Lista narzędzi AI w firmie z celem użycia i klasą ryzyka, bo bez niej nie da się odpowiedzieć na pytanie audytora ani klienta.
Podmiot stosujący system wysokiego ryzyka (art. 26)
- Używaj systemu zgodnie z instrukcją dostawcy.
- Powierz nadzór osobom z odpowiednimi kompetencjami i uprawnieniami, które mogą zatrzymać system albo odrzucić jego wynik.
- Pilnuj, żeby dane wejściowe były adekwatne do celu, o ile masz na nie wpływ.
- Przechowuj automatycznie generowane logi co najmniej sześć miesięcy.
- Przed wdrożeniem w miejscu pracy poinformuj pracowników i ich przedstawicieli.
- Poinformuj osoby, wobec których system wspiera decyzje, że jest używany.
Podmioty publiczne, firmy świadczące usługi publiczne oraz instytucje stosujące scoring kredytowy albo wycenę ubezpieczeń na życie i zdrowotnych muszą dodatkowo przeprowadzić ocenę skutków dla praw podstawowych (FRIA, art. 27).
Jak AI Act łączy się z RODO?
AI Act nie zastępuje RODO, tylko działa obok niego. Jeśli system przetwarza dane osobowe, nadal potrzebujesz podstawy prawnej, umowy powierzenia z dostawcą modelu i, przy przetwarzaniu wysokiego ryzyka, oceny skutków dla ochrony danych (DPIA z art. 35 RODO). Art. 26 AI Act wprost każe podmiotowi stosującemu wykorzystać do DPIA informacje od dostawcy systemu.
Przy decyzjach podejmowanych wyłącznie automatycznie, które istotnie wpływają na człowieka, dochodzi art. 22 RODO, a klasycznym przykładem jest odmowa kredytu wydana przez model bez udziału pracownika, który mógłby ją zweryfikować. Nadzór człowieka, którego wymaga AI Act, pomaga spełnić oba rozporządzenia jednocześnie, pod warunkiem że ten człowiek naprawdę może zmienić wynik, a nie tylko go klika.
Jakie zabezpieczenia techniczne przygotować?
Przepisy opisują cel, a implementacja należy do zespołu, który system buduje. Ta lista pochodzi z naszych wdrożeń i przyda się także przy systemach poza wysokim ryzykiem, bo te same pytania zadaje dział bezpieczeństwa klienta:
- Logi. Zapis wejścia, wyniku, wersji modelu i promptu, czasu i użytkownika, bo bez wersji modelu nie odtworzysz, dlaczego system pół roku temu odpowiedział inaczej.
- Nadzór człowieka. Kroki z konsekwencjami prawnymi albo finansowymi system przygotowuje, a zatwierdza pracownik, któremu interfejs pokazuje źródła, na których oparł się model.
- Dokumentacja systemu. Cel, zakres, użyte modele, źródła danych, znane ograniczenia, kto odpowiada za zmiany.
- Ewaluacja na prawdziwych przypadkach. Zestaw testowy z oczekiwanymi wynikami, uruchamiany po każdej zmianie modelu albo promptu, którego wynik trzymasz w repozytorium, więc masz dowód jakości z konkretnego dnia.
- Kontrola dostępu. Uprawnienia sprawdzane po stronie serwera, osobne role dla użytkownika i administratora, rejestr zmian konfiguracji.
- Dane w UE albo lokalnie. Model hostowany w UE albo uruchomiony na serwerze firmy upraszcza RODO, skraca listę podmiotów przetwarzających i daje pełny dostęp do logów.
Przy agentach AI, które same wykonują działania w systemach, dochodzą limity kroków i kosztów, o których piszemy więcej w tekście Agent AI w firmie.
Co AI Act oznacza dla medtechu, finansów i administracji?
Medtech i farmacja
Oprogramowanie AI, które jest wyrobem medycznym podlegającym ocenie przez jednostkę notyfikowaną, trafia do wysokiego ryzyka przez załącznik I. Obowiązki AI Act nakładają się wtedy na wymogi MDR albo IVDR, a termin to 2 sierpnia 2028 r. Systemy pomocnicze, np. wyszukiwanie w dokumentacji albo odczyt formularzy, zwykle zostają poza tą kategorią, ale w produkcji objętej GMP i tak muszą przejść walidację.
Finanse i ubezpieczenia
Ocena zdolności kredytowej osób fizycznych oraz wycena ubezpieczeń na życie i zdrowotnych są w załączniku III, natomiast wykrywanie oszustw finansowych zostało z tej kategorii wprost wyłączone. Banki i ubezpieczyciele mają dodatkowo obowiązek FRIA.
Administracja publiczna
Urząd, który używa AI do oceny prawa do świadczeń, wchodzi w wysokie ryzyko i musi przeprowadzić FRIA. Asystent, który pomaga urzędnikowi znaleźć przepis albo przygotować projekt pisma, zwykle do tej kategorii nie trafia, ale nadal obowiązują go RODO i zasady przejrzystości wobec mieszkańców.
Jakie kary przewiduje AI Act?
Za stosowanie zakazanych praktyk grozi do 35 mln euro albo 7% światowego rocznego obrotu, w zależności od tego, która kwota jest wyższa. Naruszenie pozostałych obowiązków, w tym obowiązków podmiotu stosującego i przejrzystości, to do 15 mln euro albo 3% obrotu. Podanie organom nieprawdziwych informacji kosztuje do 7,5 mln euro albo 1%. Dla MŚP i startupów górną granicą jest niższa z dwóch kwot, co przy małym obrocie oznacza zwykle procent, a nie miliony euro.
Jak wdrażamy AI zgodnie z AI Act w ASAPDevs?
W ASAPDevs budujemy systemy AI na modelach lokalnych albo hostowanych w UE: Llama, Qwen, Bielik i PLLuM. Dla firmy z branży medyczno-farmaceutycznej zbudowaliśmy system do pracy z dokumentami na modelu Llama 3.3 70B hostowanym w UE. W pilotażu dla firmy biotechnologicznej model odczytuje pismo odręczne w dokumentacji produkcyjnej GMP i działa na serwerze GPU klienta, więc dokumenty nie opuszczają firmy.
Agenci, których wdrażamy, proszą człowieka o akceptację ryzykownych kroków, zapisują każde działanie w logu i mają limity kosztów. Dla samorządów przygotowaliśmy SamorzadAI, który działa on-premise, a dane zostają w urzędzie. Podpisujemy umowę powierzenia przetwarzania danych i jesteśmy w trakcie wdrażania ISO/IEC 27001. Modele, które uruchamiamy, opisujemy w ofercie lokalnych modeli AI, a agentów w ofercie agentów AI.
Planujesz system AI w medtechu, finansach albo administracji? Pomożemy ustalić klasę ryzyka i zaprojektować logi, nadzór i hosting tak, żeby audyt nie kończył się przebudową systemu. Zobacz, jak wdrażamy AI w branżach regulowanych →
