EU AI Act klasyfikuje AI stosowaną w decyzjach personalnych jako system wysokiego ryzyka. Od klasyfikacji ryzyka przez monitoring biasu po nadzór ludzki - to teraz wymagania prawne, nie opcjonalne funkcje.
W skrócie - Obowiązki EU AI Act dla HR
- Każdy system AI wpływający na decyzje HR - rekrutacja, ocena wyników, wynagrodzenia, awanse - to system wysokiego ryzyka wg Załącznika III EU AI Act.
- Cztery kluczowe wymagania: klasyfikacja ryzyka każdego systemu AI, obowiązkowy monitoring biasu, wymuszony nadzór ludzki oraz pełna transparentność z dokumentacją.
- Typowe błędy: retroaktywna zgodność zamiast Governance by Design, deklarowanie narzędzi AI jako "jedynie wspierających" i zbyt późne informowanie rady pracowników.
- Właściwe podejście to Architecture-First: Decision Layer rozkłada każdy proces HR na pojedyncze kroki decyzyjne z logowaniem, wersjonowaniem i Human-in-the-Loop od pierwszego dnia.
- Kary do 35 milionów euro lub 7% globalnego rocznego obrotu. Obowiązujący termin obowiązków dla systemów wysokiego ryzyka to 2 sierpnia 2026 r.; na mocy wstępnego porozumienia Digital Omnibus z maja 2026 r. ma zostać przesunięty na 2 grudnia 2027 r. (przyjęcie w toku).
Parlament Europejski (2024) szacuje, że HR i zatrudnienie stanowią największą pojedynczą kategorię zastosowań AI wysokiego ryzyka w ramach EU AI Act, dotykając szacunkowo 85% dużych przedsiębiorstw stosujących AI w rekrutacji lub zarządzaniu personelem.
| Proces HR | Klasyfikacja EU AI Act | Kluczowe wymaganie |
|---|---|---|
| Screening CV / Rekrutacja | Wysokie ryzyko (Załącznik III) | Monitoring biasu, Audit Trail |
| Ocena wyników | Wysokie ryzyko (Załącznik III) | Nadzór ludzki, transparentność |
| Decyzje o awansach | Wysokie ryzyko (Załącznik III) | Wyjaśnialność, Human-in-the-Loop |
| Planowanie zmian (z danymi personalnymi) | Potencjalnie wysokie ryzyko | Ocena ryzyka, governance danych |
| Compliance Knowledge Agent | Ograniczone ryzyko | Obowiązek transparentności |
EU AI Act i HR: dlaczego to jest istotne
EU AI Act (Rozporządzenie (UE) 2024/1689) obowiązuje od sierpnia 2024. Reguluje systemy AI według ich ryzyka. Dla działów HR klasyfikacja jest jednoznaczna: systemy AI stosowane do podejmowania decyzji dotyczących osób fizycznych w kontekście zatrudnienia są systemami wysokiego ryzyka (Załącznik III, punkt 4).
Dotyczy to nie tylko automatycznego oprogramowania rekrutacyjnego. Dotyczy każdego zastosowania AI mającego wpływ na decyzje personalne: screening kandydatów, ocena wyników, propozycje wynagrodzeń, rekomendacje awansów, planowanie zmian z optymalizacją AI, automatyczne generowanie referencji.
Zgodnie z obowiązującym prawem obowiązki dla systemów wysokiego ryzyka mają zastosowanie od 2 sierpnia 2026 r., jednak na mocy wstępnego porozumienia Digital Omnibus z 7 maja 2026 r. mają zostać przesunięte na 2 grudnia 2027 r. (przyjęcie wciąż w toku). To daje firmom najprawdopodobniej dodatkowy czas na przygotowanie, ale klasyfikacja wysokiego ryzyka pozostaje w mocy, a decyzje architektoniczne muszą być podejmowane teraz.
Czego EU AI Act konkretnie wymaga
Dla systemów AI wysokiego ryzyka w obszarze HR EU AI Act wymaga:
System zarządzania ryzykiem (Art. 9): Ciągłe zarządzanie ryzykiem przez cały cykl życia systemu AI. Identyfikacja ryzyk, ocena, środki zaradcze, przegląd. To nie jest jednorazowa analiza, lecz ciągły proces.
Jakość danych (Art. 10): Dane treningowe, walidacyjne i testowe muszą być istotne, reprezentatywne, wolne od błędów i kompletne. Dla HR oznacza to: jeśli agent jest trenowany na historycznych decyzjach personalnych, dane te muszą być sprawdzone pod kątem biasu. Historyczna dyskryminacja w danych będzie inaczej reprodukowana przez system AI.
Dokumentacja techniczna (Art. 11): Pełna dokumentacja systemu AI przed uruchomieniem. Cel, sposób działania, wskaźniki wydajności, ograniczenia, ryzyka. Dokumentacja musi być aktualizowana.
Przechowywanie logów (Art. 12): Automatyczne protokołowanie wszystkich zdarzeń przez cały okres życia systemu. W kontekście HR: każda decyzja, każda rekomendacja, każda eskalacja.
Human Oversight (Art. 14): Nadzór ludzki musi być zagwarantowany. Człowiek musi rozumieć możliwości i ograniczenia systemu, być w stanie interpretować wyniki i mieć możliwość interwencji lub wyłączenia systemu.
Monitoring biasu: EU AI Act wymaga, aby systemy wysokiego ryzyka były monitorowane pod kątem uprzedzeń. Dla decyzji HR oznacza to: analiza statystyczna wszystkich decyzji agentów. Czy określone grupy są systematycznie traktowane inaczej?
Transparentność (Art. 13): Osoby, których decyzje dotyczą, muszą być informowane o stosowaniu systemów AI.
Co to oznacza dla architektury
Wymagania EU AI Act to nie środki organizacyjne. To wymagania architektoniczne. System AI, który ma spełnić te wymagania po fakcie, musi być gruntownie przebudowany.
Decision Layer: Decision Layer rozkłada każdy proces HR na pojedyncze kroki decyzyjne i definiuje dla każdego kroku: człowiek, zestaw reguł lub AI. Rules Engine implementuje wersjonowane zestawy reguł. Confidence Routing zapewnia ocenę ryzyka. Mechanizm Human-in-the-Loop gwarantuje nadzór ludzki. Audit Trail spełnia obowiązek przechowywania logów.
Monitoring biasu: Przez Decision Layer wszystkie decyzje agentów są analizowane statystycznie. Odchylenia od oczekiwanych rozkładów są wykrywane i eskalowane. To nie jest ręczny proces przeglądu, lecz automatyczny monitoring.
Portal Audytora: Dokumentacja techniczna i dowody są dostępne w Portalu Audytora w każdej chwili. Audytorzy - wewnętrzni i zewnętrzni - widzą status na żywo wszystkich kontroli.
Harmonogram: co musi się teraz wydarzyć
Natychmiast: Inwentaryzacja wszystkich systemów AI w obszarze HR. Również tych, które nie są oznaczone jako “AI”: algorytmy scoringowe w oprogramowaniu rekrutacyjnym, planowanie zmian oparte na AI, automatyczne generowanie tekstów.
Do Q3 2026: Wdrożenie systemu zarządzania ryzykiem. Podjęcie decyzji architektonicznych. Implementacja infrastruktury governance.
Od 2 sierpnia 2026 r.: Systemy wysokiego ryzyka muszą w pełni spełniać wymagania EU AI Act (obowiązujący termin; wstępnie uzgodnione przesunięcie na 2 grudnia 2027 r. - Digital Omnibus, maj 2026, przyjęcie w toku).
W Polsce EU AI Act obowiązuje bezpośrednio jako rozporządzenie UE, bez potrzeby implementacji do prawa krajowego. Dodatkowo Kodeks Pracy i Ustawa o radach pracowników (2006) dają Radzie Zakładowej prawo do informacji i konsultacji przy wdrażaniu systemów technicznych wpływających na warunki pracy. Związki zawodowe mogą negocjować warunki wdrożenia AI w porozumieniach zakładowych. Decision Layer adresuje oba bloki wymagań - EU AI Act i polskie prawo do konsultacji - w jednej architekturze.
Firmy, które teraz wdrażają agentów AI do procesów HR, powinny od początku projektować architekturę zgodną z EU AI Act. Retrospektywna zgodność jest technicznie możliwa, ale znacznie bardziej pracochłonna i kosztowna.
Więcej na ten temat: EU AI Act Readiness
Więcej o agentach AI w HR i ich zgodności z polskimi przepisami.
Umów spotkanie - Pokażemy, jak Twoje systemy AI w HR mogą być zgodne z EU AI Act.
Bert Gogolin
Dyrektor Generalny, Gosign
AI Governance Briefing
Enterprise AI, regulacje i infrastruktura - raz w miesiącu, bezpośrednio ode mnie.