Problem: HITL jako twierdzenie marketingowe
Niemal każdy dostawca AI twierdzi, że jego rozwiązanie posiada “Human-in-the-Loop”. W praktyce często oznacza to: gdzieś w procesie jest przycisk zatwierdzania. Człowiek może go kliknąć. Ale nie musi.
To nie jest Human-in-the-Loop. To opcjonalne zatwierdzenie, które pod presją czasu zostaje pominięte. Gdy pracownik przetwarza 200 dokumentów dziennie i 195 z nich jest poprawnych, w końcu zacznie zatwierdzać wszystkie bez przeglądu.
Prawdziwy Human-in-the-Loop to zasada architektoniczna. Oznacza: przy zdefiniowanych typach decyzji agent fizycznie nie może działać autonomicznie. Workflow się zatrzymuje. System docelowy nie jest wywoływany. Dopiero po ludzkiej weryfikacji i udokumentowanym zatwierdzeniu proces jest kontynuowany.
W skrócie - Architektura Human-in-the-Loop
- Prawdziwy HITL to zasada architektoniczna, nie opcjonalny przycisk zatwierdzenia - agent fizycznie nie może ominąć weryfikacji ludzkiej przy zdefiniowanych typach decyzji.
- Trzy wyzwalacze: niska wartość pewności, klasyfikacja wysokiego ryzyka (dyskryminacja, konsultacja) i pierwsze zastosowanie nowych reguł.
- EU AI Act wymaga efektywnego nadzoru ludzkiego dla systemów AI wysokiego ryzyka - procesy HR wyraźnie podlegają tej kategorii.
- Porozumienia zakładowe stają się ograniczeniami technicznymi w Decision Layer, których system nie może ominąć.
- HITL nie rozwiązuje problemu biasu w danych treningowych i nie skaluje się liniowo - to jeden element obok Audit Trail, monitoringu biasu i kontroli Cert-Ready.
Według Komisji Europejskiej (2024), nadzór ludzki jest wymagany dla wszystkich systemów AI wysokiego ryzyka zgodnie z EU AI Act, a procesy HR są wyraźnie wymienione w Załączniku III - co czyni architektonicznie wymuszone Human-in-the-Loop koniecznością prawną, a nie wyborem projektowym.
| Wyzwalacz HITL | Opis | Konfigurowalny |
|---|---|---|
| Niska wartość pewności | Niepewność agenta poniżej zdefiniowanego progu | Tak, per klient |
| Ryzyko dyskryminacji | Decyzje z potencjałem dyskryminacyjnym | Zawsze eskalowane |
| Kwestie konsultacyjne | Decyzje wymagające konsultacji z Radą Zakładową | Zawsze eskalowane |
| Przekroczenie progu wartości | Kwota powyżej limitu autonomicznego przetwarzania | Tak, per klient |
| Wprowadzenie nowej reguły | Pierwsze zastosowanie nowego zestawu reguł | W fazie uczenia |
HITL jako techniczne zasada architektoniczna
W architekturze Gosign Human-in-the-Loop jest zaimplementowany w Decision Layer. Decyzja o tym, kiedy człowiek jest włączany, opiera się na trzech kryteriach:
Confidence Routing: Każda decyzja agenta ma wartość pewności. Jeśli pewność spada poniżej zdefiniowanego progu, następuje automatyczna eskalacja. Próg jest konfigurowalny dla każdego klienta.
Klasyfikacja ryzyka: Określone typy decyzji są zawsze eskalowane niezależnie od pewności. Decyzje z potencjałem dyskryminacyjnym, kwestie wymagające konsultacji, przekroczenia progów wartości.
Regularna obowiązkowa eskalacja: Nowe zestawy reguł stosowane po raz pierwszy zawsze przechodzą przez ludzką weryfikację w fazie wdrożeniowej. Dopiero po zwalidowanej fazie uczenia agent przechodzi w tryb autonomiczny - dla tej konkretnej reguły.
Wymaganie Human-in-the-Loop jest technicznie wymuszone. Nie ma obejścia, nie ma skrótu, nie ma nadpisania przez administratora. Agent nie może ominąć eskalacji.
Jak HITL wyglada w praktyce
Agent HR przetwarza wniosek o premię. Document Agent odczytuje wniosek. Knowledge Agent sprawdza obowiązujące porozumienie zakładowe. Decision Layer ocenia:
Wynik: premia kwalifikuje się do zatwierdzenia zgodnie z porozumieniem zakładowym, paragraf 12, ust. 3. Pewność: 94%. Ryzyko: niskie.
Ale: decyzja dotyczy komponentu wynagrodzenia. W konfiguracji HITL zdefiniowano: decyzje o wynagrodzeniach są zawsze eskalowane, niezależnie od pewności. Workflow się zatrzymuje.
Odpowiedzialny pracownik widzi w dashboardzie: wniosek, propozycję agenta, zastosowaną regułę w aktualnej wersji, wartość pewności, powód eskalacji. Weryfikuje, potwierdza lub koryguje. Jego decyzja jest dokumentowana w Audit Trail, łącznie z informacją, że to była decyzja Human-in-the-Loop.
HITL i Rada Zakladowa
Human-in-the-Loop to techniczna odpowiedź na wymóg organizacyjny: prawo do konsultacji. W Polsce Rada Zakładowa, działająca na podstawie Ustawy o radach pracowników (2006), ma prawo do informacji i konsultacji przy wdrażaniu systemów technicznych wpływających na warunki pracy. Związki zawodowe mogą negocjować szczegółowe warunki w porozumieniach zakładowych.
Decision Layer przekształca porozumienia zakładowe w techniczne constrainty. Jeśli porozumienie zakładowe stanowi: “Decyzje o ocenach pracowniczych nie mogą być podejmowane w pełni automatycznie” - to jest to implementowane jako reguła HITL w Decision Layer. Agent nie może ominąć tej reguły.
Wynik: Rada Zakładowa może zweryfikować, że jej wymagania są technicznie egzekwowane - nie tylko organizacyjnie obiecane. W przeciwieństwie do niemieckiego modelu, gdzie Rada ma prawo weta, w Polsce prawo do konsultacji nie blokuje wdrożenia, ale pracodawca musi wykazać, że uwzględnił stanowisko Rady. Decision Layer dokumentuje ten proces automatycznie.
HITL i EU AI Act
EU AI Act wymaga nadzoru ludzkiego (Human Oversight, Art. 14) dla systemów AI wysokiego ryzyka. Procesy HR wyraźnie podlegają kategorii wysokiego ryzyka: rekrutacja, oceny wyników, awanse, wynagrodzenia, zwolnienia.
Human-in-the-Loop jako zasada architektoniczna spełnia wymagania EU AI Act dotyczące Human Oversight. Nie wystarczy mieć człowieka w procesie, który teoretycznie może interweniować. EU AI Act wymaga efektywnego nadzoru ludzkiego - to oznacza: człowiek musi być w stanie zrozumieć decyzję, musi móc ją zatrzymać, a jego interwencja musi być udokumentowana.
Decision Layer dokumentuje przy każdej decyzji HITL: kto weryfikował, kiedy, jaka była propozycja agenta, jaka była ludzka decyzja, czy się zgadzają czy różnią.
Granice: czego HITL nie rozwiazuje
Human-in-the-Loop nie jest rozwiązaniem wszystkich problemów governance. Konkretnie:
HITL nie rozwiązuje problemu biasu w danych treningowych. Jeśli model językowy jest systematycznie uprzedzony, pracownik nie wykryje tego na podstawie pojedynczych przypadków. Do tego potrzebny jest statystyczny monitoring biasu obejmujący wszystkie decyzje agentów.
HITL nie skaluje się liniowo. Jeśli agent podejmuje 10 000 decyzji dziennie i 20% jest eskalowanych, potrzebujesz zasobów na 2000 ręcznych weryfikacji. Progi HITL muszą być skalibrowane tak, aby wskaźnik eskalacji pozostał zarządzalny bez kompromisów w governance.
HITL to jeden element architektury governance - obok Audit Trail, monitoringu biasu, wersjonowania zestawów reguł i kontroli Cert-Ready.
Więcej na ten temat: Konsultacja i AI
Umów spotkanie - Pokażemy, jak Human-in-the-Loop wygląda w Twojej architekturze.
Bert Gogolin
Dyrektor Generalny, Gosign
AI Governance Briefing
Enterprise AI, regulacje i infrastruktura - raz w miesiącu, bezpośrednio ode mnie.