Wewnętrzne algorytmy administracji publicznej: kwalifikacja prawno-administracyjna i gwarancje praw człowieka w kontekście systemów AI o pośrednim wpływie na obywateli

Cel projektu

Celem projektu jest przeprowadzenie wstępnej analizy wykorzystania algorytmów w administracji publicznej, które, choć nie prowadzą bezpośrednio do wydania decyzji administracyjnej, wywierają pośredni i systemowy wpływ na sytuację prawną jednostek. Działania te obejmują automatyczne kierowanie kontroli składek w instytucjach zabezpieczenia społecznego, selekcję zwolnień lekarskich, selekcję ryzyka w inspekcjach pracy lub skarbowych, czy automatyczną priorytetyzację spraw. Systemy te nie są klasyfikowane jako AI wysokiego ryzyka w rozumieniu ustawy o AI, jednak mają istotny wpływ na realizację zadań publicznych, a w konsekwencji na prawa i obowiązki obywateli.

Nadrzędnym celem projektu jest identyfikacja luk w polskim prawie administracyjnym i w wybranych państwach członkowskich UE, a także braków w zakresie ochrony praw człowieka, w szczególności w odniesieniu do zasad legalności, przejrzystości i kontroli ex post.

Badania

Projekt będzie obejmował identyfikację i analizę przykładów „wewnętrznych algorytmów” stosowanych przez polskie organy administracji oraz przez władze we Francji, Włoszech i Niemczech. Państwa te reprezentują zróżnicowane podejścia regulacyjne do automatyzacji administracyjnej, od ogólnych ram regulacyjnych po rozbudowane formalne mechanizmy przeglądu zautomatyzowanego podejmowania decyzji. Ta perspektywa porównawcza pomoże ustalić, czy „szara strefa” wewnętrznych operacji algorytmicznych obserwowana w Polsce, wykraczająca poza zakres ustawy o sztucznej inteligencji, występuje również w innych krajach UE, czy też jest specyficzna dla krajowych ustaleń proceduralnych. Kolejny etap będzie polegał na prawno-administracyjnej klasyfikacji tych działań: ocenie, kiedy kwalifikują się one jako działania wewnętrzne, a kiedy ich pośrednie skutki wymagają zabezpieczeń mających zastosowanie do działań zewnętrznych naruszających prawa jednostki. Analiza obejmie również wymogi wynikające z zasady legalności oraz z RODO i ustawy o sztucznej inteligencji, w tym nadzór ludzki, przejrzystość i ocenę wpływu na prawa podstawowe.

Metodologia obejmuje przegląd literatury i prawa (Polska, UE, wybrane państwa członkowskie), analizę orzecznictwa i dokumentów nadzorczych oraz studium przypadków systemów wykorzystywanych przez organy zabezpieczenia społecznego, pracy i organy podatkowe. Konsultacje eksperckie i wizyty studyjne będą miały kluczowe znaczenie dla weryfikacji hipotez porównawczych i dopracowania typologii wewnętrznych działań algorytmicznych. Wizyty te stworzą okazję do omówienia zdefiniowanych problemów badawczych z wielu perspektyw i skonfrontowania poglądów ze specjalistami działającymi w oparciu o różne perspektywy systemowe. Wyniki zostaną zaprezentowane na kilku kluczowych forach naukowych, wybranych ze względu na ich szczególne znaczenie dla filarów projektu.

Projekt ma na celu opracować wstępny model zabezpieczeń dla wewnętrznych operacji algorytmicznych, obejmujący obowiązkową ocenę ryzyka stronniczości, audyty algorytmów, prawa do wyjaśnień w przypadku „decyzji pośrednich”, logi decyzji oraz mechanizmy skutecznej kontroli ex post. Model ten posłuży jako podstawa do dalszych badań nad ewoluującym paradygmatem legalności administracyjnej – odejścia od skupiania się wyłącznie na akcie nadającym kompetencje w kierunku weryfikowalnego łańcucha legalności obejmującego:

(1) wyraźne upoważnienie,

(2) zasady atrybucji,

(3) identyfikowalność dowodową

(4) merytoryczną kontrolę ex post.

Badanie zakończy się przygotowaniem dwóch anglojęzycznych publikacji prawnoporównawczych, które nakreślą problem i zaproponują przyszłe kierunki regulacyjne.