Miliony świadczeniobiorców mogą paść ofiarami nadzoru dokonywanego przez algorytmy, w wyniku którego ich konta bankowe będą kontrolowane i zamykane. A powód nie zawsze może być uzasadniony.
Ustawa o organach publicznych, która pomyślnie przeszła przez obie izby parlamentu i oczekuje na ostateczne etapy proceduralne przed wejściem w życie, zezwala departamentom rządowym na żądanie konkretnych informacji finansowych w przypadku podejrzenia o dokonanie nieprawidłowych płatności. W wyniku tego miliony niewinnych świadczeniobiorców mogą paść ofiarami „algorytmicznego nadzoru”. A nawet tzw. debankingu, czyli zamykania kont.
Masowe kontrole kont bankowych świadczeniobiorców
Nowa ustawa przyznaje Ministerstwu Pracy i Emerytur uprawnienia do wglądu w dane bankowe świadczeniobiorców. Posłowie ostrzegają DWP przed tym, że algorytmiczny nadzór może wciągnąć miliony niewinnych osób w „wir śledztw”. I doprowadzić do zamknięcia ich kont.
Nowa ustawa daje zielone światło na przeprowadzanie „masowych połowów”, które mogą narazić dużą liczbę świadczeniobiorców na nieuzasadnione kontrole przeprowadzane przez zautomatyzowane systemy.
Rzecznik Liberalnych Demokratów ds. pracy i emerytur, Steve Darling, wyraził obawy dotyczące tego, co nazwał „ogólnym podejściem” umożliwiającym szeroko zakrojone przeszukiwanie danych. Zaapelował w związku z tym o zwiększenie odpowiedzialności i dokonanie niezależnego przeglądu w zakresie „współmierności i sprawiedliwości”.
Algorytmy mogą się mylić
Neil Duncan-Jordan, który należał kiedyś do Partii Pracy, powiedział:
– Jeśli algorytmy skanują konta bankowe 10 milionów osób, wskaźnik błędu na poziomie zaledwie jednego procenta doprowadzi do 100 000 przypadków, w których niewinne osoby będą niesłusznie kontrolowane. To niepokojące, co ten projekt ustawy mówi o naszym państwie opiekuńczym. A także niebezpieczeństwem stworzenia obywatelstwa drugiej kategorii. Osoby korzystające w nim z pomocy społecznej będą miały mniej praw obywatelskich niż my wszyscy.
Andrew Western z Ministerstwa Pracy i Zatrudnienia, bronił ustawy, stwierdzając:
– Jesteśmy absolutnie pewni, że żadna osoba nie powinna zostać wykluczona z systemu bankowego w wyniku tej ustawy.
Podkreślił także istnienie licznych zabezpieczeń. Wyjaśnił, że nadzór ludzki pozostanie integralną częścią procesu decyzyjnego.
– Na każdym etapie procesu stawiamy na człowieka, który podejmuje decyzje. Nie możemy podejmować decyzji w oparciu o informacje z EVM w oderwaniu od kontekstu.
W ostatnich latach coraz bardziej narastają obawy dotyczące debankingu. Property Institute twierdzi, że w ciągu ostatniego roku problem ten dotknął 500 000 mieszkańców Wysp.