Sztuczna inteligencja jest stronnicza w wykrywaniu oszustw związanych z zasiłkami

W systemie opartym na sztucznej inteligencji używanym do wykrywania oszustw związanych z zasiłkami, zauważono stronniczość. Okazuje się, że do weryfikacji wybierał on osoby z konkretnych grup częściej niż z innych.

Sztuczna inteligencja używana przez brytyjski rząd do wykrywania oszustw związanych z zasiłkami wykazuje stronniczość. W zależności od wieku, niepełnosprawności, stanu cywilnego i narodowości ludzi.

- Advertisement -

Stronnicza sztuczna inteligencja

Ocena programu sztucznej inteligencji używanego do weryfikacji tysięcy wniosków dotyczących Universal Credit wykazała stronniczość. Okazało się, że nieprawidłowo wybierał on osoby z niektórych grup częściej niż z innych. Zalecał przy tym, aby kogoś sprawdzić pod kątem możliwego oszustwa.

Stronniczość AI ujawniono w dokumentach Ministerstwa Pracy i Emerytur udostępnionych na mocy ustawy o wolności informacji. Okazało się, że „statystycznie istotna dysproporcja wyników” wystąpiła w „analizie uczciwości” zautomatyzowanego systemu dotyczącego Universal Credit. Analizę tę przeprowadzono w lutym 2024 roku.

Wyniki tej oceny są sprzeczne z wcześniejszym zapewnieniem DWP. Związane ono było z tym, że system AI „nie budzi żadnych bezpośrednich obaw dotyczących dyskryminacji czy niesprawiedliwego traktowania”.

Urzędnicy nie widzą niesprawiedliwości

Możliwe, że zapewnienie to wynikało częściowo z faktu, że ostateczną decyzję o tym, czy dana osoba dostanie zasiłek, nadal podejmuje człowiek. Urzędnicy wciąż uważają, że dalsze korzystanie z systemu opartego na sztucznej inteligencji jest „rozsądne”. Twierdzą, że pomoże on w obniżeniu szacowanych 8 mld funtów rocznie, które traci się na oszustwa ze strony świadczeniobiorców i błędy.

Do tej pory nie przeprowadzono jeszcze analizy pod kątem uczciwości programu AI w kontekście uprzedzeń dotyczących rasy, płci, orientacji seksualnej, religii itp.

Aktywiści oskarżają jednak rząd o niewłaściwe podejście do korzystania z systemu AI. Błąd polega na podejściu „najpierw szkodzić, później naprawiać”. Zaapelowali do ministrów o większą otwartość w kwestii tego, które grupy mogą być podejrzewane przez algorytm o próbę oszustwa.

Władze publiczne korzystają z co najmniej 55 zautomatyzowanych narzędzi. One mogą mieć wpływ na decyzje dotyczące milionów ludzi. Mimo że rządowy rejestr uwzględnia ich zaledwie dziewięć.

Jak powiedziała Caroline Selman, badaczka z Public Law Project, która jako pierwsza widziała wspomnianą wyżej analizę:

– Oczywiste jest, że w zdecydowanej większości przypadków DWP nie oceniło, czy zautomatyzowane procesy nie stwarzają ryzyka niesprawiedliwego ataku na marginalizowane grupy.

Teksty tygodnia

Eksperci alarmują. Rekordowa liczba przypadków zanieczyszczenia wody w UK

Według danych Agencji Ochrony Środowiska, w ostatnim roku liczba poważnych przypadków zanieczyszczenia wody przez przedsiębiorstwa wodociągowe wzrosła aż o 60 procent. W 2024 roku odnotowano łącznie 2801 takich incydentów – to najwyższy wynik w historii. Poprzedni rekord padł w 2023 roku, kiedy zgłoszono 2174 przypadki.

Zasiłek w trakcie diagnozy – komu przysługuje?

Wielu rodziców w Wielkiej Brytanii nie zdaje sobie sprawy, że świadczenia z tytułu niepełnosprawności dziecka można otrzymać jeszcze przed postawieniem formalnej diagnozy.

750 funtów z DWP – zasiłek dla chorujących na depresję

Problemy i zaburzenia natury psychicznej - w tym stres, depresja czy zaburzenia lękowe - są coraz częściej podstawą do przyznania pomocy i świadczeń. Zasiłek dla chorujących na depresję jest coraz powszechniejszy. Ilość wniosków wzrasta lawinowo. 

Czas na wodomierze! Brytyjczycy zapłacą za każdy litr zużytej wody

Miliony gospodarstw domowych w Wielkiej Brytanii mogą wkrótce zostać objęte obowiązkiem zainstalowania wodomierzy. To jeden z elementów szeroko zakrojonego planu reformy przemysłu wodnego w Anglii i Walii.

9-letni Polak podbija światowe pola golfowe. Opowiedział nam o swojej pasji

Alex ma zaledwie 9 lat, a już został okrzyknięty jednym z największych objawień młodego golfa. Polski golfista opowiedział o swojej determinacji i sukcesach.

Praca i finanse

Kryzys w UK

Styl życia

Życie w UK

Londyn

Crime

Zdrowie