Sztuczna inteligencja jest stronnicza w wykrywaniu oszustw związanych z zasiłkami

W systemie opartym na sztucznej inteligencji używanym do wykrywania oszustw związanych z zasiłkami, zauważono stronniczość. Okazuje się, że do weryfikacji wybierał on osoby z konkretnych grup częściej niż z innych.

Sztuczna inteligencja używana przez brytyjski rząd do wykrywania oszustw związanych z zasiłkami wykazuje stronniczość. W zależności od wieku, niepełnosprawności, stanu cywilnego i narodowości ludzi.

- Advertisement -

Stronnicza sztuczna inteligencja

Ocena programu sztucznej inteligencji używanego do weryfikacji tysięcy wniosków dotyczących Universal Credit wykazała stronniczość. Okazało się, że nieprawidłowo wybierał on osoby z niektórych grup częściej niż z innych. Zalecał przy tym, aby kogoś sprawdzić pod kątem możliwego oszustwa.

Stronniczość AI ujawniono w dokumentach Ministerstwa Pracy i Emerytur udostępnionych na mocy ustawy o wolności informacji. Okazało się, że „statystycznie istotna dysproporcja wyników” wystąpiła w „analizie uczciwości” zautomatyzowanego systemu dotyczącego Universal Credit. Analizę tę przeprowadzono w lutym 2024 roku.

Wyniki tej oceny są sprzeczne z wcześniejszym zapewnieniem DWP. Związane ono było z tym, że system AI „nie budzi żadnych bezpośrednich obaw dotyczących dyskryminacji czy niesprawiedliwego traktowania”.

Urzędnicy nie widzą niesprawiedliwości

Możliwe, że zapewnienie to wynikało częściowo z faktu, że ostateczną decyzję o tym, czy dana osoba dostanie zasiłek, nadal podejmuje człowiek. Urzędnicy wciąż uważają, że dalsze korzystanie z systemu opartego na sztucznej inteligencji jest „rozsądne”. Twierdzą, że pomoże on w obniżeniu szacowanych 8 mld funtów rocznie, które traci się na oszustwa ze strony świadczeniobiorców i błędy.

Do tej pory nie przeprowadzono jeszcze analizy pod kątem uczciwości programu AI w kontekście uprzedzeń dotyczących rasy, płci, orientacji seksualnej, religii itp.

Aktywiści oskarżają jednak rząd o niewłaściwe podejście do korzystania z systemu AI. Błąd polega na podejściu „najpierw szkodzić, później naprawiać”. Zaapelowali do ministrów o większą otwartość w kwestii tego, które grupy mogą być podejrzewane przez algorytm o próbę oszustwa.

Władze publiczne korzystają z co najmniej 55 zautomatyzowanych narzędzi. One mogą mieć wpływ na decyzje dotyczące milionów ludzi. Mimo że rządowy rejestr uwzględnia ich zaledwie dziewięć.

Jak powiedziała Caroline Selman, badaczka z Public Law Project, która jako pierwsza widziała wspomnianą wyżej analizę:

– Oczywiste jest, że w zdecydowanej większości przypadków DWP nie oceniło, czy zautomatyzowane procesy nie stwarzają ryzyka niesprawiedliwego ataku na marginalizowane grupy.

Teksty tygodnia

Ceny usług weterynaryjnych wzrosły o ponad 60 proc. w 7 lat

Jak przekazał Reuters, brytyjski rynek usług weterynaryjnych wart około 8 miliardów dolarów od lat boryka się z problemem ograniczonej przejrzystości cen. Według raportu Urzędu ds. Konkurencji i Rynków (CMA) właściciele zwierząt domowych płacą średnio o 17 proc. więcej w dużych sieciach weterynaryjnych niż w niezależnych klinikach. Co więcej, średnie ceny w sektorze wzrosły aż o 63 proc. w latach 2016–2023.

Nowy podatek dla kierowców w wysokości 630 funtów. Kto najbardziej na tym straci?

Rząd może zostać zmuszony do wprowadzenia nowego podatku dla kierowców. Najbardziej na tym mogą ucierpieć właściciele pojazdów elektrycznych.

31 października to ostateczny termin. Jeśli nie dopełnisz formalności, Urząd Skarbowy nałoży karę

Brytyjska skarbówka, HM Revenue & Customs (HMRC), przypomina wszystkim podatnikom o zbliżającym się terminie składania papierowych zeznań podatkowych za rok 2024–25.

Te 4 świadczenia są zagrożone. Jak nowy budżet namiesza w zasiłkach?

Listopadowy budżet kanclerz Rachel Reeves może przynieść najpoważniejsze od lat zmiany w systemie świadczeń społecznych w Wielkiej Brytanii. Rząd zapowiada reformy, które mają ograniczyć wydatki i „zwiększyć motywację do pracy”. Co się zmieni?

Pilny komunikat ambasady: stary dowód nie pozwoli na wjazd do UK

Od Brexitu podróż do Zjednoczonego Królestwa wymaga okazania ważnego paszportu – zwykłego lub tymczasowego. Dowód osobisty, który przed laty wystarczał, obecnie nie gwarantuje już wjazdu. Wyjątek stanowią jedynie osoby posiadające status osiedlony (settled status lub pre-settled status), które dotychczas mogły korzystać z dowodu tożsamości. Jednak i dla tej grupy szykują się istotne zmiany.

Praca i finanse

Kryzys w UK

Styl życia

Życie w UK

Londyn

Crime

Zdrowie