Krajowe Biuro Kontroli (NAO) ostrzega osoby w wieku emerytalnym. Są one bardziej narażone przez AI na uznawanie ich za oszustów zasiłkowych.
Nowe rządowe narzędzie AI służące do wykrywania oszustów zasiłkowych „upatruje” sobie emerytów i kieruje ich do dalszego śledztwa. Przed tym błędem systemu ostrzegło niedawno Krajowe Biuro Kontroli (National Audit Office – NAO).
AI uznaje osoby w wieku emerytalnym za oszustów zasiłkowych
Analizę opublikowało Ministerstwo Pracy i Emerytur. Wynika z niej, że osoby, które przekroczyły wiek emerytalny i otrzymują świadczenia, padały ofiarą nowego systemu. Prawie 50 razy częściej narażone były na dochodzenie w sprawie zasiłkowego oszustwa niż osoby młodsze.
Posłowie wielokrotnie już wyrażali swoje obawy w związku z negatywnym wpływem sztucznej inteligencji na osoby w trudnej sytuacji i pobierające zasiłki.
Z raportu NAO wynika, że osoby powyżej wieku emerytalnego padają ofiarą błędów sztucznej inteligencji.
DWP twierdzi jednak, że wnioski z analizy oprogramowania AI dla osób w wieku emerytalnym powinno się traktować z ostrożnością ze względu na ich niewielką skalę.
Zwalczanie oszustw nie do końca skuteczne
Szacuje się, że model sztucznej inteligencji, będący częścią szeregu nowych metod mających na celu zwalczanie oszustw, pozwolił podatnikom zaoszczędzić 4,4 mln funtów od momentu jego wprowadzenia w 2022 roku. Universal Credit kosztował podatników 51 mld funtów w zeszłym roku, według szacunków Biura ds. Odpowiedzialności Budżetowej (Office for Budget Responsibility).
W ubiegłym roku oszustwa wykryto wśród 9,7 proc. osób pobierających świadczenia. Co przełożyło się na straty finansowe rzędu 6,3 mld funtów. Stanowi to niewielki spadek w porównaniu z 6,4 mld funtów w 2024 roku.
NAO zwróciło się do DWP o przeprowadzenie oceny „sprawiedliwego podziału” między grupami wiekowymi. Okazało się, że oprogramowanie bazujące na sztucznej inteligencji jest około trzy razy skuteczniejsze w identyfikowaniu oszustw. W porównaniu z metodami konwencjonalnymi, jak podano w raporcie. Niestety posiada też poważne wady.
Świadczeniobiorcy powyżej 66. roku życia i osoby nieposiadające obywatelstwa brytyjskiego były 49 razy częściej kierowane do kontroli niż osoby w wieku od 35 do 44 lat. Co wymagało od nich także wypełnienia większej ilości dokumentów.
W sprawie wypowiedział się też Geoffrey Clifton-Brown, przewodniczący komisji finansów publicznych kontrolującej wydatki rządowe. Stwierdził, że oszustwa w systemie świadczeń są „nadal wyższe niż w latach przed pandemią”.
