Projekt przewidywania działań policji pokazuje, że nawet prawnicy UE mogą stać się celem ataku

Predictive policing zdemaskował nową grupę przyszłych przestępców: europosłów.

Nowy system testowania wskazał pięciu polityków UE jako „zagrożonych” popełnieniem przyszłych przestępstw. Na szczęście dla nich, nie jest to narzędzie, które jest używane przez organy ścigania, ale takie, które ma na celu zwrócenie uwagi na niebezpieczeństwa związane z takimi systemami.

Projekt jest pomysłem Fair Trials, organizacji nadzorującej wymiar sprawiedliwości w sprawach karnych. Organizacja pozarządowa prowadzi kampanię na rzecz zakazu predykcji policji, która wykorzystuje analitykę danych do przewidywania, kiedy i gdzie prawdopodobnie dojdzie do przestępstw – i kto może je popełnić.

Zwolennicy twierdzą, że podejście to może być bardziej dokładne, obiektywne i skuteczne niż tradycyjna policja. Krytycy ostrzegają jednak, że utrwala ono historyczne uprzedzenia, w nieproporcjonalny sposób dotyka grup marginalizowanych, wzmacnia dyskryminację strukturalną i narusza prawa obywatelskie.

„Może się to wydawać niewiarygodne, że organy ścigania i wymiaru sprawiedliwości w sprawach karnych przewidują przestępczość na podstawie pochodzenia, klasy, pochodzenia etnicznego i związków, ale tak właśnie wygląda rzeczywistość w UE” – powiedział Griff Ferris, starszy specjalista ds. prawnych i politycznych w organizacji Fair Trials.

Rzeczywiście, technologia ta jest coraz bardziej popularna w Europie. Na przykład we Włoszech narzędzie znane jako Dalia przeanalizowało dane dotyczące pochodzenia etnicznego, aby stworzyć profil i przewidzieć przyszłą przestępczość. W Holandii natomiast, tak zwana lista Top 600 została wykorzystana do prognozowania, którzy młodzi ludzie popełnią przestępstwa o dużym znaczeniu. Okazało się, że jedna na trzy osoby z tej listy – z których wiele zgłosiło, że są nękane przez policję – jest pochodzenia marokańskiego.

Aby zilustrować skutki, Fair Trials opracował próbną ocenę przyszłych zachowań przestępczych.

W przeciwieństwie do wielu rzeczywistych systemów stosowanych przez policję, analiza została uczyniona całkowicie przejrzystą. Test wykorzystuje kwestionariusz do stworzenia profilu każdego użytkownika. Im więcej odpowiedzi „tak”, tym wyższy wynik ryzyka. Można go wypróbować samemu tutaj.

Do przetestowania narzędzia zaproszono polityków z Socjalistów i Demokratów, Odnowy, Zielonych/EFA oraz Grupy Lewicy. Po wypełnieniu quizu posłowie Karen Melchior, Cornelia Ernst, Tiemo Wölken, Petar Vitanov i Patrick Breyer zostali określeni jako osoby o „średnim ryzyku” popełnienia przestępstwa w przyszłości.

„W UE NIE POWINNO BYĆ MIEJSCA NA TAKIE SYSTEMY – SĄ ONE NIEWIARYGODNE, STRONNICZE I NIESPRAWIEDLIWE.

Gang nie poniesie żadnych konsekwencji za swoje potencjalne przestępstwa. W realnym życiu takie systemy mogą jednak umieścić ich w policyjnych bazach danych i poddać ścisłemu monitoringowi, losowym przesłuchaniom lub zatrzymaniu i przeszukaniu. Ich oceny ryzyka mogą być również udostępniane szkołom, pracodawcom, agencjom imigracyjnym i służbom ochrony dzieci. Algorytmy doprowadziły nawet do tego, że ludzie zostali uwięzieni na podstawie skąpych dowodów.

„Dorastałem w dzielnicy o niskich dochodach, w biednym kraju Europy Wschodniej, a algorytm sprofilował mnie jako potencjalnego przestępcę” – powiedział w oświadczeniu Petar Vitanov, poseł do PE z Bułgarskiej Partii Socjalistycznej.

„W UE nie powinno być miejsca dla takich systemów – są niewiarygodne, stronnicze i niesprawiedliwe”.

Fair Trials opublikował wyniki testów wśród rosnących wezwań do zdelegalizowania predictive policing.

Temat okazał się dzielący w propozycjach ustawy o AI, która ma stać się pierwszymi w historii ramami prawnymi dotyczącymi sztucznej inteligencji. Niektórzy ustawodawcy naciskają na całkowity zakaz predykcyjnej policji, podczas gdy inni chcą dać swobodę organom ścigania.

Fair Trials dało zwolennikom systemów nowy powód do ponownego rozważenia swoich poglądów: technologia może być skierowana również na nich.
*** Przetłumaczono za pomocą www.DeepL.com/Translator (wersja darmowa) ***

Zostaw komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Scroll to Top