UE tworzy gigantyczny Międzynarodowy System Rozpoznawania Twarzy

Ustawodawcy UE przedstawiają propozycje, aby siły policyjne w całej UE mogły połączyć swoje bazy danych zdjęć, które zawierają miliony fotografii ludzkich twarzy.

6 kwietnia 2022

Przez ostatnie 15 lat siły policyjne poszukujące przestępców w Europie mogły wymieniać między sobą odciski palców, dane DNA oraz informacje dotyczące właścicieli pojazdów. Jeśli funkcjonariusze we Francji podejrzewają, że poszukiwana przez nich osoba przebywa w Hiszpanii, mogą poprosić hiszpańskie władze o sprawdzenie odcisków palców w ich bazie danych. Aktualnie, ustawodawcy unijni mają zamiar włączyć do owego systemu miliony zdjęć ludzkich twarzy – i tym samym umożliwić wykorzystanie rozpoznawania twarzy na niespotykaną dotąd skalę.

Ekspansja systemu identyfikacji twarzy w Unii Europejskiej jest częścią szerszych planów “modernizacji” policji na całym kontynencie i wchodzi w zakres propozycji dzielenia się danymi w ramach projektu o nazwie Prüm II. https://home-affairs.ec.europa.eu/news/boosting-police-cooperation-across-borders-enhanced-security-2021-12-08_en  https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2021%3A784%3AFIN&qid=1639141496518

Jego szczegóły zostały przedstawione po raz pierwszy w grudniu 2021, ale krytyka ze strony europejskich podmiotów nadzorujących ochronę danych stała się głośniejsza w ostatnich tygodniach, kiedy to zrozumiano pełny potencjał tego rodzaju zamierzeń.

Propozycje te są częścią działań UE zmierzających do stworzenia wspólnych baz danych biometrycznych. W budżecie Unii na rok 2022 drugą co do wielkości finansowania agencją była Eu-Lisa, https://en.wikipedia.org/wiki/Eu-LISA która dostarcza systemy informatyczne do zarządzania granicami i migracją oraz pracuje nad połączeniem baz danych państw członkowskich zawierających informacje osobowe, tożsamość, dane biometryczne, m.in. generując spory biznes.

“To, co tworzycie, to najbardziej rozbudowana infrastruktura nadzoru biometrycznego, jaką, jak sądzę, kiedykolwiek zobaczymy na świecie” – mówi Ella Jakubowska, doradca ds. polityki w organizacji pozarządowej zajmującej się prawami obywatelskimi o nazwie European Digital Rights (EDRi) https://edri.org/. Dokumenty uzyskane przez EDRi na podstawie przepisów o wolności informacji oraz udostępnione stronie WIRED ujawniają, jak narody naciskały na włączenie rozpoznawania twarzy do międzynarodowego porozumienia dotyczącego policji.

Pierwsza wersja konwencji została podpisana przez siedem krajów europejskich – Belgię, Niemcy, Hiszpanię, Francję, Luksemburg, Holandię i Austrię – w roku 2005 i umożliwia narodom wymianę danych w celu zwalczania przestępczości międzynarodowej. Od czasu wprowadzenia Prüm, jego wdrożenie przez 27 państw europejskich było zróżnicowane.

Prüm II planuje znacznie rozszerzyć ilość informacji, które mogą być udostępniane, potencjalnie włączając zdjęcia i informacje zawarte w prawach jazdy. Propozycje Komisji Europejskiej mówią również, że policja będzie miała większy “zautomatyzowany” dostęp do udostępnianych informacji. Ustawodawcy twierdzą, że oznacza to, iż policja w całej Europie będzie mogła ściśle współpracować, a europejski organ ścigania Europol będzie miał “silniejszą rolę”.

Włączenie zdjęć twarzy i możliwość uruchomienia wobec nich algorytmów rozpoznawania twarzy to jedne z największych planowanych zmian w Prüm II. Technologia rozpoznawania twarzy spotkała się w ostatnich latach ze znacznym sprzeciwem, ponieważ coraz częściej stosują ją siły policyjne, a ona sama źle identyfikowała ludzi niszcząc tym samym ich życia. https://www.wired.com/story/hidden-role-facial-recognition-tech-arrests/ https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/

Dziesiątki miast w USA posunęły się nawet do zakazania policji korzystania z tej technologii. W UE trwa debata nad zakazem stosowania przez policję rozpoznawania twarzy w miejscach publicznych w ramach ustawy o sztucznej inteligencji. https://www.wired.com/story/face-recognition-banned-but-everywhere/ https://www.wired.co.uk/article/europe-ai-biometrics https://www.wired.com/story/artificial-intelligence-regulation-european-union/

Prüm II pozwala jednak na stosowanie retrospektywnego rozpoznawania twarzy. Oznacza to, że służby policyjne mogą porównywać nieruchome obrazy z kamer CCTV, zdjęcia z mediów społecznościowych lub zdjęcia z telefonu ofiary z wizerunkami osób przechowywanymi w policyjnej bazie danych. Technologia ta różni się od systemów rozpoznawania twarzy na żywo, które są często podłączone do kamer w przestrzeni publicznej; te spotkały się z największą krytyką. https://www.wired.co.uk/article/met-police-london-facial-recognition-test

Propozycje europejskie pozwalają państwom porównywać zdjęcia z bazami danych innych państw i sprawdzać, czy są one zgodne – tworząc w ten sposób jeden z największych istniejących systemów rozpoznawania twarzy. Jeden z dokumentów uzyskanych przez EDRi mówi, że liczba potencjalnych dopasowań może wynosić od 10 do 100 twarzy, chociaż liczba ta wymaga ostatecznej decyzji polityków. Rzecznik Komisji Europejskiej mówi, że przed podjęciem jakichkolwiek dalszych działań osoba ludzka przejrzy potencjalne dopasowania i zdecyduje, czy któreś z nich jest prawidłowe. “W znacznej liczbie przypadków dostępny jest obraz twarzy podejrzanego” – stwierdził w dokumentacji minister spraw wewnętrznych Francji. Oświadczył, że przy użyciu własnego systemu rozpoznawania twarzy rozwiązano sprawy włamań i wykorzystywania seksualnego dzieci.

Dokumenty Prüm II, datowane na kwiecień 2021 roku, kiedy to po raz pierwszy omawiano wspomniane plany, wskazują na ogromną liczbę zdjęć twarzy, jakie posiadają poszczególne kraje. Węgry dysponują 30 mln zdjęć, Włochy 17 mln, Francja 6 mln, a Niemcy 5,5 mln – jak wynika z dokumentów. Te zdjęcia mogą obejmować podejrzanych, skazanych za przestępstwa, ubiegających się o azyl i “niezidentyfikowane ciała martwe” i pochodzą z wielu źródeł w każdym kraju.

Jakubowska mówi, że o ile krytyka systemów rozpoznawania twarzy skupiła się głównie na systemach działających w czasie rzeczywistym, to te, które identyfikują ludzi w późniejszym czasie, wciąż są problematyczne. “Kiedy stosuje się rozpoznawanie twarzy do materiałów filmowych lub zdjęć retrospektywnie, czasami szkody mogą być jeszcze większe, ze względu na możliwość spojrzenia wstecz na, powiedzmy, protest sprzed trzech lat lub sprawdzenia, kogo spotkałam pięć lat temu, ponieważ jestem teraz przeciwnikiem politycznym” – mówi. “Jedynie zdjęcia twarzy podejrzanych lub skazanych przestępców mogą być wymieniane” – mówi rzecznik Komisji Europejskiej, powołując się na przewodnik po tym, jak system będzie działał. “Nie będzie dopasowywania zdjęć twarzy do ogółu społeczeństwa”. https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_6646

Zdjęcia twarzy ludzi nie powinny być połączone w jednej gigantycznej centralnej bazie danych, mówi oficjalna propozycja, lecz siły policyjne będą połączone ze sobą poprzez “centralny router”. Router ten nie będzie przechowywał żadnych danych, mówi rzecznik Komisji Europejskiej, dodając, że będzie “działał jedynie jako broker wiadomości” pomiędzy poszczególnymi krajami. To zdecentralizowane podejście czyni Prüm II bardziej prostym: Policja chcąca porównać odciski palców w ramach obecnego systemu musi indywidualnie łączyć się z innymi siłami policyjnymi. W ramach nowej infrastruktury kraje potrzebują tylko jednego połączenia z centralnym routerem i łatwiej będzie “dodać do systemu dodatkowe kategorie danych”, mówią dokumenty uzyskane przez EDRi.

Jednym z największych problemów dla Jakubowskiej jest to, jak Prüm II może znormalzować stosowanie rozpoznawania twarzy przez siły policyjne w całej Europie. “To, co naprawdę nas niepokoi, to to, jak bardzo owa propozycja Prüm II może zachęcać do tworzenia baz danych zdjęć twarzy i stosowania algorytmów do tychże baz danych w celu wykonywania rozpoznawania twarzy” – stwierdza. Zgodnie z wnioskiem, UE pokryje koszty podłączenia baz danych do Prüm II, a to obejmuje koszty tworzenia nowych krajowych baz danych zdjęć twarzy. https://www.wired.co.uk/article/europe-police-facial-recognition-prum

……………………………

Chińskie realia w Europie? – Władze UE chcą kamer z funkcją rozpoznawania twarzy

Jeśli obecny wniosek Rady UE zostanie przyjęty, automatyczne rozpoznawanie twarzy ma stać się dopuszczalne w przestrzeni publicznej dla celów egzekwowania prawa i dla bezpieczeństwa. Przewidziane warunki są tak łatwe do spełnienia, że niewiele stanie na przeszkodzie do wprowadzenia zautomatyzowanej biometrycznej totalnej inwigilacji przestrzeni publicznej w Europie, tak jak ma to miejsce w Chinach.

12 listopada 2022

7 listopada europoseł Patrick Breyer (Partia Piratów) https://en.wikipedia.org/wiki/Patrick_Breyer opublikował wyciek projektu rozporządzenia Rady UE w sprawie wykorzystania sztucznej inteligencji na terenie kontynentu europejskiego. Tytuł II, Art. 5 zawiera zakazy stosowania pewnych praktyk jak również przypadki możliwości odstąpienia od nich – przez organy ścigania.

Zgodnie z projektem, korzystanie ze zautomatyzowanych systemów rozpoznawania biometrycznego jest dozwolone dla organów ścigania, jeżeli pomaga to w poszukiwaniu przestępców lub ofiar przestępstw, lub w zapobieganiu zagrożeniom, takim jak zagrożenie terroryzmem. Oto jego fragment (strona 49 PDF, do którego link poniżej):

«Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts» https://www.patrick-breyer.de/wp-content/uploads/2022/11/LEAK_CLEAN-CZ_Presidency_fifth_compt_text_on_the_AI_Act.pdf

NIEDOZWOLONE PRAKTYKI ZWIĄZANE ZE SZTUCZNĄ INTELIGENCJĄ

Artykuł 5

1. Zabrania się stosowania następujących działań związanych ze sztuczną inteligencją:

d) korzystania ze zdalnych systemów identyfikacji biometrycznej “w czasie rzeczywistym” w przestrzeni publicznej przez organy ścigania lub w ich imieniu do celów egzekwowania prawa, chyba że i w zakresie, w jakim takie korzystanie jest absolutnie niezbędne do jednego z następujących celów:

(i) ukierunkowane poszukiwania konkretnych potencjalnych ofiar przestępstw, w tym zaginionych dzieci;

(ii) zapobieganie konkretnemu, znacznemu i bezpośredniemu zagrożeniu dla infrastruktury kluczowej, życia, zdrowia lub bezpieczeństwa fizycznego osób fizycznych lub zapobieganie atakom terrorystycznym;

(iii) wykrywanie, lokalizowanie lub identyfikację osoby fizycznej lub jej ściganie dla celów prowadzenia dochodzenia karnego, ścigania lub stosowania sankcji karnych w odniesieniu do sprawcy przestępstwa, podejrzanego lub skazanego za przestępstwo, o którym mowa w art. 2 ust. 2 decyzji ramowej Rady 2002/584/WSiSW33 i które w danym państwie członkowskim zagrożone jest karą pozbawienia wolności lub środkiem zabezpieczającym o maksymalnym wymiarze co najmniej trzech lat, lub za inne szczególne przestępstwa zagrożone w danym państwie członkowskim karą pozbawienia wolności lub środkiem zabezpieczającym o maksymalnym wymiarze co najmniej pięciu lat, zgodnie z prawem tego państwa członkowskiego.

2. Wykorzystanie zdalnych systemów identyfikacji biometrycznej “w czasie rzeczywistym” w przestrzeni publicznej do celów egzekwowania prawa w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 lit. d), uwzględnia następujące elementy:

(a) charakter sytuacji będącej przyczyną ewentualnego użycia, w szczególności powaga, prawdopodobieństwo i skala szkody powstałej w przypadku braku użycia systemu;

(b) konsekwencje wykorzystania systemu dla praw i wolności wszystkich osób zainteresowanych osób, w szczególności powagę, prawdopodobieństwo i skalę tych konsekwencji.

Ponadto korzystanie ze zdalnych systemów identyfikacji biometrycznej “w czasie rzeczywistym” w miejscach publicznie dostępnych do celów egzekwowania prawa w odniesieniu do któregokolwiek z celów, o których mowa w ust. 1 lit. d), odbywa się z zachowaniem niezbędnych i proporcjonalnych zabezpieczeń i warunków związanych z korzystaniem z nich, w szczególności w odniesieniu do kwestii czasowych, geograficznych i indywidualnych uwarunkowań.

3. W odniesieniu do ust. 1 lit. d) i ust. 2 każde indywidualne wykorzystanie na potrzeby ochrony porządku publicznego zdalnego systemu identyfikacji biometrycznej “w czasie rzeczywistym” w miejscach publicznie dostępnych wymaga uzyskania uprzedniego pozwolenia wydanego przez organ sądowy lub niezależny organ administracyjny państwa członkowskiego, w którym ma nastąpić wykorzystanie, wydanego na uzasadniony wniosek i zgodnie ze szczegółowymi przepisami prawa krajowego, o których mowa w ust. 4. Jednakże w należycie uzasadnionych nagłych przypadkach można rozpocząć użytkowanie systemu bez zezwolenia, a o zezwolenie można wystąpić dopiero w trakcie użytkowania lub po jego zakończeniu, pod warunkiem że o takie zezwolenie wystąpi się bez zbędnej zwłoki w trakcie użytkowania systemu AI, a jeżeli wniosek o zezwolenie zostanie odrzucony, jego użytkowanie powinno zostać przerwane ze skutkiem natychmiastowym.

Właściwy organ sądowy lub administracyjny udziela pozwolenia wyłącznie wtedy, gdy jest przekonany, na podstawie obiektywnych dowodów lub przedstawionych mu wyraźnych wskazówek, że stosowanie przedmiotowego systemu zdalnej identyfikacji biometrycznej “w czasie rzeczywistym” jest konieczne i współmierne do osiągnięcia jednego z celów określonych w ust. 1 lit. d), wskazanych we wniosku. Podejmując decyzję w sprawie wniosku, właściwy organ sądowy lub administracyjny musi uwzględnić elementy, o których mowa w ust. 2

Projekt oznajmia, że «do zastosowania identyfikacji biometrycznej, organy ścigania potrzebują zezwolenia sądu lub niezależnego organu administracyjnego». Organ ten ponadto «powinien sprawdzić konieczność i proporcjonalność celu nadzoru».

Ten, kto po doświadczeniach z sądami badającymi «konieczność» i współmierność środków zastosowanych podczas «Corony» (Covida) uważa tego rodzaju stwierdzenia za poważną przeszkodę dla nadużyć i jednocześnie zabezpieczenie wydaje się być obdarzony niewzruszoną wiarą w instytucje państwowe. Jaki sąd zawetuje wniosek organu policji o monitorowanie wszystkich miejsc publicznych w mieście za pomocą kamer rozpoznających twarze – w celu zabezpieczenia przed atakami terrorystycznymi, powołujący się na rzekome ustalenia wywiadu?

Groźni przestępcy – jak świat światem – uciekają. Nadzorowanie tras komunikacyjnych i skrzyżowań będzie więc zawsze uzasadnione niekończącymi się poszukiwaniami. Zawsze też są przypadki porwań dzieci i dorosłych

Komentarz Breyera

Patrick Breyer komentuje projekt rozporządzenia UE w ten oto sposób https://www.patrick-breyer.de/en/eu-governments-open-the-door-for-biometric-mass-surveillance-in-public-spaces/ https://www.patrick-breyer.de/eu-regierungen-wollen-den-weg-fuer-biometrische-massenueberwachung-im-oeffentlichen-raum-freimachen/:

“Wniosek ten uzasadniałby stałe i powszechne stosowanie nadzoru twarzy w celu poszukiwania tysięcy “ofiar”, “zagrożeń” i podejrzanych o “poważne przestępstwa”, którzy są zawsze poszukiwani. Musimy zapobiec dystopijnej przyszłości masowej inwigilacji biometrycznej w stylu chińskim w Europie!

Całość kwestii należy widzieć w kontekście cyfrowej karty szczepień oraz kontroli dostępu do wszystkich prawie miejsc publicznych, tak jak to miało miejsce w okresie największego alarmizmu związanego z «Coroną». Chiny dokonały już tego rodzaju połączenia, gdzie przestrzeń publiczna nasycona jest systemami rozpoznawania biometrycznego i kontroli paszportów szczepień – aż do wejść do domów.

Każdy, kto znajdzie się na celowniku władz chińskich jako krytyk lub z każdego innego powodu, nie może już więcej poruszać się swobodnie i bez rozpoznania. Władze, w każdej chwili mogą całkowicie odebrać mu swobodę ruchu, ustawiając status Corony na żółty lub czerwony. Chiny wykorzystały Coronę do wprowadzenia zautomatyzowanej, totalnej inwigilacji ludności.

Czy taką możliwość chcemy dać także naszym rządom?

Bald chinesische Verhältnisse? EU-Regierungen wollen Kameras mit Gesichtserkennung | Von Norbert Häring – apolut.net

…………………………………………

Moda, która chroni przed rozpoznawaniem twarzy

«Cap_able» –  mediolański start-up zajmujący się technologią mody, opatentował technologię ubieralną, która chroni przed inwigilacją biometryczną.

24 września 2022

W roku 2019, Rachele Didero, wówczas studentka programu wymiany w Nowym Jorku w Fashion Institute of Technology, wpadła na pomysł konwergencji projektowania mody z technologią mającą przeciwdziałać rozpoznawaniu twarzy. W ten sposób narodził się «Cap_able» – startup fashion tech, który produkuje ubrania odporne na profilowanie algorytmiczne. https://www.capable.design/

«Pomysł opiera się na tym, co nazywa się ‘adversarial textiles’» – wyjaśnia Didero. Dodaje: “Jest to transpozycja pewnych obrazów na tekstylia, które są w stanie zmylić algorytmy rozpoznawania twarzy. W szczególności skupiamy się na Yolo, który jest najszybszym istniejącym oprogramowaniem do rozpoznawania twarzy w czasie rzeczywistym – i uznawanym za najnowocześniejsze przez obecne badania akademickie”. https://en.wikipedia.org/wiki/Object_detection

Aby osiągnąć efekt końcowy, czyli odzież chroniącą dane biometryczne użytkownika, należy pracować nie tylko nad wizerunkami, ale także nad rodzajem tkaniny. Prototyp opatentowany przez Cap_able pozwala na “wbudowanie” algorytmu bezpośrednio w strukturę ubrań.

“Trzeba stworzyć obraz cyfrowo” – kontynuuje Didero. “Następnie przystępuje się do programowania maszyny dziewiarskiej, która musi spełnić określone kryteria, aby mogła wytworzyć tkaninę – która również może składać się z kilku przędz.

Ubranie firmy Cap_able dezorientuje kamery, uniemożliwiając im rozpoznanie ludzkiej twarzy, prowadząc je zamiast tego do identyfikacji zwierząt, potraw lub innych obiektów (których wyobrażenia umieszczone są na tkaninach). «”Adversarial textile” funkcjonują odwrotnie niż kod QR» – wyjaśnia Didero. «Zamiast dawać informacje, ekranuje je».

FOTO: Odzież firmy Cap_able uniemożliwia algorytmom rozpoznawanie ludzi jako takich. W bounding box pojawiają się nazwy zwierząt lub przedmiotów.

https://www.wired.it/article/moda-riconoscimento-facciale-cap-able/

…………………..