Przetłumaczono z DeepL.com (wersja darmowa):

Dzisiaj AlgorithmWatch wraz z Amnesty International, CCC, GFF i Ulrichem Kelberem przedstawili ekspertyzę, która jasno dowodzi niezgodności z prawem planów Dobrindta dotyczących masowej inwigilacji biometrycznej. Jego niewyobrażalne pomysły dotyczące Palantira również nie pasują do naszej demokracji. Oba projekty należy bezwarunkowo odrzucić.

Opinia przedstawiona dzisiaj przez AlgorithmWatch, Amnesty International, Chaos Computer Club (CCC), Gesellschaft für Freiheitsrechte (GFF) oraz byłego federalnego komisarza ds. ochrony danych i wolności informacji, Ulricha Kelbera, jest jednoznaczna: Pomysły federalnego ministra spraw wewnętrznych Alexandra Dobrindta (CSU) dotyczące stałego monitoringu biometrycznego, sformułowane w pakiecie ustaw, są niezgodne z demokratycznym państwem prawa i naruszają prawo UE.

Masowe gromadzenie danych biometrycznych twarzy wszystkich osób i poddawanie ich analizie technicznej za plecami obywateli to posunięcie, które trwale pogorszyłoby jakość naszego wspólnego życia. Nikt bowiem, z wyjątkiem być może kilku osób w Ministerstwie Spraw Wewnętrznych, nie chce żyć w świecie, w którym każdy człowiek wszędzie narażony jest na analizę biometryczną i porównywanie z bazami danych. Dane dotyczące ciała ludzkiego nie są dobrowolnie dostępne, ani dla komercyjnych usługodawców zajmujących się stalkingiem, ani do przechowywania w państwowych bazach danych.

Każdy, kto potrafi połączyć fakty, uzna plan przewidziany w tym samym projekcie, dotyczący zezwolenia na automatyczną analizę danych na niespotykaną dotąd skalę dla federalnych organów policyjnych, za kolejną dystopię w zakresie nadzoru: Dobrindt planuje również masową analizę obejmującą miliony osób, których dane będą potajemnie gromadzone i filtrowane. Fakt, że publicznie rozważa on zawarcie umowy z koncernem Palantir, świadczy o całkowitej ignorancji wobec tego, co dzieje się obecnie w Stanach Zjednoczonych przy aktywnym wsparciu technicznym właśnie tego amerykańskiego koncernu.

Jednak problem nie dotyczy firm Palantir, Pimeyes czy Clearview AI. Prawdziwym problemem jest idea wszechobecnej inwigilacji i skanowania danych, której nikt nie jest w stanie uniknąć.

Niezgodne z prawem europejskim i skazane na niepowodzenie

Nie jest jeszcze jasne, kiedy gabinet Dobrindta umieści projekty na porządku dziennym. Jednak rząd federalny postawił sobie za cel promowanie biometrycznego nadzoru ludności.

W obecnej formie projekty te byłyby sprzeczne z obowiązującym prawem i otworzyłyby furtkę do masowej inwigilacji ludności. Projekt ustawy Federalnego Ministerstwa Spraw Wewnętrznych musi zostać odrzucony ze względów prawnych i technicznych. Ocena ta jest poparta nową ekspertyzą, która została przedstawiona dzisiaj.

Jednym z głównych punktów krytyki jest wyraźne naruszenie unijnego rozporządzenia w sprawie sztucznej inteligencji (AI Act), które jest zawarte w projekcie ustawy. Rozporządzenie w sprawie sztucznej inteligencji bez wyjątku zabrania „tworzenia lub rozbudowywania baz danych do rozpoznawania twarzy poprzez nieukierunkowane pobieranie zdjęć twarzy z Internetu lub nagrań z monitoringu”. W związku z tym krajowe projekty ustaw przewidujące porównywanie danych biometrycznych z obrazami z Internetu byłyby sprzeczne z obowiązującym prawem UE, gdyby porównanie to mogło odbywać się wyłącznie przy pomocy takich baz danych.

Tak właśnie jest w rzeczywistości, jak potwierdza ekspertyza techniczna zlecona przez AlgorithmWatch: aby przeprowadzić porównanie biometryczne z obrazami z Internetu zgodnie z założeniami, konieczne jest bez wyjątku wykorzystanie baz danych do rozpoznawania twarzy. Tym samym taka ustawa jest niezgodna z prawem europejskim i skazana na niepowodzenie.

Matthias Marx, rzecznik Chaos Computer Club, komentuje: „Niezależnie od tego, kto je prowadzi: masowa inwigilacja biometryczna jest niezgodna z prawem. Policja nie może również korzystać z prywatnych wyszukiwarek twarzy, takich jak Pimeyes lub Clearview AI, aby nie legitymizować ich tylnymi drzwiami. Wręcz przeciwnie, niemieckie organy ochrony danych muszą w końcu aktywnie zwalczać te komercyjne usługi wszelkimi dostępnymi środkami prawnymi. Należy również zrezygnować z planu połączenia wszystkich danych policyjnych i ich automatycznej analizy”.

Matthias Spielkamp, dyrektor zarządzający AlgorithmWatch, wyjaśnia: „Cieszymy się, że dzięki ekspertyzie możemy teraz pokazać to, co my i wielu innych krytykuje od dawna: planowane biometryczne procedury rozpoznawania nieuchronnie naruszyłyby prawo UE, ponieważ nie można ich wdrożyć bez wykorzystania baz danych. Obecny rząd federalny nie może dłużej zaprzeczać temu faktowi i powinien ostatecznie porzucić swoje plany dotyczące rozpoznawania twarzy”.

Dr Simone Ruf, dyrektor Centrum Praw Użytkowników w Stowarzyszeniu na rzecz Praw Obywatelskich, dodaje krytykę z perspektywy praw podstawowych: „Skanowanie twarzy w Internecie i Palantir nie zapewniają nam większego bezpieczeństwa – są one atakiem na nasze prawa podstawowe i krokiem w kierunku państwa policyjnego. Nie możemy tego zaakceptować”.

Krytykę tę popiera dr Julia Duchrow, sekretarz generalna Amnesty International Niemcy, z perspektywy praw człowieka: „Masowa inwigilacja z wykorzystaniem sztucznej inteligencji zagraża prawom człowieka i demokracji. Ma ona efekt zastraszający i niesie ze sobą ryzyko nadużyć. Zarówno w przypadku wykorzystania sztucznej inteligencji do porównywania danych biometrycznych, jak i do automatycznej analizy danych policyjnych istnieje ponadto znaczne ryzyko dyskryminacji. Jeśli do automatycznej analizy danych ma być wykorzystywane oprogramowanie firmy Palantir, to według badań Amnesty International w Stanach Zjednoczonych jest to przedsiębiorstwo systematycznie zaangażowane w łamanie praw człowieka przez administrację Trumpa – i dlatego powinno być wykluczone z zamówień publicznych”.

Ulrich Kelber, były federalny komisarz ds. ochrony danych i wolności informacji, kończy krytyką z punktu widzenia prawa o ochronie danych: „Wielokrotnie Federalny Trybunał Konstytucyjny musiał powstrzymywać nadmierne przepisy dotyczące nadzoru i poszukiwań w wyniku skarg ze strony społeczeństwa obywatelskiego. Federalne Ministerstwo Spraw Wewnętrznych nie wyciągnęło z tego wniosków i ponownie chce wprowadzić przepisy, które w sposób oczywisty naruszają konstytucję, przepisy dotyczące ochrony danych i regulacje dotyczące sztucznej inteligencji”.

Projekt Dobrindta przewiduje szereg zmian w ustawie o Federalnym Urzędzie Kryminalnym (BKAG), ustawie o policji federalnej (BPolG) oraz ustawie o azylu (AsylG). Organy policyjne mają otrzymać dodatkowe uprawnienia, które naruszają prawa podstawowe, są sprzeczne z rozporządzeniem UE w sprawie sztucznej inteligencji i sprzyjają masowej inwigilacji opartej na sztucznej inteligencji. W lipcu organizacja AlgorithmWatch rozpoczęła zbieranie podpisów pod petycją, w której domaga się między innymi całkowitego zakazu stosowania systemów rozpoznawania twarzy w przestrzeni publicznej. Petycję podpisało ponad 52 000 osób.