Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

W 2009 roku Bruksela przyjęła tzw. program sztokholmski. To wieloletnia strategia wskazująca konkretne działania na rzecz wolności obywatelskich, sprawiedliwości i bezpieczeństwa.

Jak dowiedział się The Intercept, specjalny program TSA (Transportation Security Agency), czyli amerykańskiej agencji zajmującej się bezpieczeństwem na portach lotniczych i morskich, który miał wskazywać potencjalnych terrorystów wśród pasażerów, służył tak naprawdę do wyłapywania imigrantów. Kosztujący ponad 900 mln dolarów program Screening of Passengers by Observation Techniques, w skrócie SPOT, wykorzystywał instrukcje dotyczące tzw. wskaźników zachowań, do których należały m.in.: obserwacja zmęczenia, pocenie się, słabe porozumiewanie się w języku angielskim, nerwowe reakcje na pytania dotyczące statusu imigrantów, dokumentów uprawniających do pracy itp. Krytykowany od początku swego istnienia (czyli od 2007 r.) program nie tylko nie ma naukowych podstaw metodologicznych, ale także nie przynosi oczekiwanych wyników.