Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

Unia Europejska podzieli osoby wjeżdżające na jej teren z pomocą sztucznej inteligencji. Nowa regulacja AI ma dopuszczać stosowanie systemów wysokiego ryzyka w zarządzaniu migracją, azylem i kontrolą granic.

Jak donoszą media biometryczny system identyfikacji pod