Joy Buolamwini, badaczka w Laboratorium Mediów MIT, sprawdzała systemy rozpoznawania twarzy. Ponieważ sama jest Afroamerykanką, odkryła, że system jej nie rozpoznaje. Gdy zakładała na twarz białą maskę, system ją identyfikował. Po analizie systemów rozpoznawania twarzy, opartych na sztucznej inteligencji (AI) w największych amerykańskich firmach, dokonała zaskakującego odkrycia. Najskuteczniej działały one przy identyfikowaniu białych mężczyzn, zaś najbardziej myliły się przy rozpoznawaniu czarnoskórych kobiet. Odkrycie zmusiło ją do nacisków na rząd USA, aby stworzył przepisy przeciwdziałające zagrożeniom wynikającym z uprzedzeń ukrytych w technologii, która stale wkracza w nasze życie. Wnikliwy dokument śledzący konsekwencje odkrycia Joy Buolamwini. Jaki jest wpływ rosnącej roli sztucznej inteligencji w zarządzaniu naszymi swobodami? Jakie są konsekwencje uprzedzeń AI dla ludzi, którzy nie są białymi mężczyznami?

Dziennik "The Guardian", publikując niedawno pierwszy tekst napisany w całości przez sztuczną inteligencję, pytał: "Czy już się boicie?" Ale w rzeczywistości cyfrowej są rzeczy znacznie bardziej niepokojące niż grafomański manifest AI. Dlaczego systemy rozpoznawania twarzy nie potrafią rozpoznać czarnoskórych osób? Czy komputerowy system rekrutacyjny Amazona automatycznie odrzucał aplikacje złożone przez kobiety? Dlaczego sztuczna inteligencja działa w oparciu o rasowe i genderowe uprzedzenia? Komu zależy na tym, by zdobyć nasze biometryczne wizerunki? Wbrew pozorom to nie są streszczenia kolejnych odcinków "Czarnego lustra". Tak funkcjonuje znacząca część świata. Systemy AI "uczą się", podglądając użytkowników sieci, a następnie przejmując ich poglądy i wizję rzeczywistości. Shalini Kantayya wraz z najwybitniejszymi badaczkami Internetu odsłania przed widzami świat, w którym coraz częściej o naszym losie – zakupach, wyborach politycznych, a także o tym, czy dostaniemy pracę, o którą się staramy – decyduje cyfrowy Wielki Brat. Pytanie, czy mamy jeszcze szansę z nim walczyć?