Czy technologia rozpoznawania twarzy jest rasistowska?
Wyrażane są obawy związane z systemem identyfikacji twarzy Amazon, który pomylił 28 członków Kongresu USA z podejrzanymi z policji
Ta treść podlega prawu autorskiemu.
Technologia rozpoznawania twarzy to coraz bardziej powszechna część współczesnego życia, używana do wszystkiego, od odblokowywania iPhone'ów po zaawansowaną technologię nadzoru. Pojawiają się jednak obawy, że technologia identyfikacji twarzy może wykazywać uprzedzenia rasowe, co ma potencjalnie poważne konsekwencje.
Wielokrotnie wykazano, że komercyjne oprogramowanie do rozpoznawania twarzy jest mniej dokładne w przypadku osób o ciemniejszej karnacji, pisze Gizmodo . Obrońcy praw obywatelskich martwią się niepokojąco ukierunkowanymi sposobami wykorzystania skanowania twarzy przez policję.
Najnowszy przykład dotyczył firmy Amazon i jej nowej technologii Rekognition.
Narzędzie do rozpoznawania twarzy, które Amazon sprzedaje twórcom stron internetowych, błędnie zidentyfikowało 28 członków Kongresu USA – nieproporcjonalną liczbę z nich osób kolorowych – jak policja podejrzewa na podstawie zdjęć policyjnych. Reuters .
To nie pierwszy tego typu incydent. Ponieważ technologia identyfikacji twarzy staje się coraz bardziej rozpowszechniona, coraz więcej firm odkrywa, że ich algorytmy mają uprzedzenia rasowe.
Na początku tego roku Google znalazło się pod ostrzałem za nieumiejętność całkowitego naprawienia rasistowskiego algorytmu, który został pierwotnie wskazany przez inżyniera oprogramowania Jacky'ego Alcine w 2015 roku. Zauważył, że algorytmy rozpoznawania obrazów w Zdjęciach Google klasyfikowały jego czarnych przyjaciół jako goryle. Zamiast naprawiać technologię rozpoznawania twarzy, Google zablokowało swoim algorytmom rozpoznawania obrazu możliwość całkowitej identyfikacji goryli.
Podobny problem wystąpił z nową techniką Face ID firmy Apple do odblokowywania telefonów.
W grudniu ubiegłego roku okazało się, że technologia Face ID firmy Apple nie jest w stanie odróżnić dwóch Chinek. Apple chwali się, że jego technologia Face ID jest najbardziej zaawansowana na świecie i twierdzi, że prawdopodobieństwo, że przypadkowa osoba może z powodzeniem użyć jej do odblokowania smartfona wynosi około 1 na 1 000 000, według Informujący się . Ale firma została zmuszona do zwrotu pieniędzy Chince, która poinformowała, że jej współpracownik był w stanie odblokować jej iPhone'a X za pomocą technologii skanowania twarzy, mimo że wielokrotnie zmieniała ustawienia rozpoznawania twarzy.
Kobieta, znana jako Yan, otrzymała zwrot pieniędzy i otrzymała nowy telefon – ale ponownie napotkała ten sam problem.
Nasuwa się pytanie: dlaczego te problemy występują i czy można je rozwiązać?
Gizmodo informuje, że badacze z MIT, Joy Buolamwini i Timnit Gebru, odkryli, że twarze o ciemniejszej karnacji są niedostatecznie reprezentowane w zestawach danych wykorzystywanych do ich szkolenia. Powoduje to, że rozpoznawanie twarzy jest bardziej niedokładne podczas patrzenia na ciemne twarze.
Rozwiązanie problemu uprzedzeń rasowych będzie wymagało nie tylko interwencji technicznych, ale także twardych ograniczeń co do tego, jak i kiedy skanowanie twarzy może być wykorzystywane do ochrony wrażliwych społeczności.
Nawet wtedy, jak mówią, rozpoznawanie twarzy będzie niemożliwe bez zajęcia się kwestią rasizmu w systemie sądownictwa karnego, w którym nieuchronnie zostanie wykorzystany.
