W jaki sposób sieci społecznościowe radzą sobie z mową nienawiści?
Programy AI i recenzenci treści ludzkich rozprawiają się z obraźliwymi komentarzami w Internecie
Zach Gibson/AFP/Getty Images
Mowa nienawiści nie jest nowym zjawiskiem w serwisach społecznościowych, ale sobotni wiec skrajnie prawicowy w Charlottesville w stanie Wirginia, w którym zginął jeden protestujący, doprowadził do tego, że firmy podejmują działania przeciwko obraźliwym grupom online.
Oto jak największe grupy mediów społecznościowych reagują na mowę nienawiści, a także ich plany zapobiegania rozprzestrzenianiu się obraźliwych treści:
Po brutalnych wydarzeniach w Charlottesville w sobotę, Engadżet mówi, że Facebook „zamknął wiele grup nienawiści w następstwie ataków”, w tym „stronę wydarzenia dla marszu Zjednoczenie Prawicy, który przeprowadził przemoc”.
Gigant mediów społecznościowych wykorzystuje kombinację sztucznej inteligencji (AI) i recenzentów treści ludzkich, aby znaleźć mowę nienawiści, która Pogranicze mówi, że usuwa „66 000 nienawistnych postów tygodniowo”. Witryna twierdzi jednak, że Facebook „w dużym stopniu polega” na użytkownikach zgłaszających treści jako obraźliwe lub nienawistne.
W maju Facebook zatrudnił dodatkowe 3000 osób do swojego „zespołu recenzentów treści”, mówi TechCrunch , co daje w sumie 7500. Zostało to wywołane kilkoma globalnymi „skandalami związanymi z moderacją treści”, w tym wykorzystaniem Facebook Live „do transmisji morderstw i samobójstw”.
Ale Przewodowy mówi, że zdarzały się sytuacje, w których „algorytmiczny i ludzki recenzent” oznaczał komentarze lub posty jako obraźliwe, nie biorąc pod uwagę kontekstu. Na przykład, strona internetowa mówi, że niektóre słowa „wykrzykiwane jako oszczerstwa” są czasami „odzyskiwane” przez grupy „jako sposób wyrażania siebie”.
Świergot
Polityka Twittera dotycząca nienawistnego zachowania mówi, że usługa „nie zezwala na konta, których głównym celem jest nawoływanie do krzywdy innych” na podstawie obszarów takich jak rasa lub orientacja seksualna.
ten Niezależny informuje, że w ciągu ostatnich miesięcy witryna wprowadziła więcej systemów i narzędzi do wykrywania i usuwania mowy nienawiści, a także usprawniła proces ręcznego zgłaszania obraźliwych materiałów przez użytkowników.
Ale portal społecznościowy był w „gorącej wodzie w ostatnich miesiącach w związku z postrzeganym brakiem działania w wyniku dostrzeżonych zagrożeń”, mówi TechCrunch , co doprowadziło do tego, że aktywista rozpyla „język nienawiści na ulicach przed berlińską siedzibą firmy”.
W następstwie sobotniego starcia strona twierdzi, że konto skrajnie prawicowej grupy The Daily Stormer zostało usunięte, chociaż „twitty Trumpa, które balansują na krawędzi zagrożenia wojną nuklearną” wydają się być zgodne z polityką firmy.
Forum dyskusyjne Reddit również rozprawiło się z mową nienawiści. Engadżet twierdzi, że strona internetowa „zamknęła wiele grup nienawiści w wyniku ataków”.
Wśród grup usuniętych z portalu społecznościowego był subreddit /r/Physical_Removal, strona Engadget mówi, że „miała nadzieję, że ludzie z subredditów przeciw nienawiści i w CNN zostaną zabici, wspierali obozy koncentracyjne, a nawet pisali wiersze o zabijaniu”.
„W warunkach korzystania z naszej witryny bardzo wyraźnie stwierdzamy, że publikowanie treści nawołujących do przemocy spowoduje, że użytkownicy zostaną zbanowani z Reddit” – powiedział Reddit Cnet .
Chociaż Google nie jest wyłącznie siecią społecznościową, gigant technologiczny odgrywa kluczową rolę w kierowaniu ruchem internetowym i aplikacjami społecznościowymi, do których użytkownicy mają dostęp.
Od starcia w Charlottesville w sobotę, TechCrunch twierdzi, że firma usunęła „konserwatywną sieć społecznościową” Gab ze swojego Sklepu Play, ponieważ stała się ona „bezpieczną przystanią” dla użytkowników zabronionych na głównych platformach.
Google twierdzi, że nie obsługuje „treści promujących lub akceptujących przemoc wobec osób lub grup” w oparciu o określone kryteria, dodając, że „bardzo zależy od użytkowników, aby poinformować nas o treściach, które mogą naruszać nasze zasady”.
Ale TechCrunch mówi, że „nie jest jasne, co konkretnie zrobił Gab, które uzasadniało wyrzucenie jej ze sklepu”, ponieważ aplikacja jest pokojem rozmów i nie wydaje się aktywnie promować mowy nienawiści. Witryna mówi, że „na Twitterze i YouTube jest mnóstwo mowy nienawiści”, ale są one nadal dostępne do pobrania pomimo „rozprawy” z obraźliwymi treściami w tym tygodniu.
Według Pogranicze , Gab „nigdy nie został zatwierdzony do umieszczenia w sklepie Apple App Store”.
Co robią inni?
Jednym z godnych uwagi przypadków ograniczenia mowy nienawiści po sobotnich wydarzeniach jest usunięcie przez sprzedawcę nazw domen internetowych GoDaddy z serwisu internetowego The Daily Stormer, mówi Rejestr .
Według strony internetowej aktywiści powiedzieli sprzedawcy, że grupa zrobiła „niezwykle wulgarne i lekceważące uwagi” na temat ofiary ataku w Charlottesville, Heather Heyer. GoDaddy przekazał Daily Stormer 24 godziny na „przeniesienie domeny do innego dostawcy”.
Poinformowaliśmy The Daily Stormer, że mają 24 godziny na przeniesienie domeny do innego dostawcy, ponieważ naruszyli nasze warunki korzystania z usługi.
- GoDaddy (@GoDaddy) 14 sierpnia 2017 r.
Oczekuje się również, że YouTube „wprowadzi surowsze wytyczne dotyczące mowy nienawiści”, donosi TechCrunch . Może to spowodować, że więcej filmów zostanie usuniętych po tym, jak użytkownicy oznaczą je jako obraźliwe, nawet jeśli nie ma w nich niczego nielegalnego.
