Czy „Elsagate” dowodzi, że YouTube jest zbyt duży, by go kontrolować?
Skandal z brutalnymi i seksualnymi filmami skierowanymi do dzieci ujawnia trudność polegania na algorytmach
Catrinus Van Der Veen / AFP / Getty Images
W lutym YouTube ogłoszony osiągnął oszałamiający kamień milowy: odwiedzający konsumowali teraz równowartość miliarda godzin filmów dziennie.
Równie zdumiewająca jest sama wielkość bazy użytkowników platformy. Ponad 1,5 miliarda ludzi korzysta z YouTube, mówi Opiekun Rogera McNamee, co daje mu globalny zasięg porównywalny z islamem.
Ale, jak mówią, z wielką mocą wiąże się wielka odpowiedzialność, a niedawny ElsaGate, skandal dotyczący niepokojących filmów skierowanych do dzieci, skłonił niektórych do zastanowienia się, czy YouTube stał się potworem Frankensteina, poza kontrolą jego twórców.
Co to jest ElsaGate?
Niektóre z najpopularniejszych kanałów YouTube są skierowane do dzieci, a twórcy specjalizujący się w rymowankach, kolorowych kreskówkach i wszechmocnych filmach z rozpakowywania zabawek zyskują miliony subskrybentów i miliardy wyświetleń.
Ale jest problem. YouTube jest całkowicie zalany skrajnie brutalnymi, nieodpowiednimi, podtekstami seksualnymi filmami skierowanymi do dzieci, mówi Inkwistr , a te filmy trafiają na listy autoodtwarzania wraz z klipami dostosowanymi do wieku.
Dziennikarz James Bridle zagłębił się w to niepokojące zjawisko, nazwane Elsagate na cześć popularnej postaci Krainy lodu, która pojawia się w wielu filmach, w artykule zatytułowanym Coś jest nie tak w Internecie na Średni ten miesiąc.
Odkrył, że gdy twórcy treści ścigają widzów, skuteczne – i pierwotnie nieszkodliwe – formuły gromadzenia poglądów są nieustannie powtarzane w sieci w coraz bardziej dziwacznych i zniekształconych rekombinacjach.
W najbardziej ekstremalnych przypadkach obejmują one legion niepokojących filmów, które wydają się być produkowane lub w niektórych przypadkach automatycznie generowane w odpowiedzi na popularne słowa kluczowe. Często zawierają niepokojące motywy i treści seksualne lub związane z przemocą.
Na przykład wyszukiwanie dentysty Świnki Peppy zwraca domowy klip, w którym popularna dziecięca postać jest torturowana, zanim zamieni się w serię robotów Iron Man i wykona taniec Learn Colors.
ElsaGate wywołała lawinę reakcji ze strony zaniepokojonych rodziców, mediów i internetowych detektywów, którzy chcą dowiedzieć się, kto lub co tworzy te niepokojące filmy i dlaczego.
Czy YouTube stał się zbyt duży, by go kontrolować?
W centrum ElsaGate i innych kontrowersji dotyczących treści YouTube, takich jak filmy promujące terroryzm lub przemoc, leży wszechmoc algorytmów platformy.
Wbrew temu, w co mogą sądzić niektórzy rodzice, treści w dedykowanej aplikacji YouTube dla dzieci nie są selekcjonowane ani nawet wstępnie sprawdzane przez ludzi. Zamiast tego sugerowane filmy pojawiają się na liście autoodtwarzania automatycznie na podstawie udostępnionych słów kluczowych lub podobnych odbiorców.
Sam rozmiar katalogu YouTube wykracza poza możliwości ludzkiego nadzoru. Zgodnie z Statystyka .
Niesamowita liczba filmów, które zostały wyprodukowane w odpowiedzi na popularne hasła wyszukiwania, pokazuje, w jakim stopniu YouTube jest zasadniczo obsługiwany przez maszyny, mówi Bridle z Medium.
Na platformie, na której widoczność treści – a tym samym potencjalne przychody z reklam – jest kontrolowana przez algorytmy, nawet jeśli jesteś człowiekiem, musisz podszywać się pod maszynę.
ElsaGate ujawniła wieloletnią prawdę o YouTube, której nie można dłużej ignorować, mówi Wielokąt : filtry zaprojektowane w celu ochrony użytkowników w każdym wieku przed niepokojącymi, brutalnymi lub nielegalnymi treściami nie są odpowiednie.
Algorytmy są rozrywane, analizowane i bite przez twórców treści, ludzi lub zautomatyzowanych, którzy nauczyli się grać w system, aby upewnić się, że ich wyniki są widoczne.
W szczególnie znanym przykładzie dowcipnisiom na forum dyskusyjnym 4chan udało się połączyć pornografię z programami dla dzieci i ograć algorytm, aby zapewnić, że filmy są zarabiane i oglądane, mówi Polygon.
Czy problem można rozwiązać?
YouTube zobowiązał się rozprawić się z plagą nieodpowiednich filmów dla dzieci, które przemykają przez filtry w aplikacji dla dzieci.
Juniper Downs, dyrektor ds. polityki, powiedział, że nowy system, który poprzedza rewelacje ElsaGate, będzie klasyfikował filmy oznaczone przez użytkowników jako objęte ograniczeniami wiekowymi, co automatycznie uniemożliwi im dostęp do aplikacji YouTube Kids.
Na szerszym poziomie widać oznaki, że YouTube zmienia swoje podejście do kuracji treści w kierunku bardziej praktycznego podejścia, pod wpływem nacisków ze strony rządów zaniepokojonych ekstremizmem internetowym.
Wiele ataków terrorystycznych w Europie i Stanach Zjednoczonych zostało dokonanych przez osoby, które, jak się uważa, uległy samoradykalizacji, po części dzięki oglądaniu propagandowych filmów na YouTube tworzonych przez takie grupy jak Państwo Islamskie i ich sympatyków.
Politycy zagrozili podjęciem działań przeciwko firmom technologicznym, które nie wzmacniają środków mających na celu usuwanie filmów zawierających treści ekstremistyczne. Alphabet, firma macierzysta YouTube, wydaje się poważnie traktować zagrożenia.
Wcześniej podburzające filmy religijne lub polityczne były dozwolone w YouTube, jeśli nie naruszały zasad witryny dotyczących treści drastycznych lub promujących przemoc, chociaż nie kwalifikowały się do uzyskiwania przychodów z reklam.
Rzecznik YouTube potwierdził, że Reuters ich polityka została zmieniona, aby zakazać wszelkich filmów przedstawiających osoby lub grupy sklasyfikowane jako terrorystyczne, w tym materiałów takich jak wykłady rekrutera Al-Kaidy, Anwara al-Awlakiego.
Jednak nawet jeśli YouTube opracuje nowe strategie naprawiania luk, implikacje ElsaGate pozostają niepokojące na głębszym poziomie, mówi TechCrunch Natasza Lomas.
Jak pisze Lomas, medium YouTube zachęca fabryki treści do produkowania karmy do klikania, narażając pokolenie na falę popkultury opartej raczej na słowach kluczowych niż na spójności. Trudno sobie wyobrazić coś pozytywnego pochodzącego z czegoś tak celowego i oddolnego, które jest systematycznie wypychane przed oczy dzieci.
