Zewnętrzna moderacja niszczy Facebooka

Przekazując zewnętrznym wykonawcom krytyczne prace związane z moderowaniem treści, Facebook zrzekł się odpowiedzialności zarówno wobec swoich użytkowników, jak i całego społeczeństwa.

Moderowanie treści jest trudne. Z filozoficznego punktu widzenia trudno jest wydawać sprawiedliwe i spójne osądy na temat tego, co ludzie powinni, a czego nie powinni mieć sobie do powiedzenia. Trudno jest uzyskać zrozumienie kontekstu potrzebne do właściwej interpretacji każdego posta. I, jak wyszczególniono w licznych raportach, wyczerpujące jest psychologicznie spędzanie całego dnia na przeszukiwaniu najgorszych cech ludzkości, podejmowaniu szybkich decyzji, które mogą mieć konsekwencje dla życia lub śmierci. W szczególności Casey Newton z The Verge ujawnił w serii opowieści, jak traumatyczna może być ta praca - szczególnie dla wykonawców, którzy codziennie oglądają haniebne materiały filmowe i obrazy za kiepskie zarobki, nie mając nic do powiedzenia w często wydawanych arbitralnie zasadach zmuszony do egzekwowania.

Moderacja treści jest delikatna. Moderatorzy mają dostęp do informacji i narzędzi, które w przypadku nadużyć mogą zagrozić prywatności. Kiedy Covid-19 zmusił biura na całym świecie do zamknięcia, pracownicy Facebooka po prostu przenieśli się do pracy z domu. Jednak Facebook nie ufa swoim pracownikom odpowiedzialnym za moderację kontraktów w tym zakresie, więc po prostu przestał używać większości ludzkich moderatorów na pewien czas. Przeniósł większość obciążenia na swoją sztuczną inteligencję. narzędzia, nawet jeśli przyznał, że doprowadziłoby to do większej liczby błędów.

Moderacja treści ma kluczowe znaczenie dla działalności Facebooka. Bez tego sieć społecznościowa szybko poszłaby drogą MySpace, zasiedziałego na spamie operatora, którego zmiażdżył dekadę temu, w dużej mierze dzięki czystszemu interfejsowi i bezpieczniejszemu środowisku. Cała pornografia, bestialstwo, znęcanie się nad dziećmi, mowa nienawiści, terrorystyczne ścinanie głów, które czynią pracę umiaru tak nieszczęśliwą, byłyby zamiast tego narzucane użytkownikom Facebooka, którzy z pewnością nie wytrzymaliby tego zbyt długo.