Струва ни се, че твърде често виждаме новини, че някакво грубо нарушение или друго е извършено в един или друг сайт на социални медии, включително незаконни публикации или предаване на живо на съдържание с насилие. Може да е лесно да се чудим как в тази технологично напреднала епоха такива неща могат да се изплъзнат през пукнатините.
Но факт е, че е почти невъзможно да се модерират ефективно сайтовете на социалните медии. Защо? Има няколко причини.
Някои сайтове за социални медии са все още млади или са по-нишови. Основните сайтове за социални медии обаче имат огромни потребителски бази. Най-големите сайтове имат между стотици милиони до милиарди потребители. Естествено, всяка толкова голяма платформа е трудна за наблюдение.
Повечето големи социални мрежи управляват това чрез комбинация от докладване на общността, алгоритми (несъвършено), обучени да откриват вредно съдържание, и няколко човешки модератори. Докато член на общността или AI може да забележи и докладва вредна информация, човек (или група хора) има последната дума. И много сайтове предлагат процес на обжалване.
Сайтовете за социални медии не са огромни само по отношение на тяхната потребителска база. Различните държави и различни държави имат различни закони, свързани с това какъв вид съдържание трябва да се докладва и как.
Така че компаниите за социални медии, активни в различни географски области, често трябва да имат различни политики за различните потребители. Това включва различни политики за дезинформация и поверителност. Всъщност, Twitter трябваше да се съгласи с конкретни условия, за да бъде отменен забраната в Нигерия.
Дори повече от това, социалните медии са глобален феномен, но не винаги се случва на „глобалните“ езици. Това може да накара компаниите за социални медии да се борят да намерят модератори на съдържание, които говорят регионални езици, за да предоставят услуги в световен мащаб, без да оставят тези потребители уязвими за лоши актьори.
Добър пример е този на собственика на Facebook Мета. Фирмата беше наскоро съден от бивш модератор на съдържание в Найроби който твърди, че модераторите на съдържание в района са подведени да поемат ролята.
3. Модераторите вървят по въже
Повечето потребители на социални медии искат две неща: искат да се чувстват в безопасност и искат да се чувстват свободни. Постигането на баланс между тези две желания е трудната задача на модератора на съдържанието.
Отклонете се твърде далеч на една страна и потребителите ще се почувстват полицейски. Отклонете се твърде далеч от другата страна и потребителите ще се почувстват изоставени. Един от начините, по който някои сайтове за социални медии заобикалят това, е чрез модератори на общността.
Модераторите на общността помагат да се изрази, че модерирането е нещо, което се прави от страст за популяризиране конструктивен дискурс, без да се допуска вредно съдържание, а не от желание за контрол или потискане потребители. Този модел е предизвикателство в мащаб, въпреки че различните платформи го карат да работи по различни начини.
Parler се върна онлайн след като коригира политиката си за модериране, за да отговаря на правилата на трети страни. Те имат нещо като система за жури на общността, която повече или по-малко влиза в действие само след като вече е докладвана потенциално проблемна публикация. Приоритизирането на потребителските доклади е друг начин, по който Parler помага да облекчи натоварването на своите модератори.
4. Модераторите трябва да следват динамична линия
Модераторите на съдържание също работят в нещо, което може да се почувства като морална сива зона. Дори платформи с по-свободен възглед за модериране имат правила срещу потенциално вредно или насилствено съдържание. Някои публикации са очевидно вредни или насилствени, докато други може да изглеждат вредни или опасни за някои потребители (или модератори), но не и за други.
Много платформи също имат правила срещу други дейности като продажба на продукти или услуги. Това може да бъде още по-трудна област за навигиране, особено предвид размера и обхвата на някои сайтове.
Обмисли какво правят модераторите на общността на Reddit. Всеки път, когато потребители се присъединят към нова общност, веднага им се изпращат правилата за тази общност. Тези правила също са публикувани отстрани на всяка страница на общността. Това позволява на всяка общност да има подмножество от правила, съобразени с нея, а не общи правила за целия сайт.
Идеята за subreddits също помага на Reddit да използва модератори на общността в мащаб. Модераторите имат за задача да модерират своя subreddit, вместо да се опитват да патрулират целия сайт.
И накрая, социалните медии се движат наистина бързо. Когато чуете за проблемна публикация, може да е доста след като оригиналният плакат я е свалил. В случай, че публикацията не е била докладвана, докато е била на живо, отговорът на нея след факта може да бъде труден.
В един случай през 2015 г. публикация в сайта на социалните медии YikYak беше докладвана на полицията, използвайки променена версия на оригиналната публикация, която вече беше премахната. Това, което можеше да бъде решено вътрешно от модераторите на онлайн съдържание, се превърна в продължителна правна драма, която разстрои цяла общност.
Много сайтове за социални медии, включително Facebook, имат политики за запазване на съмнителни публикации в случай, че те трябва да бъдат посочени в развиващи се ситуации, включително от правоприлагащите органи.
Но функции като поточно предаване на живо означават, че съдържанието се увеличава, както се случва, което алгоритмите могат да пропуснат, докато не стане твърде късно.
Хвърлете монета на своя модератор
Ако видите нещо онлайн, което ви притеснява, преминете през предоставените канали, за да го докладвате. Опитайте се да избягвате да се разстройвате или подозирате, защото модерирането на социални медии е трудно. Същото важи, ако вие или публикация бъде докладвана. Вероятно това е добронамерен ход за защита на потребителите на социалните медии.
