Що се отнася до социалните медии, всички знаем, че в допълнение към многото предимства, които предоставят при създаването на връзки по-лесно, може да има и определени рискове и опасности, свързани с взаимодействието онлайн, особено за младите хора. За щастие, има приложения, които са проактивни и се опитват да ограничат тези вреди, които могат да донесат на младите хора чрез прилагане на подходящи технологии за модериране.
Юбо, приложението за социални откривания на живо, което е най-използвано от Gen Z, обяви, че модерирането на звука на живо технологията се разширява до най-големите си пазари, а именно Съединените щати, Обединеното кралство, Австралия и Канада.
Това идва след няколко месеца тестване на функцията в някои райони на Съединените щати, тъй като компанията се научи как да се справя с проблемите, които идват с анализирането на аудио в реално време.
Значението на модерирането на съдържанието
Модерирането на съдържание онлайн е трудна работа. Виждали сме това с Facebook, Twitter и Instagram и т.н. Между обидите, омразните коментари или дори понякога насилието или самонараняването, модерирането е изключително важно, за да бъдат тези платформи безопасни и техните потребители защитени. Има нещо в това да можеш да се скриеш зад предполагаемата анонимност, предлагана от интернет, което може да извади най-лошото в някои хора.
Е, Yubo продължава да показва, че прави всичко възможно, за да предотврати това, особено след като потребителската му база е много по-млада. Според Yubo 99% от тяхната потребителска база е Gen Z на възраст 13-25 години. Докато онлайн тормозът не е приятен за никого, той може да бъде особено вреден за тийнейджърите.
Технологията за модериране на изображения и видео съществува от известно време и е внедрена с различни етапи на успех. Аудио модериране, обаче, остава голямо предизвикателство, особено при потоците на живо. Дали това е поток на живо, заснет, докато се разхождате по улицата, или такъв, където някой играе видео игра, няма особено значение.
Как работи аудио модерирането на Yubo
Започвайки през май 2022 г., Yubo започна пробна фаза за своята технология за аудио модериране в различни области в Съединените щати. Сега следващата фаза включва повечето англоговорящи региони, където Yubo има голяма потребителска база, за да позволи на компанията да събере по-добра представа за техния нов инструмент за безопасност.
Макар и все още нова, това е технология, която може да се използва широко за откриване на насилие или самонараняване в бъдеще.
Yubo не прави всичко това самостоятелно, а по-скоро в партньорство с Hive. Hive, ако не сте чували за тях, е компания, която създава и предоставя API за модериране на съдържание за обработка на изображения и видеоклипове почти в реално време.
Технологията, която Yubo внедри, работи чрез записване и транскрибиране на 10-секундни фрагменти от аудио в потоци на живо от 10 или повече души. Текстът незабавно се анализира от изкуствен интелект, за да открие всякакви думи или фрази, които нарушават правилата на приложението Насоки на общността.
Чакай, това не спира до тук. Докато изкуственият интелект може да бъде страхотен при откриването на такива неща, той все още е далеч от точката, в която може да прави разлика между действителни проблемни употреби и фалшиви флагове.
Фалшивите знамена могат да бъдат например песни, които се изпълняват във фонов режим, или игрив език, който не е злонамерен.
И така, тук се намесват специалистите по безопасност на Yubo, тъй като те са привлечени да разследват маркирани инциденти. Хората са тези, които могат да определят дали дадена ситуация изисква ескалиране или не, ако има действия които трябва да бъдат предприети срещу хората, използващи лош език, или дори ако трябва да бъдат привлечени правоприлагащи органи в.
Ако потокът на живо е напълно наред, преписи не се преглеждат или съхраняват след 24-часово ограничение, така че всичко остава лично; или толкова поверителен, колкото може да бъде поток на живо с над 10 души.
Въпреки това, ако алгоритмите открият заплахи с насилие, реч на омраза или самонараняване, например, преписите се съхраняват до една година. Това, разбира се, е мярка за безопасност за компанията, в случай че правоприлагащите органи изискват информацията или самата компания се нуждае от подробности за по-нататъшни вътрешни разследвания.
Главният оперативен директор на Yubo, Марк-Антоан Дюран, вижда разширяването на аудио модериране технологията като ключов елемент в еволюцията на онлайн безопасността в цялата индустрия.
„Все още има много напредък в областта на разпознаването на глас, но ние сме горди, че проправяме път за нашите колеги чрез като първият, който стартира аудио модериране с Hive и помага да направим този инструмент по-надежден и ефективен чрез това изпитание, ”Дюранд казах.
Очевидно социалните платформи не искат необуздани тормози, реч на омразата и коментари, подбуждащи към насилие, тъй като това би отблъснало другите потребители. Внедряването на такава технология за модериране е чудесен инструмент за защита на потребителите, а също и за гарантиране на растежа и успеха на Yubo в дългосрочен план.