6 големи проблема с Deepfake Music

Новите песни на известни изпълнители стават вирусни в социалните медии, което обикновено не е проблем, освен когато гласовият клонинг е този, който пее. Въпреки че беше една от последните медии, които се задържаха, deepfake музиката вече е реалност.

Работи чрез обучение на AI модел върху гласа на певеца и резултатите не винаги са лоши. Има много истинска креативност в създаването на deepfake песни, но проблемът не е само в резултата. В много случаи разрешението не се дава и въпросите кой получава плащане и дали е етично са само част от проблемите на deepfake музиката.

1. Неоторизирани набори от данни

Ако искате да създадете дълбока фалшива песен на известен изпълнител, трябва да съберете аудио файлове с техния певчески глас в набор от данни. Подобно на всички данни, които принадлежат на някого, вероятно трябва да получите тяхното разрешение да ги използвате, но deepfake песен може да стигне до голяма музикална платформа като YouTube, Spotify или TikTok, след като е използвала неоторизиран набор от данни.

Това се случи с артистите Drake и The Weeknd, когато потребител на име Ghostwriter създаде „Heart on My Sleeve“. Хитовата песен включваше синтезираните от AI гласове на артистите, допълнени с текстове за бившата приятелка на The Weeknd.

Песента искрено се хареса на феновете, като добавихме похвала към Ghostwriter за креативното използване на deepfake вокалите, но като Сиатъл Таймс съобщи, не всички го виждаха по този начин. Говорител на Universal Music Group, основният лейбъл зад двамата изпълнители, пита:

„От коя страна на историята искат да бъдат заинтересованите страни в музикалната екосистема: от страната на артистите, феновете и човешко творческо изразяване, или на страната на дълбоки фалшификати, измами и отказ на артистите от дължимото им възнаграждение?"

2. Остарял Закон за авторското право

Ако сте артист, който не иска гласът ви да бъде клониран, законът за авторското право все още може да не е в състояние да ви помогне. Тъй като нашите закони за авторското право бяха написани във време, когато този тип AI технология не съществуваше, не е изненада, че законите все още се опитват да наваксат.

Най-близкият правен случай на "кражба на глас" в САЩ датира от 90-те години на миналия век. Като съобщава Los Angeles Times, певецът Том Уейтс спечели 2,475 милиона долара обезщетение от Frito-Lay Inc., могъщият чип гигант зад Doritos, Cheetos, Cracker Jack's и др.

Рекламата използва гласа на някой, който звучи достатъчно близко до Том Уейтс, така че хората да повярват, че истинският артист стои зад рекламната кампания. Същото може да се каже и за дълбоко фалшивите песни, които в момента се разпространяват, но AI музиката все още не е тествана в съдебна битка.

Докато чакаме правната система да се актуализира, струва си да се отбележи, че не всеки има проблем с хората, които клонират гласа си, вземете Холи Херндън, например. Изправена пред настъпващата вълна от AI музикални приложения, тя избра да упълномощи своя вокален близнак, наречен Holly+, заедно със система, която й дава справедливо възнаграждение.

На която и страна да застанете, проблемът си остава същият. Няма конкретен закон за авторското право, който да казва, че трябва да получите разрешение от изпълнителя, преди да използвате неговия глас. Дотогава артистите може да се окажат в дивия запад на AI технологията, без закони, които да ги ръководят.

3. Кой получава плащане?

Добре ли е да правите пари от музика, като използвате нечий глас? Това е труден въпрос, който може да се превърне в по-голям проблем, тъй като все повече дълбоко фалшива музика се публикува в платформи за стрийминг и се монетизира в социалните медийни платформи.

Както всички знаем, няма проблем да изпеете кавър на известна песен и да я публикувате в YouTube или Spotify, и в този случай неща като текст, структура на песента, мелодия, ритъм и т.н. се копират. Но вокалните клонинги са доста различни и deepfake музиката не е точно рифиране на съществуваща песен, а създаване на изцяло нова песен с помощта на нечий друг глас.

Казано по друг начин, гласовите клонинги нямаше да съществуват, ако не бяха инструментите за изкуствен интелект и неоторизираните набори от данни. Артистите прекарват цял ​​живот в усъвършенстване на гласа, с който са родени, и в изработването на уникален звук. Да откраднеш нечий глас и да спечелиш пари от това може да е стъпка твърде далеч.

4. Жанр със сива зона

За да усложним нещата, някои хора може да не гледат на deepfake музиката като на напълно лоша. За разлика от deepfake изображения или видеоклипове, на които може да се посмеете за кратко, преди да превъртите покрай тях на телефона си, deepfake музиката се развива към свой собствен жанр.

Някои хора го сравняват с идеята за писане на фантастика, забавен и креативен начин да се отдаде почит на художник. Това е по-положителен възглед, който затруднява изключването на deepfake музиката като просто табу. Просто погледнете подхода на Холи Херндън към клонирането на AI глас във видеото по-долу.

Въпреки че не всички са съгласни, че този тип музика трябва да бъде разрешен. Като Пише Financial Times, основният звукозаписен лейбъл, Universal Music Group, имаше за цел да премахне песни с по-ниско качество от стрийминг платформи, включително тези, създадени от AI. В крайна сметка платформи за стрийминг като Spotify, Apple Music или Tidal ще трябва да вземат решение дали този жанр музика е разрешен на тяхната платформа.

Deepfake музиката разпалва подобни дебати, които вече се случват в света на изкуството: трябва ли изкуството, генерирано от AI, да се счита за изкуство? Едва сега поставяме под въпрос AI музиката.

5. Етични опасения около раса и идентичност

Ерата на deepfake музиката започна с много музика, която имитира рап музиката. Тъй като историческите корени на жанра се проследяват назад към афро-американската младеж, израснала в Бронкс, Ню Йорк, в началото на 70-те години, някои хора са загрижени за расата и идентичността в музиката с изкуствен интелект.

Писател Лорън Шанел, е един човек, който намира deepfake музиката за сериозен проблем. Както е цитирано в an статия от New York Times, обясняват:

„Това е друг начин хората, които не са чернокожи, да облекат костюма на чернокож – да вдигнат ръцете си на Кание или Дрейк и да го направят марионетка – и това е тревожно за мен.” „Това е просто още един пример в дълга поредица от хора, които подценяват какво е необходимо, за да се създаде вид изкуство, което в исторически план черните хора направи.”

Това не е първият път, когато музиката, създадена с AI инструменти, не е етична. Като съобщава списание Rolling Stone, виртуален аватар рапър на име FN Meka беше подписан с лейбъл, след което бързо се отказа, когато онлайн граждански правозащитната група Industry Blackout написа, че проектът увековечава "грубите стереотипи" за Back култура.

Ако не друго, дълбоката фалшива музика ни напомня, че AI инструментите не могат да бъдат отделени от историята на правенето на музика и игнорирането на това допринася за опасностите от AI deepfakes.

6. Причиняване на вреди на артисти

Едно нещо, което не бива да се пренебрегва, е емоционалното въздействие, което една deepfake песен може да има върху изпълнителя, особено когато гласовият клонинг могат да пеят за ситуации, които никога не са се случвали, да изразяват емоции, които не са техни собствени, и да се преструват, че ги е грижа за неща, които може да не са.

В случая с фалшивата песен на Drake ft. The Weeknd, текстовете включват редове за Селена Гомез, която е излизала с The Weeknd. Използвайки комбинация от факти от реалния живот и измислени текстове, това беше странно изкривяване на реалността, което може да бъде вредно за артиста, който е преживял истинското преживяване.

По същия начин, създаване на текстове, генерирани от AI „в стила на“ някой известен, използващ AI текстови генератори, накара някои художници да се отчаят от използването на AI технология. Както казва Ник Кейв, "Това, което е ChatGPT в този случай, е репликация като пародия."

Дийпфейк музиката е в състояние да постави думи в устата на артиста, които те никога не са изговаряли или в този случай са пеели. На лично ниво това може да навреди на художника, който има малък контрол върху премахването на съдържанието, без да води битката до съда.

Подгответе се за промени в музикалната индустрия

Благодарение на нарастващия достъп до AI инструменти, музиката навлезе в света на deepfakes, по-специално чрез гласови клонинги. Да се ​​направи разликата между AI глас и човешки глас само чрез слушане е изключително трудно, което улеснява дълбоко фалшивата песен да достигне до стрийминг платформи, преди да бъде премахната.

От една страна, феновете могат да се насладят на deepfake музика и може да се появи валиден жанр, който използва известни гласове за създаване на нова и интересна музика. Но не всеки изпълнител е съгласен гласът му да бъде клониран и няма закони, които да спират хората да създават неоторизирани набори от данни.

Получаването на съгласие, компенсирането на артистите и разглеждането на етични проблеми са само няколко проблема, пред които са изправени артистите и музикалната индустрия. С бързото развитие на AI технологията си струва да спрете, за да помислите върху проблемите, които са създали.