Deepfake изображения на ареста на Тръмп накараха хората да повярват, че това наистина се е случило.
Ако сте активни в Twitter, може би сте виждали някои шокиращи снимки на бившия президент на САЩ Доналд Тръмп, който е арестуван от полицаи, бори се с тях и дори бяга от тях. Оказа се, че нищо от това не е истинско. Но как се случи всичко това?
Арестът на Доналд Тръмп, който никога не се е случил
Бившият президент на САЩ сподели предполагаемо изтичане на информация чрез свой служител Truth Social handle на 18 март. В публикацията се посочва, че той очаква арест във вторник следващата седмица по "стари и напълно развенчани" обвинения срещу него. Не след дълго снимки от ареста на Тръмп започнаха да се появяват в интернет.
Изображенията показват нещо, което изглежда като кадри от ареста на Тръмп от група служители на реда.
Изображенията са генерирани от AI
Изображенията обаче не били автентични. Те бяха дълбоки фалшификати, направени с Midjourney, AI генератор на изображения. Midjourney използва алгоритъм за дълбоко обучение, за да генерира снимки от нулата, като използва текстови подкани. В този случай текстовите подкани бяха варианти на ареста на Тръмп.
Deepfake технология съществува от известно време и става все по-усъвършенстван. Изображенията, генерирани от AI, бяха лесно разпознаваеми: липсваха им детайли и реализъм. Въпреки това, Най-новата версия на Midjourney (v5) поправи повечето от тези проблеми и всъщност беше версията, използвана за генериране на дълбоки фейкове за ареста на Тръмп.
Как изображенията станаха вирусни
Елиът Хигинс, разследващ журналист, създаде първите версии на deepfakes за ареста на Тръмп, за да визуализира как би изглеждал арестът на Тръмп. Той ги публикува в профила си в Twitter. Въпреки че от надписа му беше ясно от самото начало, че изображенията са фалшиви, не отне много време публикацията да стане вирусна.
Докато изображенията се разпространяваха в социалните медии, много хора вярваха, че е истинско. Публикацията на Тръмп в Truth Social вече накара хората да се усъмнят, а реалистичните изображения само подхраниха огъня. Отне известно време, преди да стане ясно, че снимките са фалшиви и историята за ареста е измама.
Публикациите в социалните медии, „съобщаващи“ за фалшивия арест, са изтрити или върху тях има етикет за дезинформация. Като наказание Midjourney също забрани Хигинс от техния сървър за един месец, на Вашингтон пост.
Ерата на Deepfakes изисква бдителност
Deepfakes за ареста на Тръмп подчертават тревожния напредък в AI технологията. Фалшивите изображения вече могат да се създават с невероятна лекота и изглеждат толкова реалистични, че е трудно да се различи кое е истинско от това, което не е. Бдителността сега е по-критична от всякога, когато става въпрос за онлайн съдържание.