Microsoft разпространява инструмент за дълбоко фалшиво откриване

Като се има предвид колко дълбоки фалшификати са потенциално опустошителни за нечия репутация и са много трудни за откриване, когато се направят правилно, те са основна грижа за сигурността. Сега Microsoft се стреми да помогне за спиране на фалшивите фалшификати, като пусне инструмент, който може да ги открие.

Заплахата, която представляват фалшивите фалшификати, е толкова значителна, че я предизвика Facebook да забрани цялото дълбоко съдържание. Най-голямата пречка обаче е как се правят фалшивите фалшификати, за да изглеждат убедително; като такива намирането и потвърждаването на фалшив фалшив е много трудно.

Facebook забранява Deepfakes и Photoshop

Facebook забранява снимки на дълбоки фалшификати и Photoshopped. Идеята е да се премахнат манипулирани медии, предназначени да заблудят потребителите.

Както се съобщава на Microsoft по проблемите, компанията иска да промени това с новия си инструмент. Нарича се Microsoft Video Authenticator и анализира видеоклипове, за да търси „шевовете“, останали след създаването на deepfake. Тези шевове са невидими за човешките очи, но компютър може да ги забележи, използвайки анализ на кадър по кадър.

За да се предотвратят злонамерени агенти от обратен инженеринг на технологията, Microsoft Video Authenticator няма да бъде публична версия. Вместо това Microsoft разпространява своята система на новинарски и политически организации. По този начин тези организации могат да използват инструмента, за да отделят реалното от фалшивото.

Microsoft обаче обяви втора технология за идентифициране на дълбоки фалшификати. Компанията предлага система, при която създателят на съдържание може да маркира своите видеоклипове с уникален „подпис“. Ако видеото се редактира, то ще генерира различен подпис от оригинала, като по този начин идентифицира a deepfake.

Авторът на Deep Fakes and the Infocalypse, Нина Шик, каза следното:

Единственото наистина широко разпространено приложение, което сме виждали досега, е порнография без жени, която не е съгласна. Но се очаква синтетичните медии да станат повсеместни след около три до пет години, така че трябва да развиваме тези инструменти напред. Тъй като обаче възможностите за откриване стават все по-добри, способността за генериране също ще се подобри - никога ще бъде случаят, че Microsoft може да пусне един инструмент, който може да открива всички видове видео манипулация.

Дълбоките фалшификати са значителен проблем за доверието в медиите и компаниите се нуждаят от начин кажете какво е реално от това, което е измислица. Microsoft пусна инструмент, който помага да се забележат редактирани видеоклипове. Дали обаче инструментът ще е достатъчен, за да бъде в крак с разработчиците на дълбоки фалшиви технологии, все още предстои да се види.

Ако не сте сигурни какво представляват deepfakes и защо те имат значение, определено си струва да отделите малко време, за да научите за тях. Deepfakes са готови да се превърнат в еквивалент на това десетилетие на "Photoshopping" изображения и могат да причинят сериозни щети, ако се използват злонамерено.

Обяснени дълбоки фалшификати: AI, който прави фалшивите видеоклипове твърде убедителни

Генерираните от ИИ фалшиви видеоклипове напълно подкопават нашето разбиране за световните събития. Ето как deepfakes може да промени всичко.

За автора