Какво е PhotoDNA и как работи?

Интернет улесни много неща - от поддържане на връзка с приятели и семейство до намиране на работа и дори работа от разстояние. Ползите от тази свързана компютърна система са огромни, но има и недостатък.

За разлика от националните държави, интернет е глобална мрежа, която нито едно правителство или орган не може да контролира. Следователно незаконният материал попада в мрежата и е невероятно трудно да се предотвратят страданията на децата и да се хванат отговорните.

Съвместно разработена от Microsoft технология, наречена PhotoDNA, обаче е стъпка към създаването на по-безопасно онлайн пространство за деца и възрастни.

Какво е PhotoDNA?

PhotoDNA е инструмент за идентификация на изображения, разработен за първи път през 2009 г. Макар и основно подкрепена от Microsoft услуга, тя е разработена съвместно от професор Хани Фарид от колежа в Дартмут, експерт по анализ на цифрови снимки. Целта на PhotoDNA е да идентифицира незаконни изображения, включително Материал за сексуална злоупотреба с деца, известен като CSAM.

Тъй като смартфоните, цифровите фотоапарати и високоскоростният интернет станаха все по-често срещани, така и количеството CSAM, намерено онлайн. В опит да идентифицира и премахне тези изображения, наред с други незаконни материали, базата данни PhotoDNA съдържа милиони записи за известни изображения на злоупотреба.

Microsoft управлява системата, а базата данни се поддържа от базирания в САЩ Национален център за изчезнали и експлоатирани деца (NCMEC), организация, посветена на предотвратяването на насилието над деца. Изображенията се отправят към базата данни, след като бъдат докладвани на NCMEC.

Въпреки че не е единствената услуга за търсене на известен CSAM, PhotoDNA е един от най-разпространените методи, включително много цифрови услуги като Reddit, Twitter и повечето собствености на Google.

PhotoDNA трябваше да бъде физически настроен локално в първите дни, но сега Microsoft управлява облачната услуга PhotoDNA Cloud. Това позволява на по -малки организации без огромна инфраструктура да предприемат откриване на CSAM.

Как работи PhotoDNA?

Когато потребителите на интернет или правоприлагащите органи попаднат на изображения на злоупотреба, те се докладват на NCMEC чрез CyberTipline. Те са каталогизирани и информацията се споделя с правоприлагащите органи, ако вече не е била. Изображенията се качват във PhotoDNA, който след това се заема с създаването на хеш или цифров подпис за всяко отделно изображение.

За да се стигне до тази уникална стойност, снимката се преобразува в черно -бяла, разделена на квадрати, а софтуерът анализира полученото засенчване. Уникалният хеш се добавя към базата данни на PhotoDNA, споделена между физически инсталации и облака PhotoDNA.

Доставчиците на софтуер, правоприлагащите органи и други надеждни организации могат да внедрят PhotoDNA сканиране в своите продукти, облачен софтуер или други носители за съхранение. Системата сканира всяко изображение, преобразува го в хеш стойност и го сравнява с хешовете на базата данни CSAM.

Ако се намери съвпадение, отговорната организация е предупредена и детайлите се предават на правоприлагащите органи за наказателно преследване. Изображенията се премахват от услугата и акаунтът на потребителя се прекратява.

Важно е, че не се съхранява информация за вашите снимки, услугата е напълно автоматизирана без човешко участие и не можете да пресъздадете изображение от хеш стойност.

От 2015 г. организациите могат да използват PhotoDNA и за анализ на видеоклипове.

През август 2021 г. Apple скъса с повечето други големи технологични компании и обяви, че ще използват свои собствени услуга за сканиране на потребителски iPhone за CSAM.

Разбираемо, тези планове получиха значителна реакция, защото изглеждаха в нарушение на позицията на компанията за поверителност, и много хора се притесняваха, че сканирането постепенно ще включва не-CSAM, което в крайна сметка ще доведе до задни врати за закона изпълнение.

PhotoDNA използва ли разпознаване на лица?

Тези дни сме достатъчно запознати с алгоритмите. Тези кодирани инструкции ни показват подходящи, интересни публикации в емисиите ни в социалните медии, поддържат системи за разпознаване на лица и дори решават дали да ни предложат интервю за работа или да постъпим в колеж.

Може би си мислите, че алгоритмите ще бъдат в основата на PhotoDNA, но автоматизирането на откриването на изображения по този начин би било много проблематично. Например, това би било изключително инвазивно, би нарушило поверителността ни и това да не говорим, че алгоритмите не винаги са правилни.

Google например е имал добре документирани проблеми със софтуера си за разпознаване на лица. Когато Google Photos стартира за първи път, той обидно погрешно категоризира черните хора като горили. През март 2017 г. комитет за надзор на Камарата на представителите е чул, че някои алгоритми за разпознаване на лица са били грешни 15 % от времето и е по -вероятно да идентифицират погрешно черните хора.

Тези видове алгоритми за машинно обучение са все по -често срещано явление, но могат да бъдат трудни за подходящо наблюдение. На практика софтуерът взема свои собствени решения и вие трябва да промените начина, по който е стигнал до конкретен резултат.

Разбираемо, предвид вида на съдържанието, което PhotoDNA търси, ефектът от погрешното идентифициране може да бъде катастрофален. За щастие системата не разчита на разпознаване на лица и може да намери само предварително идентифицирани изображения с известен хеш.

Използва ли Facebook PhotoDNA?

Като собственик и оператор на най-големите и популярни социални мрежи в света, Facebook всеки ден се занимава с много съдържание, генерирано от потребители. Въпреки че е трудно да се намерят надеждни, текущи оценки, анализ през 2013 г. предложи около 350 милиона изображения да се качват във Facebook всеки ден.

Това вероятно ще бъде много по -високо сега, тъй като повече хора са се присъединили към услугата, компанията работи многократно мрежи (включително Instagram и WhatsApp) и имаме по -лесен достъп до камерите на смартфоните и надеждни интернет. Предвид ролята си в обществото, Facebook трябва да намали и премахне CSAM и други незаконни материали.

За щастие, компанията реши това рано, като избра услугата PhotoDNA на Microsoft през 2011 г. От съобщението преди повече от десетилетие има малко данни за това колко ефективно е било това. Въпреки това, 91 процента от всички доклади за CSAM през 2018 г. бяха от Facebook и Facebook Messenger.

PhotoDNA прави интернет по -безопасен?

Разработената от Microsoft услуга несъмнено е основен инструмент. PhotoDNA играе решаваща роля за предотвратяване на разпространението на тези изображения и дори може да помогне в помощ на деца в риск.

Основният недостатък на системата обаче е, че може да търси само предварително идентифицирани снимки. Ако PhotoDNA няма съхранен хеш, той не може да идентифицира злоупотребяващи изображения.

По-лесно от всякога е да правите и качвате изображения с висока разделителна способност онлайн, а насилниците са все по -често се насочват към по -сигурни платформи като Dark Web и приложения за шифровани съобщения, за да споделят незаконни материали. Ако преди не сте попадали на Dark Web, струва си да прочетете за рисковете, свързани със скритата страна на интернет.

Дали тъмната мрежа е незаконна?

Престъпни дейности могат да бъдат намерени чрез тъмни мрежи, но действително ли е незаконно да се влиза в тъмната мрежа?

Прочетете Напред

За автора