Twitter разкрива, че е изрязал AI изрязването поради пристрастия към раса и пол

За първи път чухме идеята алгоритъмът за изрязване на изображения на Twitter да има някои пристрастия през септември 2020 г. Криптографският инженер Тони Арчиери качи две изображения с участието на лидера на сенатското мнозинство Мич Макконъл и бившия президент Барак Обама, и ИИ, изрязано на лицето на Макконъл и двата пъти.

Когато спорът в крайна сметка достигна до хората в Twitter, компанията обеща да анализира своя модел. И накрая, трябва да прочетем тези констатации.

Twitter споделя резултатите от анализа на своя алгоритъм

В началото на май Twitter най-накрая пусна визуализации на изображения в пълен размер на своите мобилни срокове. Публикация в блога в Twitter разкри, че приложението е използвало алгоритъма за изрязване на изображения, след като анализ показа, че има пристрастия, основани на раса и пол.

Платформата започна да използва алгоритъм за забележимост през 2018 г. за изрязване на своите изображения. Twitter казва, че изпъкналите модели се обучават на данни за проследяване на човешкото око, които след това се използват от алгоритъм за оценка на обектите / елементите в изображението, които според него е най-вероятно да са важни за повечето хора.

Тогава алгоритъмът ще излезе с рейтинг на видимост за всички части на изображението, преди да избере точката с най-висок резултат, която да бъде центърът на културата.

След провеждането на количествен тест за проверка за потенциални пристрастия, екипът установи, че алгоритъмът за открояване изглежда дава предимство на жените пред мъжете и белите индивиди пред чернокожите.

Twitter също тества алгоритъма за "мъжкия поглед", но не бяха открити доказателства за обективна пристрастност.

Дори ако алгоритъмът за видимост беше коригиран, за да отразява перфектното равенство между расовите и половите подгрупи, ние [Twitter] сме загрижени от представителната вреда на автоматизирания алгоритъм, когато хората нямат право да се представят, както желаят в платформа. Отличителността има и други потенциални вреди извън обхвата на този анализ, включително нечувствителност към културните нюанси.

При разглеждане на компромисите между скоростта и последователността на автоматизираното изрязване и рисковете от него, Twitter казва, че екипът му е осъзнал, че как да изрежете изображение е решение, най-добре взето от хората, а не алгоритми.

Свързани: Технологични тенденции, които вече променят бъдещето

Twitter се отървава от автоматичното изрязване на изображения

Twitter вече не използва алгоритъма за видимост и сега показва снимки със стандартно съотношение на страните изцяло както на iOS, така и на Android. Когато създавате туит, ще откриете, че новата актуализация включва и истински преглед на качени изображения, така че да знаете как ще изглежда всичко след публикуването.

Ако се интересувате от четене на академичния труд на изследването, можете да го намерите на arXiv.org. Можете също така да намерите кода на Twitter за анализа GitHub.

Как да качвате и преглеждате 4K изображения в Twitter

Приложението Twitter вече ви позволява да качвате и преглеждате изображения в 4K. Ето как да промените настройките си.

Прочетете Напред

За автора