Украинец доказал, что Twitter обрезает темнокожих на фото. Соцсеть выплатила ему $3500
Компания Twitter выплатила $3500 украинцу Богдану Кулынычу, доказавшему, что алгоритмы соцсети предвзяты по отношению к темнокожим людям на фотографиях. Об этом сообщает The Guardian.
Программист Кулыныч учится в аспирантуре в швейцарском университете EPFL. С помощью искусственного интеллекта он сгенерировал снимки с почти идентичными лицами людей, которые отличались лишь тоном кожи, гендером, возрастом и комплекцией.
Кулыныч не только доказал, что алгоритмы Twitter обрезают темнокожих людей на фото, но и выяснил, что они лучше фокусируются на более молодых, стройных и светлых лицах. Компания уже пообещала исправить ошибки.
Пользователи Twitter впервые заметили, что алгоритмы обрезают на фото темнокожих людей и даже темных собак, в 2020 году. Тогда компания принесла извинения и в июле объявила премию в $3500 тому, кто сможет доказать предвзятость алгоритмов. Именно ее и выиграл Кулыныч.
Как передает Би-би-си, второй приз получили сотрудницы Университета Торонто, показавшие, что алгоритм обрезания изображений еще сильнее маргинализирует пожилых и людей с инвалидностью. Третье место досталось проекту, продемонстрировавшему, что Twitter с большей вероятностью обрезал на мемах арабских текст, чем английский.
Сам Кулыныч признался, что испытывает из-за своих находок смешанные чувства: «Алгоритмический вред — это не просто баги. Крайне важно, что многие вредные технологии таковы не по случайности, а скорее по замыслу. Это происходит от желания максимизировать вовлеченность и прибыль».