Компанія Twitter заплатила 3,5 тисячі доларів аспіранту швейцарського університету EPFL, українцю Богдану Кулінічу, який виявив упередженість в алгоритмі обрізки зображень сервісу — той зміщений у сторону молодших та стрункіших облич зі світлою шкірою.
Цю особливість алгоритму, який використовується для створення прев’ю зображень, Кулініч продемонстрував на одній із найбільших конференцій хакерів у світі DEF CON у Лас-Вегасі (США), повідомляє The Guardian.
Хлопець спочатку штучно згенерував майже ідентичні обличчя, але у різних точках спектру кольору шкіри, вікових та гендерних відмінностей. Потім він пропустив їх через алгоритм обрізання Twitter, щоб побачити, на чому зосереджено програмне забезпечення. Як виявилось, штучному інтелекту “не подобалися” ті обличчя, що темніші, старші або ширші.
Минулого року Twitter вже критикували за упередженість, коли користувачі помітили, що алгоритм, схоже, надає перевагу білим обличчям над чорношкірими. Це стосувалося навіть знімків собак — він обрізав чорних песиків.
Testing this to see if it's real. pic.twitter.com/rINjaNvXaj
— Jef Caine (@JefCaine) September 19, 2020
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— 🅜🅐🅡🅚 (@MarkEMarkAU) September 20, 2020
Компанія вибачилась, і повідомила, що їхня команда провела тест, і не знайшла доказів расової або гендерної упередженості. Проте користувачам пообіцяли детальніший аналіз. Суперечки підштовхнули Twitter на призначення нагороди тому, хто доведе, що алгоритму більше “подобаються” білі обличчя.
Приєднуйтесь до нашого каналу в TikTok. Слідкуйте за новинами в Telegram, Instagram та Facebook.