Google извинилась за сервис Photos, который ошибочно принял двух афроамериканцев за горилл

Как мы знаем, одной из ключевых функций нового сервиса для хранения фотографий Google Photos, представленного одновременно со следующим крупным обновлением мобильной платформы Google Android M, является автоматическая организация (точнее – группирование по категориям) и возможность поиска по ключевым словам. Именно эта функция стала причиной разгоревшегося на днях скандала и поставила разработчиков в довольно неловкое положение.

28 июня 21-летний программист из Бруклина Джеки Элсине на фотографиях со своей подружкой обнаружил неуместную пометку «гориллы». То есть, в селфи двух афроамериканцев Google распознал горилл. Примечательно, что в категории «Гориллы», созданной системой распознавания объектов на фото Google, оказались только снимки Элсине со знакомой.

Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) 29 июня 2015

Разумеется, Джеки Элсине решил немного пристыдить разработчиков алгоритма автоматического тегирования и выложил все как есть в своем аккаунте в Twitter. Данная запись быстро собрала более 2 тыс ретвитов и не могла остаться незамеченной со стороны СМИ и, следовательно, самой Google. Вскоре после инцидента представитель Google связался с Джеки, принес свои извинения от лица компании и попросил предоставить доступ к аккаунту для определения ошибки. Спустя несколько часов инцидент был исчерпан, а неприятная ошибка устранена путем удаления тега «гориллы» из системы. Представитель Google отметил, что компания уже работает над более надежными исправлениями, касающимися «проблемных» тегов и распознавания лиц темнокожих людей.

@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone’s target market. This is 100% Not OK.

— Yonatan Zunger (@yonatanzunger) 29 июня 2015

Стоит отметить, что Google далеко не первая компания, которая сталкивается с подобного рода проблемами. В прошлом аналогичные трудности испытывала Kodak (специальное покрытие на пленке, которое обеспечивало более естественные тона кожи «белым людям» и «обижало» темнокожих людей) и Nikon (предпочтение европеоидной расе в собственной ПО для распознавания лиц).

Источник: The Verge