Как мы знаем, одной из ключевых функций нового сервиса для хранения фотографий Google Photos, представленного одновременно со следующим крупным обновлением мобильной платформы Google Android M, является автоматическая организация (точнее – группирование по категориям) и возможность поиска по ключевым словам. Именно эта функция стала причиной разгоревшегося на днях скандала и поставила разработчиков в довольно неловкое положение.
28 июня 21-летний программист из Бруклина Джеки Элсине на фотографиях со своей подружкой обнаружил неуместную пометку «гориллы». То есть, в селфи двух афроамериканцев Google распознал горилл. Примечательно, что в категории «Гориллы», созданной системой распознавания объектов на фото Google, оказались только снимки Элсине со знакомой.
Google Photos, y’all fucked up. My friend’s not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 июня 2015
Разумеется, Джеки Элсине решил немного пристыдить разработчиков алгоритма автоматического тегирования и выложил все как есть в своем аккаунте в Twitter. Данная запись быстро собрала более 2 тыс ретвитов и не могла остаться незамеченной со стороны СМИ и, следовательно, самой Google. Вскоре после инцидента представитель Google связался с Джеки, принес свои извинения от лица компании и попросил предоставить доступ к аккаунту для определения ошибки. Спустя несколько часов инцидент был исчерпан, а неприятная ошибка устранена путем удаления тега «гориллы» из системы. Представитель Google отметил, что компания уже работает над более надежными исправлениями, касающимися «проблемных» тегов и распознавания лиц темнокожих людей.
@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone’s target market. This is 100% Not OK.
— Yonatan Zunger (@yonatanzunger) 29 июня 2015
Стоит отметить, что Google далеко не первая компания, которая сталкивается с подобного рода проблемами. В прошлом аналогичные трудности испытывала Kodak (специальное покрытие на пленке, которое обеспечивало более естественные тона кожи «белым людям» и «обижало» темнокожих людей) и Nikon (предпочтение европеоидной расе в собственной ПО для распознавания лиц).
Источник: The Verge