У Gemini, как оказалось, есть проблемы с точностью изображения некоторых исторических лиц и групп — в частности в том, что касается цвета их кожи или гендера.
Например, в ответ на запрос изображения «сенатора США с 1800-х годов» Gemini предоставляла результаты преимущественно с темнокожими или индейскими женщинами (первой женщиной-сенатором была белая женщина в 1922 году, поэтому изображения ИИ фактически стирали историю расовой и гендерной дискриминации). В конце концов Google приостановила возможности Gemini по генерации изображений и извинилась перед пользователями, отметив что возобновит услуги в ближайшие недели.
Гендиректор компании Сундар Пичаи в недавнем письме для сотрудников, которое просмотрел The Verge, отметил, что такие результаты «оскорбили пользователей и продемонстрировали предвзятость». Он пишет, что Google «круглосуточно работала», чтобы решить проблему.
«Ни один инструмент ИИ не является совершенным, особенно на этом новом этапе развития отрасли. Мы знаем, что планка высока, и мы будем держать ее сколько придется», — добавляет Пичаи.