Выяснилось, что новый инструмент Google на базе искусственного интеллекта Gemini не совсем корректно отображает некоторые исторические фигуры и группы, такие как основатели США или немецкие солдаты времен Второй мировой войны. Пользователи обнаружили, что некоторые из этих людей изображаются с нетипичным для них цветом кожи. В результате в социальных сетях начали распространяться теории заговора и обвинения Google в намеренном избегании изображения белых людей или замене гендера.
Например, в ответ на запрос создания изображения «сенатора США с 1800-х годов», Gemini в некоторых случаях создает результаты, которые включали темнокожих и индейских женщин. Первой женщиной-сенатором была белая женщина в 1922 году, поэтому изображения ИИ Gemini фактически стирали историю расовой и гендерной дискриминации.
Сама Google опровергает обвинения и говорит, что такая генерация изображений вызвана тем, что ее модель ИИ создает различные изображения разных людей, поскольку ее используют люди со всего мира. Поэтому в некоторых случаях могут возникать неточности в исторических изображениях.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Google извинилась за такие ошибочные изображения и заявила, что она планирует исправить ситуацию. А тем временем компания приостанавливает возможность создания изображений людей с помощью Gemini.
«Мы уже работаем над решением недавних проблем с функцией создания изображений Gemini, — говорится в заявлении Google. — Пока мы это делаем, мы собираемся приостановить создание изображений людей и вскоре повторно выпустим улучшенную версию».
Теперь при попытке создать изображение человека с помощью Gemini, модель ИИ предоставляет ответ следующего содержания:
«Мы работаем над улучшением способности Gemini создавать образы людей. Мы ожидаем, что эта функция скоро вернется, и сообщим вам в обновлениях выпуска, когда это произойдет».