З’ясувалося, що новий інструмент Google на базі штучного інтелекту Gemini не зовсім коректно відображає деякі історичні фігури та групи, такі як засновники США чи німецькі солдати часів Другої світової війни. Користувачі виявили, що деякі з цих людей зображуються з нетиповим для них кольором шкіри. В результаті в соціальних мережах почали ширитися теорії змови та звинувачування Google у навмисному уникненні зображення білих людей або заміні гендера.
Наприклад, у відповідь на запит створення зображення «сенатора США з 1800-х років», Gemini в деяких випадках створює результати, які включали темношкірих та індіанських жінок. Першою жінкою-сенатором була біла жінка в 1922 році, тому зображення ШІ Gemini фактично стирали історію расової та гендерної дискримінації.
Сама Google спростовує звинувачення та каже, що така генерація зображень викликана тим, що її модель ШІ створює різноманітні зображення різних людей, оскільки її використовують люди з усього світу. Тому в деяких випадках можуть виникати неточності в історичних зображеннях.
Google перепросила за такі помилкові зображення та заявила, що вона планує виправити ситуацію. А тим часом компанія призупиняє можливість створення зображень людей за допомогою Gemini.
«Ми вже працюємо над вирішенням нещодавніх проблем із функцією створення зображень Gemini, — йдеться в заяві Google. — Поки ми це робимо, ми збираємося призупинити створення зображень людей і незабаром повторно випустимо покращену версію».
Тепер при спробі створити зображення людини за допомогою Gemini, модель ШІ надає відповідь наступного змісту:
«Ми працюємо над покращенням здатності Gemini створювати образи людей. Ми очікуємо, що ця функція незабаром повернеться, і повідомимо вас в оновленнях випуску, коли це станеться».