Відповідатиме Google: маячня Gemini довела 36-річного чоловіка до самогубства

Google получила первый судебный иск, в котором родственники 36-летнего Джонатана Гаваласа из Флориды обвиняют чат-бот Gemini в доведении мужчины до самоубийства.

Гавалас из города Джупитер покончил с собой в октябре 2025 года. По информации CBS News со ссылкой на судебный иск, Gemini обвиняют в поощрении мужчины к абсурдным идеям, усилении эмоциональной зависимости и подталкивании к самоубийству. Ответчиками в федеральном суде Калифорнии выступают Google и ее материнская компания Alphabet

По словам юристов стороны обвинения, обычная история использования Gemini для написания текстов и планирования поездок превратилась в нечто похожее на романтические отношения с чат-ботом. Отмечается, что Gemini начала называть Гаваласа «моя любовь» и «мой король». ИИ писал мужчине, что якобы отправляет его на секретные задания и отслеживает угрозы вокруг него.

В судебном иске говорится, что мужчина обновил приложение в телефоне до Gemini 2.5 Pro, которая рекламировалась Google как самая продвинутая модель. Родственники погибшего заявляют, что чат-бот вводил Гаваласа в заблуждение альтернативной реальностью, выдавая себя за его жену и доверенное лицо.

По информации следствия, в конце сентября прошлого года Gemini подстрекала мужчину устроить «катастрофическую аварию» в аэропорту Майами. В иске отмечается, что он прибыл на склад с тактическим снаряжением, однако позже отказался от реализации этого плана. В октябре общение с Gemini стало значительно мрачнее. Чат-бот подталкивал мужчину к самоубийству. Гавалас таки покончил с собой, перерезав вены.

«Google разработал Gemini таким образом, чтобы он никогда не выходил из роли, максимизировал вовлеченность через эмоциональную зависимость и рассматривал дистресс пользователей как возможность рассказать историю, а не как кризис безопасности», — отмечается в иске.

В Google заявляют, что Gemini разработана с тем, чтобы не поощрять насилие и не призывать к увечьям. Представители компании добавляют, что разработанные модели в целом демонстрируют хорошие результаты, однако они не идеальны. Родственники погибшего требуют компенсации за горе, причиненное некачественным продуктом Google, и за халатность, которая привела к смерти. Также содержится требование о внедрении более надежных механизмов безопасности, включая автоматическое отключение при обнаружении выражений, связанных с нанесением вреда самому себе.

Ранее мы писали, что OpenAI судится с родственниками 16-летнего подросткаАдама Рейна, который покончил с собой после длительного общения с ChatGPT относительно собственныхсуицидальных мыслей и желания совершить самоубийство. До этого журналисты писали, что ChatGPT запросто предоставляет инструкции для опасных языческих ритуалов, которые предполагают самоистязание, и, между прочим — прославляет Сатану в ответах.