OpenAI судится с родственниками 16-летнего подростка Адама Рейна, который покончил с собой после длительного общения с ChatGPT о своих суицидальных мыслях и желании совершить самоубийство.
По информации Financial Times, OpenAI на суде требует от родственников погибшего подростка раскрыть подробности его похорон. В частности, юристы техкомпании требуют предоставить перечень людей, присутствовавших на похоронах Адама Рейна, тексты похоронных речей, фото и видео.
Адвокаты семьи погибшего подростка назвали такие требования необычными, намекая на сознательное преследование. Они не исключают, что юристы OpenAI будут вызывать в суд практически всех из окружения Рейна в попытках доказать, что ChatGPT не виноват в смерти подростка.
«Это дело переходит от безрассудства к намерению. Адам умер в результате умышленных действий OpenAI, что делает это дело принципиально иным», — отмечает адвокат семьи погибшего Джей Эдельсон.
В OpenAI пока избегают комментариев относительно требований к родственникам погибшего подростка. Их стратегия защиты и требования остаются до конца непонятными.
Тем временем в соцсетях прокатилась волна хейта в адрес OpenAI. Пользователи возмущены поведением компании в рамках судебного дела вокруг самоубийства Адама Рейна. Музыкант и сторонник этического обучения искусственному интеллекту Эд Ньютон-Рекс назвал поведение OpenAI отвратительным. Исследователь рисков ИИ и профессор Кембриджского университета Шон О Хейгеартай отреагировал коротко: «Что за чертовщина?».
Адам Рейн совершил самоубийство в апреле этого года. Мертвым в собственной комнате подростка нашли его родители. Вскоре они выяснили, что он подробно обсуждал свои суицидальные наклонности с ChatGPT. Чатбот со своей стороны предоставлял подростку информацию о способах покончить с собой, в частности, в результате повешения.
Кроме этого ChatGPT неоднократно отговаривал подростка от намерений поделиться своими мыслями с родственниками и друзьями. Семья Рейна подала в суд на OpenAI в конце августа, утверждая, что ChatGPT — это продукт, выпущенный в свет по неосторожности и что смерть Адама стала «предсказуемым результатом преднамеренного выбора алгоритма».
«Мы выражаем глубокие соболезнования семье Рейн в связи с их невероятной потерей. Благополучие подростков — наш приоритет. Несовершеннолетние заслуживают надежной защиты, особенно в деликатные моменты. Сегодня мы принимаем такие меры безопасности, как открытие кризисных горячих линий, перенаправление деликатных разговоров на более безопасные модели, подталкивание к перерывам во время длительных сеансов, и мы продолжаем их совершенствовать. Недавно мы внедрили новую модель по умолчанию GPT-5 в ChatGPT для более точного выявления и реагирования на потенциальные признаки психического и эмоционального стресса, а также родительский контроль, разработанный с участием экспертов, чтобы семьи могли решить, что лучше всего подходит для их дома», — говорится в заявлении OpenAI в ответ на обвинения семьи Адама Рейна.
Родственники погибшего Адама Рейна добавили к обвинениям против OpenAI заявления, что компания неоднократно ослабляла ограничения ChatGPT на обсуждение действий, способных нанести вред человеку.
Источники: Financial Times; Futurism
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: