ChatGPT поймали на «сливе» паролей из частных разговоров своих пользователей

Согласно скриншотамм, опубликованными изданием Ars, ChatGPT «сливает» историю запросов другим пользователям. Это частные разговоры, содержащие учетные данные для входа в систему и другие персональные данные пользователей, которые его не касаются.

Два изображения, присланные читателем, особенно выделяются, потому что содержат несколько пар имен пользователей и паролей, которые, похоже, были подключены к системе поддержки, используемой сотрудниками аптечного портала по продаже рецептурных лекарств. Сотрудник, использовавший чат-бот, похоже, решал проблемы, возникавшие при пользовании порталом.

Кроме откровенных высказываний и учетных данных, в разговоре, попавшем в сеть, содержится название программы, с которой сотрудник решает проблемы, и номер магазина, где возникла эта проблема.

Результаты появились после того, как читатель Чейз Уайтсайд использовал ChatGPT для не связанного с этим запроса.

Я зашел в приложение, чтобы сделать запрос (помочь придумать разумные названия для цветов в палитре), и заметил дополнительные разговоры. Их не было, когда я использовал ChatGPT вчера вечером (я довольно активный пользователь). Никаких запросов не делалось — они просто появились в моей истории.

— написал Уайтсайд в электронном письме.

Другие разговоры, которые попали в Уайтсайд, включают название презентации, над которой кто-то работал, детали неопубликованного исследовательского предложения и скрипт на языке программирования PHP. Пользователи каждого из «сливов» оказались разными и не связанными друг с другом. В разговоре, касающемся портала рецептов, речь шла о 2020 году. В других разговорах даты не были указаны.

Этот эпизод и другие подобные подчеркивают, что стоит изымать личные данные из запросов к ChatGPT и другим сервисам искусственного интеллекта, когда это возможно. Представитель OpenAI заявил, что компания расследует это сообщение.