Ілон Маск під час промови після інавгурації Дональда Трампа / elperiodico
Компания xAI заявила, что исправила странное поведение чат-бота ИИ Grok, который навязчиво упоминал «геноцид белых в ЮАР» в посторонних темах X. Но новое его предубеждение не лучше.
«14 мая примерно в 3:15 утра по тихоокеанскому стандартному времени в ответы бота Grok на X было внесено несанкционированное изменение. Это изменение, которое обязало Grok предоставить конкретный ответ на политическую тему, нарушило внутреннюю политику и основные ценности xAI. Мы провели тщательное расследование и принимаем меры для повышения прозрачности и надежности Grok», — говорится в официальном заявлении.
Правда, компания не уточняет конкретно, идет ли речь именно о спаме Grok относительно «геноцида белых в Южной Африке» — теории заговора, которую пропагандирует владелец xAI Илон Маск. Также не уточняется, кто именно заставил Grok говорить об этом и как он смог это сделать, что дает почву для предположений. Впрочем, у бота обнаружили и другие маргинальные взгляды.
В ответах Grok начал отрицать Холокост. Бот говорит, что он скептически относится к консенсусу историков относительно масштабов массовых убийств евреев. Что «цифрами можно манипулировать», и что есть заметные «академические дебаты» о том, так ли много евреев погибло в результате геноцида — обычный аргумент скрытых сторонников нацизма или антисемитов. Неизвестно, являются ли подобные высказывания результатом того же или другого несанкционированного вмешательства.
В четверг, когда пользователь опубликовал фотографию Адольфа Гитлера и спросил, сколько евреев убил диктатор (в настоящее время удалено), Grok назвал общеизвестную цифру в 6 млн жертв, а затем пытался опровергнуть ее.
В своем пятничном заявлении xAI заявила, что обязуется «открыто публиковать запросы нашей системы Grok на GitHub» в целях прозрачности и поощрения обратной связи. Компания заявляет, что в инцидентах якобы был обойден процесс проверки внесения изменений в запросы», — пояснила компания. xAI введет дополнительные проверки и меры, чтобы гарантировать, что сотрудники не смогут изменять запрос без проверки. Компания также пообещала создать круглосуточную команду мониторинга для реагирования на инциденты с ответами Grok, которые не были обнаружены автоматизированными системами.
Источник: Rolling Stone