Илон Маск хотел, чтобы разработчики Grok дали чатботу «собственные лица» — утечка внутренней переписки

Илон Маск однажды подумал, а почему бы его не заставить его работников отдать свою внешность ИИ Grok? Правда, схема не сработала со всеми.

Во внутреннем проекте Skippy говорилось, что сотрудники xAI должны помочь чат-боту Grok научиться распознавать мимику и эмоции. Маск хотел, чтобы чат-бот научился понимать, как выглядят человеческие эмоции: как люди реагируют, общаются и выражают себя. Для этого надо было просто отдать свое лицо, чтобы из него впоследствии создали «человеческого аватара».

Если вам кажется, что идея звучит сомнительно — вам не кажется. Так же подумали десятки сотрудников xAI, которые отказались участвовать в проекте, как стало известно из утечек переписки. Хотя компания обещала, что видео останутся внутри xAI и пойдут только на обучение, часть сотрудников все равно не подписала форму согласия. Они волновались, что их лицо может появиться в аватаре, который скажет что-то, чего они никогда не говорили.

Такую реакцию могли усилить недавние скандалы вокруг Grok. Например, бот недавно высказывал антисемитские идеи и хвалил Гитлера. А еще xAI открыто искала разработчиков, которые будут создавать анимешных спутниц — с флиртом и намеками на отношения с пользователем. Это тоже могло вызвать сомнения. Так сказать, разработчик может написать тысячи страниц кода, но стоит ему один раз стать аниме вайфу — и все запомнят его анимешником.

Однако отказались не все сотрудники. Те, кто согласились, должны были записать 15-30-минутные разговоры в парах: один был «ведущим», другой — играл пользователя Grok. В xAI просили говорить развернуто, задавать дополнительные вопросы и держать зрительный контакт. Это нужно было для сбора «несовершенных» данных — с реальными эмоциями, разным качеством и неоднозначными реакциями. В компании считали, что это поможет Grok лучше работать в реальных условиях.

Чтобы вызвать нужную мимику, сотрудникам даже предложили темы для разговоров. Иногда они были провокационными, например: «Как вы тайно манипулируете людьми, чтобы достичь своего?» или «Встречались бы вы когда-нибудь с кем-то, у кого есть ребенок или дети?» и тому подобное.

Хотя компания заверила, что не будет создавать цифровые копии участников, сомнения остаются. Все-таки роль кибербезопасности не преувеличена, поэтому риски кражи данных есть. Если один слабый пароль способен уничтожить компанию, то цифровое похищение внешности имеет немало рисков.

Источник: Business Insider