DOGE Маска использовал «чужой ИИ» для проверки чиновников — Llama 2 от Meta, а не Grok

Команда DOGE, возглавляемая Илоном Маском, проанализировала ответы федеральных работников не собственной моделью Grok. Они «позаимствовали» Llama 2 от Meta.

Wired, ссылаясь на внутренние документы, пишет о реакции на скандальное письмо с выбором. Речь идет о том, когда федералам говорили: или остаетесь лояльными к новой политике, или увольняетесь. DOGE для этого локально протестировала и запустила Llama 2чтобы данные не попали в сеть. Модель сортировала ответы письма «Fork in the Road», которое по структуре напоминает тот, что получали сотрудники X (Twitter). Работникам соцсети предлагали выбрать: поддержать новые правила возвращения в офисы или уйти с работы.

СМИ утверждает, что именно Llama 2 анализировала ответы — чтобы оценить, кто остался, а кто уволился. Процесс был локальным, но этого не хватило, чтобы развеять беспокойство о конфиденциальности среди сотрудников. Да и раньше появлялись упоминания, как DOGE выискивала враждебно настроенных чиновников против Трампа благодаря ИИ.

Почему не Грок?

Анализ состоялся в январе, но тогда Grok еще не был доступен в открытом формате — только как собственная, закрытая система. Только недавно стало известно, что Microsoft начинает хостить Grok 3 от xAI на Azure. Поэтому в будущем DOGE, вероятно, будет использовать инструменты Маска чаще.

Однако именно это и беспокоит законодателей. В апреле более 40 конгрессменов обратились к директору Административно-бюджетного управления с требованием расследовать действия DOGE. В письме говорили о потенциальных конфликтах интересов Маска, рисках утечек и непрозрачном использовании моделей искусственного интеллекта.

Другие эксперименты DOGE с ИИ

Кроме Llama 2, DOGE экспериментировала с рядом других инструментов. В частности чат-ботом GSAi (на основе моделей Anthropic и Meta), AutoRIF (система, которая могла помогать с массовыми сокращениями), а также с Grok-2 в виде внутреннего помощника.

Отдельная часть возмущения законодателей касалась нового типа писем, которые работники начали получать уже после «Fork in the Road». Их просили еженедельно присылать до пяти пунктов о своих достижениях. Госслужащие волновались, что эти письма тоже попадают в ИИ-системы, и в них могут быть конфиденциальные данные. Хотя нет подтверждений, что Llama 2 использовали для анализа новых писем, некоторые сотрудники считают, что код могли просто повторно использовать.

Llama 2 — не новичок в скандалах

Прошлой осенью стало известно, что китайские военные использовали Llama 2 в качестве основы для своей AI-модели. Meta заявила, что это было «несанкционированное» использование устаревшей версии, после чего открыла доступ к своим моделям для программ нацбезопасности США. И именно из-за открытости Llama 2 правительство могло использовать ее без прямого согласия Meta.

И учитывая все вышеупомянутое, чиновники имеют неоднозначные мнения. Например, руководство Административно-бюджетного управления выглядит лояльным к DOGE. Но законодатели считают потенциальной катастрофой использование ИИ в анализе персонала без прозрачности и безопасности. Генеративные модели часто ошибаются и имеют предубеждения, а потому технология просто еще не готова для решений с высокими рисками.

«Я сделал достаточно»: Илон Маск отходит от политики

Источник: Ars Technica

Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.