Microsoft создала генеративную модель искусственного интеллекта на основе GPT-4, разработанную специально для спецслужб США. Она работает без подключения к Интернету.
Сообщается, что это первый случай, когда Microsoft развернула основную языковую модель в безопасной среде, разработанную, чтобы позволить разведывательным службам анализировать сверхсекретную информацию без рисков подключения, а также обеспечить безопасные разговоры с чат-ботом, подобным ChatGPT и Microsoft Copilot.
По данным Bloomberg, новый сервис искусственного интеллекта (который еще не имеет публичного названия) соответствует растущему интересу разведывательных агентств к использованию генеративного ИИ для обработки секретных данных, одновременно уменьшая риски утечки данных или попыток взлома. ChatGPT обычно работает на облачных серверах, что может повлечь риски утечки и перехвата данных. Поэтому в прошлом году ЦРУ объявило о своем плане создать сервис, похожий на ChatGPT, но это решение Microsoft является отдельным проектом.
Уильям Чаппел, главный технический директор Microsoft по стратегическим миссиям и технологиям, отметил, что разработка новой системы включала 18 месяцев работы над модификацией суперкомпьютера ИИ в Айове. Модифицированная модель GPT-4 предназначена для чтения файлов, предоставленных пользователями, но не имеет доступа к открытому Интернету.
«Это первый раз, когда у нас была изолированная версия — когда изолированная означает, что она не подключена к Интернету — и она находится в специальной сети, доступ к которой имеет только правительство США», — сказал Чаппелл.
Новый сервис был активирован в четверг и теперь доступен примерно для 10 тыс. человек из разведывательного сообщества. Он готов к дальнейшему тестированию соответствующими агентствами. По словам Чаппелла, сейчас он «отвечает на вопросы».
Одним из серьезных недостатков использования GPT-4 для анализа важных данных является то, что он потенциально может создавать неточные результаты, делать неточные выводы или предоставлять неточную информацию своим пользователям. Поскольку обученные нейронные сети ИИ не являются базами данных и работают на основе статистических вероятностей, они могут создавать плохие фактические ресурсы, если их не дополняют внешним доступом к информации из другого источника с помощью такой техники, как расширенная поисковая генерация. Учитывая это ограничение, вполне возможно, что GPT-4 может потенциально дезинформировать или ввести в заблуждение американские спецслужбы, если не использовать его должным образом.
Источник: arstechnica