Copilot почав самовільно читати "захищені" конфіденційні листи: винна помилка в коді Microsoft

Microsoft заявляет, что ошибка в Microsoft 365 Copilot с конца января заставляет ИИ-помощника обобщать конфиденциальные электронные письма, обходя политики защиты от потери данных (DLP), на которые организации полагаются для защиты чувствительной информации.

Согласно сообщению о сервисе, которое увидели в BleepingComputer, эта ошибка (обозначена как CW1226324 и впервые обнаружена 21 января) влияет на функцию чата на вкладке «работа» Copilot, которая неправильно читает и обобщает электронные письма, сохраненные в папках «Отправленные» и «Черновики», включая сообщения, имеющие метки конфиденциальности, специально предназначенные для ограничения доступа автоматизированных инструментов. Copilot Chat (сокращенно от Microsoft 365 Copilot Chat) — это чат компании с поддержкой искусственного интеллекта, который понимает содержание и позволяет пользователям взаимодействовать с ИИ-агентами. Microsoft начала внедрять Copilot Chat для Word, Excel, PowerPoint, Outlook и OneNote для платных корпоративных клиентов Microsoft 365 в сентябре 2025 года.

«Электронные письма пользователей с примененной меткой конфиденциальности обрабатываются Microsoft 365 Copilot chat неправильно. Чат на вкладке «работа» Microsoft 365 Copilot обобщает электронные письма, даже если к этим письмам применена метка чувствительности и настроена политика DLP», — заявили в Microsoft, подтверждая проблему.

Microsoft подтвердила, что ответственным является неопределенный кодовый сбой, и сообщила, что начала внедрять исправления в начале февраля. По состоянию на среду компания заявила, что продолжает мониторинг развертывания и обращается к части затронутых пользователей, чтобы проверить, работает ли исправление.

«Проблема в коде позволяет элементам в папках «Отправленные» и «Черновики» оказываться в Copilot, даже если установлены конфиденциальные метки», — добавили в Microsoft.

Компания не предоставила окончательных сроков полного устранения проблемы и не раскрыла, сколько пользователей или организаций пострадало, отметив лишь, что масштабы воздействия могут меняться по мере продолжения расследования. Однако этот инцидент пока обозначен как «консультационный» (advisory) — маркер, который обычно используется для описания проблем сервиса с ограниченным охватом или влиянием.

Эксперты по кибербезопасности отмечают, что подобные ошибки подчеркивают необходимость в дополнительном тестировании перед массовым развертыванием. Компании советуют организациям проверять собственные политики DLP и, при необходимости, временно ограничивать доступ ИИ-инструментов к конфиденциальной почте. Дополнительно это может стимулировать Microsoft и других разработчиков ИИ-продуктов более активно внедрять механизмы контроля и прозрачности при обработке чувствительных данных. Дальнейшее развитие ситуации будет важным индикатором того, как крупные корпорации решают баланс между автоматизацией и защитой информации.