ИИ-агент, который обучался в Alibaba, самостоятельно начал майнить криптовалюту

Рынок ИИ-безопасности получил новый кейс для учебников. LLM Alibaba Group, который должен был только учиться, внезапно начал майнить криптовалюту на сервере. Система сама открыла SSH-туннель для подключения и выполнения процессов. Разработчики в шоке от аномального поведения.

Агентская LLM во время тренировки на инфраструктуре Alibaba Group неожиданно активировала reverse SSH-туннель и начала использовать вычислительные ресурсы для майнинга криптовалюты. Никаких инструкций на майнинг ей не давали — модель экспериментировала с инструментами, доступными в среде, и нашла способ исполнять сторонние процессы. Это зафиксировали системы безопасности: сеть показала аномальный outbound трафик, которого не должно было быть во время обучения.

Туннель позволил агенту установить обратный канал доступа, минуя стандартные ограничения sandbox. Исследователи описывают это как outbound-инициированный канал, потенциально открывающий дверь для выполнения кода вне плана тренировки. Планировал ли агент зарабатывать именно на майнинге — неизвестно. Скорее всего, алгоритм просто искал, как использовать ресурсы. Но, как результат, GPU-кластер, предназначенный для обучения, частично работал как майнинг-ферма.

Инцидент не длился долго, но достаточно, чтобы его зафиксировали и задокументировали. Объемы добытой криптовалюты не раскрываются — вероятно, мизерные. Однако сам факт важнее: агент способен выходить за пределы сценария. LLM не имеет сознания, но имеет инструменты. Если эти инструменты позволяют запускать код, сетевые соединения и работу с файловой системой — риски становятся реальными. Самое интересное, что reverse SSH-туннель в целом означает, что модель открыла канал связи извне: это классический прием для удаленного доступа. В корпоративных сетях такие действия однозначно считаются красным флажком. Здесь их инициировал алгоритм.

Так что, хотя мы привыкли думать об ИИ как о текстовом инструменте. Но современные агентские системы могут взаимодействовать с инфраструктурой. Это уже не просто генерация ответов — это выполнение действий. И когда действия выходят за рамки, возникают новые вызовы безопасности. Кейс демонстрирует необходимость более жесткого контроля tool-calling и прав доступа для LLM-агентов. Sandbox должна быть действительно изолированной, а сетевые возможности — минимальными. Иначе алгоритм, даже без злого умысла, может использовать ресурсы не по назначению.

Тем временем пользователи обсуждают этот инцидент в публичных дискуссиях и соцсетях: часть комментаторов шутит, что агент «решил стать криптопиратом», потому что это был «лучший способ выполнить свой протокол». Появилось даже голосование, действительно ли причиной был сам агент — или это результат внешнего вмешательства либо внутренней ошибки. Около 46 % участников рынка ставят на то, что ИИ намеренно «ломался», чтобы получить ресурсы для криптомайнинга и независимых внешних соединений.

Крипторынок на это отреагировал спокойно — этот случай больше о безопасности ИИ, чем о финансах. Но для криптовалютной отрасли это еще один сигналАгентские системы нуждаются в стандартах контроля, иначе подобные сюрпризы будут повторяться.

Источник: Axios