Створене ШІ шкідливе ПЗ здатне обходити Microsoft Defender у 8% випадків
Сучасні мовні моделі ШІ стають дедалі функціональнішими та потужнішими. В деяких випадках ШІ вже призводить до скорочень працівників або зниження доходів в деяких сферах. Окрім цього швидкий розвиток ШІ викликає побоювання у фахівців у сфері кібербезпеки. Адже ШІ-моделі здатні генерувати не лише корисний код, а ще й шкідливий. Нещодавно дослідник довів, що створений таким чином шкідливий код здатен обходити Microsoft Defender.
Компанія Outflank спеціалізується на оцінці захищеності від складних кіберзагроз. Вона планує продемонструвати на конференції Black Hat 2025 (проходитиме у серпні) цікавий, але тривожний результат. Відкрита мовна модель Qwen 2.5 після відповідного навчання «здатна генерувати шкідливе програмне забезпечення, що може повністю обходити Microsoft Defender для Endpoint приблизно у 8% випадків».
Інженер Кайл Авері, один із провідних фахівців Outflank, витратив на навчання моделі близько трьох місяців та $1500. Це не занадто високі початкові витрати для зловмисників. Результати дослідження свідчать, що навчена таким чином модель справляється з обходом захисту в десятки разів краще, ніж інші. Для порівняння, ШІ від Anthropic демонструє ефективність обходу захисту менш ніж у 1% випадків, а DeepSeek — лише у 0,5%.
Наразі ці результати поки далекі від рівня, на який сподіваються так звані «скрипт-кіди» — початківці, що розраховують на швидкий результат у дусі «натиснув кнопку — отримав вірус». Але це тривожний дзвіночок: мовні моделі, навіть відкриті, поступово набирають здатності, які раніше вимагали професійного досвіду в написанні шкідливого коду.
Проблема ускладнюється тим, що покращення таких моделей — це питання часу й ресурсів. І якщо хтось із достатньою кількістю відеокарт і доступом до навчальних наборів візьметься за цю справу серйозно, ефективність таких моделей може значно зрости.
Поки що цю інформацію слід сприймати як вагомий аргумент у дискусії про ризики ШІ. Але це ще не причина відмовлятися від антивірусу. Microsoft Defender з часом теж адаптується. Тож відповідь на подібні виклики — теж питання часу.
Також варто звернути увагу на інший важливий аспект. Більшість успішних атак досі ґрунтуються не на обмані антивірусів, а на людському факторі — фішингових листах, маніпуляціях, соціальній інженерії. І саме це залишається головною проблемою для більшості компаній.
Джерело: tomshardware