Дослідники з Університету Торонто, Vector Institute, Кембриджського університету та ServiceNow створили прототип адаптивного ШІ‑хробака. Шкідливе ПЗ генерує індивідуальну стратегію атаки під кожну ціль.
У роботі AI Agents Enable Adaptive Computer Worms йдеться, що експеримент проводили в ізольованій віртуальній мережі. Прототип ПЗ поширювався у гетерогенній мережі Linux, Windows і IoT‑пристроїв через класичні вразливості корпоративних мереж.
Скомпрометовані машини хробак використовував як обчислювальну базу для подальшого «міркування» та поширення. Автори стверджують, що через це гіпотетична вартість зараження нової машини для атакувальника стає нульовою.
За словами розробників CleverHans Lab, шкідник працював на відкритій мовній моделі локально, а не через комерційну ШІ‑платформу. Автори окремо підкреслюють, що не реалізовували стандартні функції вірусів, які ускладнюють виявлення або видалення.
Схема атаки ШІ‑хробака. Джерело: CleverHans Lab.
Хробак використовував рекурсивний цикл «міркування», пам’ять і інструменти для підбору цільової тактики під конкретний пристрій. Інфіковані вузли з GPU могли забезпечувати обчислення для подальших атак на менш потужні пристрої в мережі.
ШІ використовував публічно розкриті, але все ще доступні вразливості, помилки конфігурації та повторювані класи слабких місць.
Університет Торонто назвав роботу першим демонстраційним випадком, коли публічно доступні ШІ‑моделі можуть живити вірус, що змінює стратегію в міру поширення між пристроями. У матеріалі також сказано, що дослідження покликане допомогти спільноті кібербезпеки підготуватися до подібної загрози.
Професор університету Девід Лаяй назвав публікацію «тривожним сигналом» для розробників захисних механізмів.
Нагадаємо, за даними The New York Times, бум генеративного ШІ спровокував різке зростання попиту на фахівців із кібербезпеки на тлі загальних скорочень у техсекторі.
Завантажується ...
