Мы уже видели, как ИИ используют для поиска уязвимостей в приложениях и сайтах. Теперь учёные продемонстрировали, как его можно превратить в оружие для эксплуатации этих уязвимостей. Команда из Университета Торонто использовала общедоступные модели ИИ для создания прототипа червя, способного атаковать любую известную уязвимость в программном обеспечении. Такие черви могут распространяться по сетям и сеять хаос в интернете.
Обычный вредоносный червь создаётся опытными программистами для эксплуатации конкретных уязвимостей сетей, и его можно остановить, устранив эти уязвимости. Однако исследователи, работая в безопасной закрытой среде и соблюдая все меры предосторожности, использовали открытые модели ИИ для создания гораздо более совершенного прототипа. Этот червь распространялся по тестовой сети команды без какого-либо вмешательства человека.
Новый тип червя адаптирует свою атаку под разные типы уязвимостей на множестве платформ, включая Linux, Windows и устройства интернета вещей (IoT). По мере продвижения по сети он собирает данные, извлекая пароли и обнаруживая новые уязвимости, которые помогут ему захватить другие машины. Если заражение на компьютере будет обнаружено и устранено, червь может использовать другие уязвимости, чтобы атаковать ту же машину снова.
Более того, червь «питается» вычислительной мощностью заражённых машин, используя её для анализа и планирования будущих атак. «Хакерам обычно приходилось выбирать цели с самой высокой ценностью, потому что время и вычислительные ресурсы были ограничены, — сказал ведущий автор исследования Николя Паперно. — Но теперь, как только червь запущен, стоимость его работы падает почти до нуля».
Идея киберугроз на базе ИИ стала ещё более реальной после запуска компанией Anthropic модели Mythos, способной выявлять ранее неизвестные риски в сфере кибербезопасности. Anthropic заявила, что Mythos уже обнаружила более 10 000 уязвимостей, увеличив скорость поиска ошибок у партнёров более чем в 10 раз. Компания Cloudflare, помогающая защищать компании от вредоносных атак, с её помощью нашла 2000 таких уязвимостей, 400 из которых были оценены как высокие или критические.
Созданный исследователями прототип червя может эксплуатировать только известные уязвимости, но не умеет находить неизвестные, как Mythos. Однако легко представить, как злоумышленники могут адаптировать его для поиска и эксплуатации новых уязвимостей — это сделает его практически неостановимым, если выпустить в дикую природу. «В взаимосвязанном мире ни одна система не защищена от этой угрозы, — сказал Паперно. — Обнародование этих данных — первый шаг к тому, чтобы объединить исследователей, лидеров отрасли и политиков для принятия мер, причём быстро».
