Хакеры всё активнее вплетают искусственный интеллект в свои схемы.
В Anthropic заявили, что их модель Claude Opus впервые использовали для полной автоматизации атаки сразу на 17 организаций, включая больницы и экстренные службы: ассистент сгенерировал тексты с требованиями выкупа и сам рассчитал суммы $75–500 тыс. под «платёжеспособность» жертв. Параллельно ESET сообщила о первой вредоносной программе, использовавшей ИИ: изначально её внедрили вручную, а далее она через ChatGPT сама создала и активировала код для продолжения взлома.
Как именно ИИ помогает злоумышленникам, объясняет эксперт по нейросетям сервиса «Битрикс-24» Александр Сербул:
«Сейчас чтобы что-то взломать, нужно много пробовать, на это не хватает времени. Анализ системы, предыдущих затрат, сравнение возможностей системы с атаками и выработка рекомендаций, в какую точку бить. Все современные системы защиты, вся криптография базируется на том, чтобы перебирать значения. А нейросеть может задействовать именно глубокие LLM.
Плюс LLM отлично генерируют коды, вирусы, сигнатуры. То есть антивирус добавил сигнатуру, они взяли, чуть-чуть поменяли ее, сгенерировали новый код с помощью нейронки.
Только сейчас нейросети стали работать с адекватным качеством, раньше они делали много ошибок. Сейчас я активно пользуюсь ИИ, чтобы получить выжимку из какой-то информации, это освобождает мне несколько часов в день».
«При этом мы не можем контролировать нейросети, как и криптовалюты и VPN, потому что технически это невозможно. Мы можем только попытаться ограничить эту работу в каком-то допустимом порядке»
«Люди будут использовать эти инструменты дальше, нужно с этим научиться жить. Тем не менее LLM могут применять и в кибербезопасности, но только для защиты. То есть можно получить рекомендации по защите. Например, вы задаете вопрос: какой софт использовать для нового сервера для защиты от перебора паролей? Нейросетка даже сейчас дает достаточно качественный ответ. Если в компании нет эксперта, вы можете сделать запрос нейросети».
(LLM — большие языковые модели.)
В Kaspersky уточняют: обнаруженная ESET «ИИ-зараза» не была полностью автономной — стартовал человек, а продолжение сгенерировал ИИ. Ведущий эксперт Kaspersky GReAT Татьяна Шишкова:
«Нейросеть генерирует такую программу, используя огромную базу существующих в открытом доступе программ. При этом в нейросетях существуют ограничения на их использование во вредоносных целях, но злоумышленники находят лазейки для их обхода.
Использование искусственного интеллекта для разработки вредоносных программ в последний год набирает обороты, мы ожидаем, что их будет появляться все больше, поскольку такой подход позволяет злоумышленникам значительно сократить время на разработку и снижает порог вхождения в индустрию. Однако код, сгенерированный нейросетью, часто содержит ошибки, поскольку представляет собой, по сути, сборную солянку из других программ. Например, под разные операционные системы. Так что на данном этапе злоумышленники не могут полностью полагаться на новую технологию в разработке».
С точки зрения защиты ключевой риск — массовость. Бизнес-руководитель департамента киберразведки F6 Евгений Чунихин отмечает:
«Надо в первую очередь понимать, что такое искусственный интеллект. Это нейронка, которая проделывает большое количество работы по инициализации атаки, ее завершению, в целом взлому и так далее. Сейчас мы наблюдаем большое количество атак с применением элементов ИИ. Многие задачи, которые раньше злоумышленники решали руками, сейчас отданы на реализацию ChatGPT, DeepSeek и так далее. Недавно была новость, связанная с вредоносным программным обеспечением, которое, по сути, имело внутри модуль ChatGPT, но это не совсем история про искусственный интеллект.
Единственная проблема, может быть, для мира информационной безопасности — это массовость этих атак.
Есть злоумышленники, которым ИИ облегчает работу по инициализации, блокировке, нагрузке трафика. Но если мы говорим про злоумышленников, которые работают именно по государственному сектору, промышленному сектору, они используют сложносоставные атаки. В их работе история с ИИ достаточно нетривиальная. Это очень сложный на самом деле механизм, многоэтапный, поэтому здесь нейросети места, скорее всего, не будет».
В самой Anthropic ожидают, что число попыток с ИИ будет расти. При этом показателен и обратный пример: ещё один злоумышленник пытался организовать вымогательство, полностью полагаясь на ответы Claude Opus, — но без нужной квалификации не смог довести атаку до результата.
Что это значит для бизнеса
Инструменты ИИ уже снижают порог входа в киберпреступность (быстрее подготовка фишинга, вредоносных скриптов, подбор целей), но остаются ошибочными и требуют «рук». На стороне защиты ИИ стоит использовать для: ускорения triage инцидентов, генерации «плейбуков» реагирования, приоритизации уязвимостей, антифишингового обучения и автоматизации рутинного анализа логов.