Искусственный интеллект
# искусственный интеллект

Ошибки нейросетей помогают вычислять создателей вредоносного программного обеспечения по характерным признакам и лишнему коду

Ошибки нейросетей помогают вычислять создателей вредоносного программного обеспечения по характерным признакам и лишнему коду
Использование нейросетей для создания вирусов оставляет специфические следы. Злоумышленников выдают эмодзи, характерные фразы языковых моделей и избыточный код в программных продуктах.

Использование искусственного интеллекта для написания вирусов не делает киберпреступников неуязвимыми, так как в сгенерированном коде часто остаются специфические маркеры. Злоумышленников могут выдать использование эмодзи, характерные речевые обороты, свойственные языковым моделям, а также наличие в программе избыточных функций, не имеющих практического смысла для атаки. Об этих особенностях рассказал специалист ГК «Солар» в интервью Hi-Tech Mail.

Никита Прямухин, аналитик вредоносного ПО центра исследования киберугроз Solar 4RAYS, выделил два основных пути, которыми пользуются хакеры при работе с нейросетями. Первый вариант предполагает запуск моделей локально на собственном оборудовании, где потенциал ИИ упирается в технические возможности железа. Второй метод заключается в использовании облачных сервисов через API. В этом случае возможности атакующих ограничиваются фильтрами безопасности, которые провайдеры устанавливают для проверки входящих запросов.

В качестве примера работы через облачные интерфейсы эксперт привел вредонос LameHug, обнаруженный исследователями в 2025 году. Данная программа запрашивала инструкции для управления зараженным устройством напрямую у облачной языковой модели посредством API.

По мнению Никиты Прямухина, отсутствие тщательного аудита кода, созданного ИИ, приводит к появлению в нем «мусора». Нейросети склонны избыточно следовать инструкциям (промптам), что может вызвать появление ненужных элементов интерфейса или фиктивных функций. Кроме того, возможны и другие ошибки:

В какой-то момент может сгаллюцинировать, не дописать функцию либо, наоборот, реализовать что-то в ВПО, что злоумышленнику вообще не нужно

Масштаб проблемы подтверждается статистикой: согласно сведениям Solar WAF, в июле 2026 года на территории России было зафиксировано беспрецедентное количество веб-атак, достигшее 417 млн. Специалисты связывают такой резкий рост с доступностью технологий искусственного интеллекта, упрощающих автоматизацию кибернападений.

Глобальные инциденты также фиксируются в других регионах. Так, в августе неопознанная хакерская группировка использовала общедоступные ИИ-инструменты для компрометации государственных ресурсов Тайваня. Эксперты из израильской компании Dream, специализирующейся на кибербезопасности и искусственном интеллекте, установили, что злоумышленники применяли ИИ-агентов с открытым исходным кодом. Это позволило им создать систему, которая функционировала подобно слаженной команде цифровых атакующих.

Рейтинг новости

Средняя оценка: 0 · Голосов: 0

Комментарии (0)

Пока нет комментариев.

Похожие новости