нейросеть искусственный интеллект вредоносное ПО Китай
Исследователи из Китая показали, как можно спрятать вредоносное ПО внутри нейронной сети. Обнаружить его при этом очень сложно.
Китайские исследователи сообщили, что смогли внедрить вредоносное ПО в половину узлов модели искусственного интеллекта. По их мнению, вредоносы можно успешно встраивать непосредственно в искусственные нейроны, составляющие модели машинного обучения, таким образом, чтобы их нельзя было обнаружить.
Как сообщается, при этом сама нейросеть сможет продолжить выполнение поставленных задач в обычном режиме.
Скрытая доставка вредоносного ПО с возможностью уклонения от обнаружения имеет решающее значение для продвинутых кампаний по вредоносному ПО. Метод, представленный исследователями, обеспечивает скрытую доставку вредоносных программ и предотвращает их обнаружение с помощью моделей нейронных сетей.
Модели нейронных сетей обладают хорошей способностью к обобщению. Встраивая вредоносное ПО в нейроны, вредоносное ПО может быть доставлено незаметно с незначительным или даже нулевым влиянием на производительность нейронных сетей.
Эксперименты с реальными образцами вредоносных программ показали, что замена примерно 50 % нейронов в модели AlexNet на вредоносное ПО по-прежнему обеспечивает точность модели выше 93,1 %. Исследователи показали, что 36,9 МБ вредоносных программ можно встроить в модель AlexNet размером 178 МБ с потерей точности 1%. При этом вредоносное ПО остается незаметным для антивирусов.
«По мере того как нейронные сети становятся все более широко используемыми, этот метод станет универсальным для доставки вредоносных программ», — отмечают авторы исследования.
