[Рефлексивное управление*] Китайские исследователи успешно внедрили вирус в нейросеть, незначительно снизив точность её результатов: обнаружить эту «закладку» очень сложно

отметили
26
человек
в архиве

Китайские исследователи сообщили, что смогли внедрить вредоносное ПО в половину узлов модели искусственного интеллекта. По их мнению, вредоносы можно успешно встраивать непосредственно в искусственные нейроны, составляющие модели машинного обучения, таким образом, чтобы их нельзя было обнаружить.

Как сообщается, при этом сама нейросеть сможет продолжить выполнение поставленных задач в обычном режиме.

Скрытая доставка вредоносного ПО с возможностью уклонения от обнаружения имеет решающее значение для продвинутых кампаний по вредоносному ПО. Метод, представленный исследователями, обеспечивает скрытую доставку вредоносных программ и предотвращает их обнаружение с помощью моделей нейронных сетей.

Модели нейронных сетей обладают хорошей способностью к обобщению. Встраивая вредоносное ПО в нейроны, вредоносное ПО может быть доставлено незаметно с незначительным или даже нулевым влиянием на производительность нейронных сетей.

Эксперименты с реальными образцами вредоносных программ показали, что замена примерно 50 % нейронов в модели AlexNet на вредоносное ПО по-прежнему обеспечивает точность модели выше 93,1 %. Исследователи показали, что 36,9 МБ вредоносных программ можно встроить в модель AlexNet размером 178 МБ с потерей точности 1%. При этом вредоносное ПО остается незаметным для антивирусов.

«По мере того как нейронные сети становятся все более широко используемыми, этот метод станет универсальным для доставки вредоносных программ», — отмечают авторы исследования.

* Рефлексивное управление — влияние на принимаемые противником решения через подсовывание (навязывание) ему таких исходных посылок, на основании которых он действует желаемым для манипулятора образом[1][2][3].

Методы рефлексивного управления нашли широкое применение в самых разных областях: рекламной сфере, связях с общественностью, военном искусстве и т. д.[2][4] Примером такой стратегии может стать намеренное проигрывание карточным шулером первых партий в игре, систематические отвлекающие атаки на маловажном участке боевых действий и т. п.[1]

По определению советского учёного В. Лефевра рефлексивное управление это «процесс, в котором один из противников передаёт другому основания для принятия решений»[4]. Иными словами, происходит подмена факторов мотивации противника с целью сподвигнуть его на принятие невыгодных для себя решений[5].

Профессор Г. Смолян полагает[2], что ключевым моментом рефлексивного управления является неявное принудительное ориентирование субъекта на нужный результат при выборе им образа действий. В качестве афористичного примера рефлексивной манипуляции можно вспомнить эпизод из «Сказок дядюшки Римуса», в котором братец Кролик ускользает от братца Лиса, попросив[2]:

Делай со мной всё, что угодно — только не бросай меня в терновый кустБратец Кролик

Наиболее древним из тех литературных героев, которые специализировались на рефлексивном управлении, считают библейского змея, спровоцировавшего Еву на дегустацию запретного плода[2]. В разряд типичных провокаторов можно также отнести одного из известных персонажей шведской писательницы А. Линдгрен, который затерроризировал домохозяйку Фрекен Бок простым вопросом[2]:

Ты перестала пить коньяк по утрам? Да или нет? Карлсон, который живёт на крыше

Отдельные приёмы рефлексивного управления под названием «стратагемы» издревле занимали важное место в истории военного искусства. Например, Сунь Цзы вынес в заголовок первой главы одного из своих трактатов утверждение «Война — это путь обмана», таким образом определяя воинское ремесло как искусство введения в заблуждение[2].

Предпосылки к фактическому возникновению теории рефлексивного управления можно найти в советской военной литературе середины XX века[4]; в процессе её совершенствования выделяют четыре основных этапа[4]:

  • с начала 1960-х до конца 1970-х: исследовательский,
  • с конца 1970-х до начала 1990-х: практико-ориентированный,
  • с начала и до середины 1990-х: психолого-педагогический,
  • с конца 1990-х: психосоциальный.

Среди наиболее авторитетных учёных, которые занимались задачами рефлексивного управления, помимо В. Лефевра отмечают работы Д. Поспелова, В. Буркова, В. Лепского, Г. Щедровицкого и др.[4] Помимо них, художественные аспекты тематики рефлексивного управления были отражены в произведениях некоторых крупных писателей, например В. Пелевина[2].

В военном искусстве формальным образом утверждённая терминология рефлексивного управления в прошлом не существовала, тем не менее её инструментарий осознавался на интуитивном уровне и активно шёл в ход в попытках просчитать действия противника или создать у него ошибочное представление о себе[2][4].

По мнению некоторых российских военных специалистов, прикладные аспекты рефлексивного управления, имея геополитическое значение, являются эффективным инструментом ведения информационной войны и могут обладать существенными преимуществами над традиционными методами использования военных средств[6].

Эксплуатируя моральные стереотипы поведения, психологические факторы, персональные сведения о командных кадрах (биографические данные, привычки и т. п.) рефлексивное управление даёт возможность увеличить шансы на достижение победы[2], однако отмечается, что такая тактика требует информации о противнике с высокой степенью детализации и качества[4].

Среди инструментов рефлексивного управления также перечисляют камуфляж (на всех уровнях), дезинформацию, провокацию, шантаж, компрометирование и т. п.[2], вектор действия которых направлен скорее на трудно уловимые и субъективно воспринимаемые элементы «военного искусства», чем на более объективные понятия «военной науки»[2].

Современная компьютеризация может затруднить использование методов рефлексивного управления, так как их применение легко выявляется путём математического моделирования[4]. Тем не менее, невозможно отвергать наличие широкого класса исключений, когда машинному интеллекту может не хватить интуитивного понимания реальной действительности[4].

Добавил suare suare 28 Июля
Комментарии участников:
waplaw
+2
waplaw, 28 Июля , url

Оперативное искусство на все 100 использует отвлекающие тактические операции. И даже охотники заставляли мамонтов рефлексировать. В отличие от современных «умников», которые допёрли до темы только в 21 веке и даже термин свой придумали, изобретая колесо.

Меня больше интересует, когда господа управляющие российской экономикой будут использовать все тактические приемы оперативного искусства, в т.ч. и рефлексии, не только во внутренней, но и внешней экономической деятельности.



Войдите или станьте участником, чтобы комментировать