Библиографиядевять записей · метаданные сверены 05.11.2026

Литература и место пилота среди опубликованных работ

Две линии работ — переносимость состязательных атак (с 2014 года) и сходство внутренних представлений (с 2019 года) — и две работы, которые их уже соединили. Пилот стоит на их пересечении: это проверка и уточнение условий, а не открытие.

literature.json

01

Исследовательский ландшафт

Две линии работ — переносимость атак и сходство представлений — и где они уже встретились.

Рис. 1

Хронология цитируемых работ по двум линиям

Переносимость и атаки

  1. 2014Szegedy et al.первое наблюдение переносимости
  2. 2015Goodfellow et al.FGSM, «линейное» объяснение переносимости
  3. 2016Papernot et al.перенос между семействами, black-box угроза
  4. 2018Madry et al.PGD, вторичная атака пилота
  5. 2019Demontis et al.три фактора переносимости, косинус градиентов

Сходство представлений

  1. 2019Kornblith et al.мера сходства CKA

Обе линии вместе

  1. 2022Wiedeman, Wangближайшая работа: декорреляция признаков снижает перенос
  2. 2024Hwang et al.переносимость как мера сходства архитектур
  3. 2026этот пилотописательная проверка на 4 моделях digits 8×8
Общая ось лет для трёх линий; позиция записи — год публикации (библиография ниже). Схема, не данные эксперимента.

Переносимость и атаки

Переносимость состязательных примеров известна с первой работы о состязательных примерах (Szegedy et al., 2014): одно и то же возмущение, найденное для одной сети, вызывает ошибку другой сети, обученной на другом подмножестве данных. Goodfellow, Shlens и Szegedy (2015) объяснили явление «линейностью» моделей, предложили быстрый метод генерации (FGSM) и связали с линейностью обобщаемость примеров между архитектурами. Papernot, McDaniel и Goodfellow (2016) показали перенос между разными семействами моделей и практические black-box атаки через суррогатную модель. Demontis et al. (2019) дали формальное определение переносимости и выделили три фактора: размер входных градиентов цели (её собственная уязвимость), выравнивание градиентов суррогата и цели, изменчивость ландшафта потерь. Madry et al. (2018) формализовали PGD как «универсального» противника первого порядка.

Сходство представлений

Параллельная линия — измерение сходства представлений: Kornblith et al. (2019) показали, что CCA-подобные меры неинформативны при числе измерений больше числа примеров, и предложили CKA, надёжно находящую соответствующие слои сетей с разной инициализацией. Две работы уже соединяют эти линии: Wiedeman и Wang (2022) измерили линейную корреляцию признаков сетей одной задачи, нашли её высокой и показали, что декорреляция признаков существенно снижает перенос; Hwang et al. (2024) использовали саму переносимость как меру сходства архитектур для 69 классификаторов ImageNet.

Следствие для темы

Утверждение «сходство признаковых пространств связано с переносимостью» не является новым. Пилот — воспроизводимая проверка и уточнение условий (семейство архитектур, слой, мера, направленность, бюджет), а не открытие.

Ko‘chuvchanlik 2014 dan ma’lum; FGSM — 2015; CKA — 2019; «belgilar o‘xshashligi ko‘chishni belgilaydi» — Wiedeman & Wang 2022 allaqachon ko‘rsatgan. Pilot — yangilik emas, shartlarni aniqlash.

02

Сравнительный синтез

Чем работы различаются по тому, что измеряют, и где в этом ряду пилот?

Три работы, ближайшие к теме, и пилот по четырём признакам. Прочерк — признак в этом сопоставлении не рассматривается.
ПризнакDemontis et al., 2019Wiedeman, Wang, 2022Hwang et al., 2024этот пилот
Что измеряютвыравнивание входных градиентов суррогата и цели; размер градиентов целикорреляцию признаков одного слоясаму переносимость — как меру сходства архитектурlinear CKA двух слоёв и косинус градиентов
Направленностьроль суррогата и цели разделена явно——подтверждена на малой задаче: CNN→MLP > MLP→CNN при ε = 0,10
Дизайн—интервенция: целенаправленная декорреляция признаков снижает перенос — ближе к причинному выводунаблюдательныйнаблюдательный
Масштаб—MNIST, CIFAR-1069 моделей ImageNet4 модели, digits 8×8

Симметричные меры вроде CKA принципиально не описывают асимметрию A→B и B→A. Ценность пилота — методическая: явные знаменатели метрик, контроль случайного шума той же амплитуды и перезапуск по тому же протоколу.

03

Библиография

девять записей references.bib пакета; роль в исследовании — краткое резюме; ссылки открываются на сайтах издателей

Метаданные всех записей (название, авторы, площадка, год, идентификаторы) сверены 05.11.2026 по страницам издателей и arXiv при подготовке пакета исследования; при сборке сайта в тот же день все ссылки отвечали HTTP 200. Статус: полный текст — статья прочитана; аннотация — проверены метаданные и аннотация, утверждения из тела статьи по памяти не приводятся; документация.

  1. [1]

    Szegedy C., Zaremba W., Sutskever I., Bruna J., Erhan D., Goodfellow I., Fergus R. · ICLR 2014

    Intriguing properties of neural networks

    Роль в пилоте: первое наблюдение переносимости.

    переносимостьаннотация
  2. [2]

    Goodfellow I. J., Shlens J., Szegedy C. · ICLR 2015

    Explaining and Harnessing Adversarial Examples

    Роль в пилоте: FGSM — метод атаки пилота; «линейное» объяснение переносимости.

    переносимостьаннотация
  3. [3]

    Papernot N., McDaniel P., Goodfellow I. · препринт, 2016

    Transferability in Machine Learning: from Phenomena to Black-Box Attacks using Adversarial Samples

    Роль в пилоте: перенос между семействами; обоснование black-box угрозы.

    переносимостьаннотация
  4. [4]

    Demontis A., Melis M., Pintor M., Jagielski M., Biggio B., Oprea A., Nita-Rotaru C., Roli F. — pp. 321–338 · USENIX Security 2019

    Why Do Adversarial Attacks Transfer? Explaining Transferability of Evasion and Poisoning Attacks

    Роль в пилоте: три фактора переносимости; контроль вмешивающихся факторов; мера grad_cosine_mean.

    переносимостьполный текст
  5. [5]

    Kornblith S., Norouzi M., Lee H., Hinton G. · ICML 2019

    Similarity of Neural Network Representations Revisited

    Роль в пилоте: мера сходства пилота — CKA.

    сходство представленийаннотация · формула реализована и протестирована
  6. [6]

    Madry A., Makelov A., Schmidt L., Tsipras D., Vladu A. · ICLR 2018

    Towards Deep Learning Models Resistant to Adversarial Attacks

    Роль в пилоте: PGD — вторичная атака пилота.

    переносимостьполный текст
  7. [7]

    Wiedeman C., Wang G. — Patterns 3(5):100472 · Patterns, 2022

    Disrupting adversarial transferability in deep neural networks

    Роль в пилоте: ближайшая работа — интервенция: декорреляция признаков снижает перенос.

    обе линииполный текст
  8. [8]

    Hwang J., Han D., Heo B., Park S., Chun S., Lee J.-S. · ECCV 2024, Springer

    Similarity of Neural Architectures using Adversarial Attack Transferability

    Роль в пилоте: обратное направление — переносимость как мера сходства архитектур.

    обе линиианнотация
  9. [9]

    scikit-learn developers; происхождение — UCI Optical Recognition of Handwritten Digits (Alpaydin E., Kaynak C., 1998) · документация, 2026

    sklearn.datasets.load_digits

    Роль в пилоте: данные пилота; не MNIST.

    данныедокументация

Запись Alpaydin & Kaynak (1998, Kybernetika) приводится как ссылка из DESCR scikit-learn и в этой работе независимо не проверялась (том и страницы не указываются). Машиночитаемая версия — literature.json.

04

Пробел: что ещё не показано (предварительно)

  1. Условия, при которых CKA предсказывает переносимость. Не показано, насколько наблюдаемый уровень CKA между независимо обученными моделями разных семейств предсказывает перенос после учёта собственной уязвимости цели.
  2. Слой и мера. Чувствительность вывода к слою и мере (linear/RBF CKA, корреляция признаков, косинус градиентов) систематически не сравнивалась на одном дизайне.
  3. Направленность. Какая асимметричная характеристика пары объясняет T(s→t) ≠ T(t→s)?
  4. Масштаб. Повторение на MNIST/CIFAR-10 с большим числом независимых моделей и корректной статистикой.
Статус утверждения о пробеле

Это предварительная формулировка: она требует подтверждения расширенным поиском литературы и не является установленным фактом. Для дальнейшего чтения (метаданные не проверялись, в библиографию не включены): Liu et al., Delving into Transferable Adversarial Examples and Black-box Attacks (ICLR 2017); Tramèr et al., The Space of Transferable Adversarial Examples (arXiv 2017); Dong et al., Boosting Adversarial Attacks with Momentum (CVPR 2018).

05

Литература мультимодального расширения

Какие работы задают постановку задач в лабораториях текста, аудио и таблиц — и что из них не следует для этого сайта?

метаданные сверены 19.11.2026 по страницам издателей

Это фоновая литература: ссылка на работу не означает, что лаборатория воспроизводит её алгоритм или что её авторы подтверждают числа сайта. Реализованные методы — собственные упрощённые схемы, описанные на страницах лабораторий; совпадения и отличия названы там явно.

  1. [10]

    Vassilev A., Oprea A., Fordyce A., Anderson H., Davies X., Hamin M. · NIST AI 100-2 E2025, март 2025

    Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations

    Роль: терминология классов угроз (уклонение, отравление, извлечение, приватность, внедрение инструкций) на странице сравнения; формулы и числа сайта NIST не проверял.

    таксономиястандарт, окончательная редакция
  2. [11]

    Almeida T. A., Gómez Hidalgo J. M., Yamakami A. · DocEng 2011, с. 259–262

    Contributions to the Study of SMS Spam Filtering: New Collection and Results

    Роль: набор данных текстовой лаборатории — SMS Spam Collection v.1 (UCI ML Repository, CC BY 4.0).

    текстданные
  3. [12]

    Dalvi N., Domingos P., Mausam, Sanghai S., Verma D. · KDD 2004, с. 99–108

    Adversarial classification

    Роль: фильтрация спама как игра классификатора и противника — исходная постановка атаки уклонения, на которой построена текстовая лаборатория.

    текстпостановка
  4. [13]

    Lowd D., Meek C. · CEAS 2005

    Good Word Attacks on Statistical Spam Filters

    Роль: атаки на наивный Байес и фильтр максимальной энтропии по запросам к фильтру; ближайшая опубликованная постановка к атаке на NB-word. Лаборатория не добавляет слова, а заменяет их.

    текстметод
  5. [14]

    Gao J., Lanchantin J., Soffa M. L., Qi Y. · IEEE Security and Privacy Workshops 2018

    Black-box Generation of Adversarial Text Sequences to Evade Deep Learning Classifiers

    Роль: символьные правки по запросам (DeepWordBug); символьная атака лаборатории — упрощённая схема в этом духе, не воспроизведение.

    текстметод
  6. [15]

    Ebrahimi J., Rao A., Lowd D., Dou D. · ACL 2018 (Vol. 2), с. 31–36

    HotFlip: White-Box Adversarial Examples for Text Classification

    Роль: градиентный аналог для дискретного текста; в лаборатории не реализован — источник доступен только по запросам.

    текстметод
  7. [16]

    Jin D., Jin Z., Zhou J. T., Szolovits P. · AAAI 2020, т. 34, № 5, с. 8018–8025

    Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment

    Роль: TextFooler; из него взято только ранжирование слов по удалению. Синонимы в лаборатории — из курируемого словаря, без эмбеддингов и USE, поэтому это не TextFooler.

    текстметод
  8. [17]

    Morris J., Lifland E., Yoo J. Y., Grigsby J., Jin D., Qi Y. · EMNLP 2020: System Demonstrations, с. 119–126

    TextAttack: A Framework for Adversarial Attacks, Data Augmentation, and Adversarial Training in NLP

    Роль: разделение атаки на преобразование, ограничения, цель и поиск — по этой схеме описана текстовая лаборатория; сама библиотека не используется.

    текстметодика
  9. [18]

    Carlini N., Wagner D. · IEEE Security and Privacy Workshops 2018

    Audio Adversarial Examples: Targeted Attacks on Speech-to-Text

    Роль: контекст: направленные атаки на распознавание речи. Аудиолаборатория речь не распознаёт и ASR не атакует — она классифицирует синтетические сигналы.

    аудиоконтекст
  10. [19]

    Qin Y., Carlini N., Cottrell G., Goodfellow I., Raffel C. · ICML 2019, PMLR 97, с. 5231–5240

    Imperceptible, Robust, and Targeted Adversarial Examples for Automatic Speech Recognition

    Роль: показывает, чем психоакустическая незаметность отличается от малого SNR. Лаборатория сообщает SNR и RMS, но незаметность не заявляет: теста прослушивания нет.

    аудиоконтекст
  11. [20]

    Ballet V., Renard X., Aigrain J., Laugel T., Frossard P., Detyniecki M. · NeurIPS 2019 Workshop on Robust AI in Financial Services

    Imperceptible Adversarial Attacks on Tabular Data

    Роль: ранняя постановка атак на табличные данные с учётом важности признаков для эксперта.

    таблицыпостановка
  12. [21]

    Pierazzi F., Pendlebury F., Cortellazzi J., Cavallaro L. · IEEE S&P 2020

    Intriguing Properties of Adversarial ML Attacks in the Problem Space

    Роль: различие пространства признаков и пространства задачи; обоснование, почему «неограниченная» атака лаборатории не является реалистичной.

    таблицыпостановка
  13. [22]

    Simonetto T., Dyrmishi S., Ghamizi S., Cordy M., Le Traon Y. · IJCAI 2022, с. 1313–1319

    A Unified Framework for Adversarial Attack and Defense in Constrained Feature Space

    Роль: атаки в пространстве признаков с ограничениями предметной области; лаборатория применяет ту же идею проверки ограничений, но собственным жадным поиском.

    таблицыметод
  14. [23]

    Kireev K., Kulynych B., Troncoso C. · NDSS 2023

    Adversarial Robustness for Tabular Data through Cost and Utility Awareness

    Роль: стоимость изменения признаков и выгода атакующего; бюджет C лаборатории — упрощённая стоимостная модель в этом смысле.

    таблицыметод
  15. [24]

    Ben-Tov M., Deutch D., Frost N., Sharif M. · IEEE S&P 2024

    CaFA: Cost-aware, Feasible Attacks With Database Constraints Against Neural Tabular Classifiers

    Роль: допустимые атаки с ограничениями базы данных; лаборатория не реализует CaFA — её поиск проще и назван собственным именем.

    таблицыметод

Bu manbalar kengaytma laboratoriyalari uchun fon adabiyoti: ular saytdagi sonlarni tasdiqlamaydi va laboratoriyalar ularning algoritmlarini aynan takrorlamaydi.