Библиографиядевять записей · метаданные сверены 05.11.2026
Литература и место пилота среди опубликованных работ
Две линии работ — переносимость состязательных атак (с 2014 года) и сходство внутренних представлений (с 2019 года) — и две работы, которые их уже соединили. Пилот стоит на их пересечении: это проверка и уточнение условий, а не открытие.
01
Исследовательский ландшафт
Две линии работ — переносимость атак и сходство представлений — и где они уже встретились.
Хронология цитируемых работ по двум линиям
Переносимость и атаки
- 2014Szegedy et al.первое наблюдение переносимости
- 2015Goodfellow et al.FGSM, «линейное» объяснение переносимости
- 2016Papernot et al.перенос между семействами, black-box угроза
- 2018Madry et al.PGD, вторичная атака пилота
- 2019Demontis et al.три фактора переносимости, косинус градиентов
Сходство представлений
- 2019Kornblith et al.мера сходства CKA
Обе линии вместе
- 2022Wiedeman, Wangближайшая работа: декорреляция признаков снижает перенос
- 2024Hwang et al.переносимость как мера сходства архитектур
- 2026этот пилотописательная проверка на 4 моделях digits 8×8
Переносимость и атаки
Переносимость состязательных примеров известна с первой работы о состязательных примерах (Szegedy et al., 2014): одно и то же возмущение, найденное для одной сети, вызывает ошибку другой сети, обученной на другом подмножестве данных. Goodfellow, Shlens и Szegedy (2015) объяснили явление «линейностью» моделей, предложили быстрый метод генерации (FGSM) и связали с линейностью обобщаемость примеров между архитектурами. Papernot, McDaniel и Goodfellow (2016) показали перенос между разными семействами моделей и практические black-box атаки через суррогатную модель. Demontis et al. (2019) дали формальное определение переносимости и выделили три фактора: размер входных градиентов цели (её собственная уязвимость), выравнивание градиентов суррогата и цели, изменчивость ландшафта потерь. Madry et al. (2018) формализовали PGD как «универсального» противника первого порядка.
Сходство представлений
Параллельная линия — измерение сходства представлений: Kornblith et al. (2019) показали, что CCA-подобные меры неинформативны при числе измерений больше числа примеров, и предложили CKA, надёжно находящую соответствующие слои сетей с разной инициализацией. Две работы уже соединяют эти линии: Wiedeman и Wang (2022) измерили линейную корреляцию признаков сетей одной задачи, нашли её высокой и показали, что декорреляция признаков существенно снижает перенос; Hwang et al. (2024) использовали саму переносимость как меру сходства архитектур для 69 классификаторов ImageNet.
Утверждение «сходство признаковых пространств связано с переносимостью» не является новым. Пилот — воспроизводимая проверка и уточнение условий (семейство архитектур, слой, мера, направленность, бюджет), а не открытие.
Ko‘chuvchanlik 2014 dan ma’lum; FGSM — 2015; CKA — 2019; «belgilar o‘xshashligi ko‘chishni belgilaydi» — Wiedeman & Wang 2022 allaqachon ko‘rsatgan. Pilot — yangilik emas, shartlarni aniqlash.
02
Сравнительный синтез
Чем работы различаются по тому, что измеряют, и где в этом ряду пилот?
| Признак | Demontis et al., 2019 | Wiedeman, Wang, 2022 | Hwang et al., 2024 | этот пилот |
|---|---|---|---|---|
| Что измеряют | выравнивание входных градиентов суррогата и цели; размер градиентов цели | корреляцию признаков одного слоя | саму переносимость — как меру сходства архитектур | linear CKA двух слоёв и косинус градиентов |
| Направленность | роль суррогата и цели разделена явно | — | — | подтверждена на малой задаче: CNN→MLP > MLP→CNN при ε = 0,10 |
| Дизайн | — | интервенция: целенаправленная декорреляция признаков снижает перенос — ближе к причинному выводу | наблюдательный | наблюдательный |
| Масштаб | — | MNIST, CIFAR-10 | 69 моделей ImageNet | 4 модели, digits 8×8 |
Симметричные меры вроде CKA принципиально не описывают асимметрию A→B и B→A. Ценность пилота — методическая: явные знаменатели метрик, контроль случайного шума той же амплитуды и перезапуск по тому же протоколу.
03
Библиография
девять записей references.bib пакета; роль в исследовании — краткое резюме; ссылки открываются на сайтах издателей
Метаданные всех записей (название, авторы, площадка, год, идентификаторы) сверены 05.11.2026 по страницам издателей и arXiv при подготовке пакета исследования; при сборке сайта в тот же день все ссылки отвечали HTTP 200. Статус: полный текст — статья прочитана; аннотация — проверены метаданные и аннотация, утверждения из тела статьи по памяти не приводятся; документация.
-
[1]
Intriguing properties of neural networks
Роль в пилоте: первое наблюдение переносимости.
переносимостьаннотация -
[2]
Explaining and Harnessing Adversarial Examples
Роль в пилоте: FGSM — метод атаки пилота; «линейное» объяснение переносимости.
переносимостьаннотация -
[3]
Transferability in Machine Learning: from Phenomena to Black-Box Attacks using Adversarial Samples
Роль в пилоте: перенос между семействами; обоснование black-box угрозы.
arXiv:1605.07277 · DOI 10.48550/arXiv.1605.07277
переносимостьаннотация -
[4]
Why Do Adversarial Attacks Transfer? Explaining Transferability of Evasion and Poisoning Attacks
Роль в пилоте: три фактора переносимости; контроль вмешивающихся факторов; мера grad_cosine_mean.
переносимостьполный текст -
[5]
Similarity of Neural Network Representations Revisited
Роль в пилоте: мера сходства пилота — CKA.
сходство представленийаннотация · формула реализована и протестирована -
[6]
Towards Deep Learning Models Resistant to Adversarial Attacks
Роль в пилоте: PGD — вторичная атака пилота.
переносимостьполный текст -
[7]
Disrupting adversarial transferability in deep neural networks
Роль в пилоте: ближайшая работа — интервенция: декорреляция признаков снижает перенос.
PMC9122968 · DOI 10.1016/j.patter.2022.100472
обе линииполный текст -
[8]
Similarity of Neural Architectures using Adversarial Attack Transferability
Роль в пилоте: обратное направление — переносимость как мера сходства архитектур.
ECVA · DOI 10.1007/978-3-031-73113-6_7
обе линиианнотация -
[9]
sklearn.datasets.load_digits
Роль в пилоте: данные пилота; не MNIST.
данныедокументация
Запись Alpaydin & Kaynak (1998, Kybernetika) приводится как ссылка из DESCR scikit-learn и в этой работе независимо не проверялась (том и страницы не указываются). Машиночитаемая версия — literature.json.
04
Пробел: что ещё не показано (предварительно)
- Условия, при которых CKA предсказывает переносимость. Не показано, насколько наблюдаемый уровень CKA между независимо обученными моделями разных семейств предсказывает перенос после учёта собственной уязвимости цели.
- Слой и мера. Чувствительность вывода к слою и мере (linear/RBF CKA, корреляция признаков, косинус градиентов) систематически не сравнивалась на одном дизайне.
- Направленность. Какая асимметричная характеристика пары объясняет T(s→t) ≠ T(t→s)?
- Масштаб. Повторение на MNIST/CIFAR-10 с большим числом независимых моделей и корректной статистикой.
Это предварительная формулировка: она требует подтверждения расширенным поиском литературы и не является установленным фактом. Для дальнейшего чтения (метаданные не проверялись, в библиографию не включены): Liu et al., Delving into Transferable Adversarial Examples and Black-box Attacks (ICLR 2017); Tramèr et al., The Space of Transferable Adversarial Examples (arXiv 2017); Dong et al., Boosting Adversarial Attacks with Momentum (CVPR 2018).
05
Литература мультимодального расширения
Какие работы задают постановку задач в лабораториях текста, аудио и таблиц — и что из них не следует для этого сайта?
метаданные сверены 19.11.2026 по страницам издателей
Это фоновая литература: ссылка на работу не означает, что лаборатория воспроизводит её алгоритм или что её авторы подтверждают числа сайта. Реализованные методы — собственные упрощённые схемы, описанные на страницах лабораторий; совпадения и отличия названы там явно.
-
[10]
Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
Роль: терминология классов угроз (уклонение, отравление, извлечение, приватность, внедрение инструкций) на странице сравнения; формулы и числа сайта NIST не проверял.
таксономиястандарт, окончательная редакция -
[11]
Contributions to the Study of SMS Spam Filtering: New Collection and Results
Роль: набор данных текстовой лаборатории — SMS Spam Collection v.1 (UCI ML Repository, CC BY 4.0).
текстданные -
[12]
Adversarial classification
Роль: фильтрация спама как игра классификатора и противника — исходная постановка атаки уклонения, на которой построена текстовая лаборатория.
текстпостановка -
[13]
Good Word Attacks on Statistical Spam Filters
Роль: атаки на наивный Байес и фильтр максимальной энтропии по запросам к фильтру; ближайшая опубликованная постановка к атаке на NB-word. Лаборатория не добавляет слова, а заменяет их.
текстметод -
[14]
Black-box Generation of Adversarial Text Sequences to Evade Deep Learning Classifiers
Роль: символьные правки по запросам (DeepWordBug); символьная атака лаборатории — упрощённая схема в этом духе, не воспроизведение.
текстметод -
[15]
HotFlip: White-Box Adversarial Examples for Text Classification
Роль: градиентный аналог для дискретного текста; в лаборатории не реализован — источник доступен только по запросам.
текстметод -
[16]
Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment
Роль: TextFooler; из него взято только ранжирование слов по удалению. Синонимы в лаборатории — из курируемого словаря, без эмбеддингов и USE, поэтому это не TextFooler.
текстметод -
[17]
TextAttack: A Framework for Adversarial Attacks, Data Augmentation, and Adversarial Training in NLP
Роль: разделение атаки на преобразование, ограничения, цель и поиск — по этой схеме описана текстовая лаборатория; сама библиотека не используется.
текстметодика -
[18]
Audio Adversarial Examples: Targeted Attacks on Speech-to-Text
Роль: контекст: направленные атаки на распознавание речи. Аудиолаборатория речь не распознаёт и ASR не атакует — она классифицирует синтетические сигналы.
аудиоконтекст -
[19]
Imperceptible, Robust, and Targeted Adversarial Examples for Automatic Speech Recognition
Роль: показывает, чем психоакустическая незаметность отличается от малого SNR. Лаборатория сообщает SNR и RMS, но незаметность не заявляет: теста прослушивания нет.
аудиоконтекст -
[20]
Imperceptible Adversarial Attacks on Tabular Data
Роль: ранняя постановка атак на табличные данные с учётом важности признаков для эксперта.
таблицыпостановка -
[21]
Intriguing Properties of Adversarial ML Attacks in the Problem Space
Роль: различие пространства признаков и пространства задачи; обоснование, почему «неограниченная» атака лаборатории не является реалистичной.
таблицыпостановка -
[22]
A Unified Framework for Adversarial Attack and Defense in Constrained Feature Space
Роль: атаки в пространстве признаков с ограничениями предметной области; лаборатория применяет ту же идею проверки ограничений, но собственным жадным поиском.
таблицыметод -
[23]
Adversarial Robustness for Tabular Data through Cost and Utility Awareness
Роль: стоимость изменения признаков и выгода атакующего; бюджет C лаборатории — упрощённая стоимостная модель в этом смысле.
таблицыметод -
[24]
CaFA: Cost-aware, Feasible Attacks With Database Constraints Against Neural Tabular Classifiers
Роль: допустимые атаки с ограничениями базы данных; лаборатория не реализует CaFA — её поиск проще и назван собственным именем.
таблицыметод
Bu manbalar kengaytma laboratoriyalari uchun fon adabiyoti: ular saytdagi sonlarni tasdiqlamaydi va laboratoriyalar ularning algoritmlarini aynan takrorlamaydi.