Модуль 2 · Переносстрока — источник, столбец — цель

Перенос атак: направленная матрица T(источник → цель)

Как часто атака, построенная на одной модели, обманывает другую — в каждом направлении отдельно.

  • VERIFIED PRECOMPUTED EXPERIMENT

Satr — manba (hujum yasalgan model), ustun — nishon. Har katakda surat/maxraj ko‘rsatilgan. Diagonal — o‘z-o‘ziga hujum, ko‘chish emas.

Прогон
Seed
Атака
Бюджет ε
Рис. 1

Матрица

Строка — источник атакиСтолбец — цель, видит только готовое изображение

Каждая ячейка — измеренная строка CSV пакета с числителем и знаменателем |J|; диагональ исключена: самоатака — не перенос. T(A→B) ≠ T(B→A) — перенос направлен, а CKA симметрична, поэтому CKA в легенде этой матрицы намеренно нет. Цвет кодирует долю от 0 до 100 %; все значения продублированы текстом и в таблице; пунктиром обведено обратное направление выбранной ячейки. Стрелки перемещают фокус по ячейкам; Enter — подробности.
Таблица значений матрицыдоступная альтернатива цветной матрице
О параметрахseed, недоступные комбинации, точность долей
  • Seed меняет разбиение, инициализацию и порядок батчей одновременно: три seed — три реплики процедуры, а не независимые выборки пар.
  • Недоступные комбинации (например, PGD в первом прогоне) отключены, а не подменены.
  • Все доли вычислены как целые числитель/знаменатель из CSV; проценты получаются умножением на 100 один раз.

02

Асимметрия: A → B и B → A при одном и том же CKA

Насколько различаются два направления одной пары — и выше ли перенос, чем ошибка от случайного шума?

Рис. 2

Два направления каждой пары

Для каждой неупорядоченной пары показаны оба направления. В пилоте при ε = 0,10 атаки с CNN переносятся на MLP чаще (≈ 31,7 %), чем с MLP на CNN (≈ 22,5 %): MLP как цели уязвимее, а как источники дают более сильные white-box атаки. Симметричная мера сходства этого объяснить не может — нужны направленные характеристики (собственная уязвимость цели, выравнивание градиентов по Demontis et al., 2019).

T(A→B) va T(B→A) — bir xil CKA bilan ikki xil son. Ko‘chish yo‘nalishli, CKA simmetrik.

Рис. 3

Перенос против случайного контроля

Контроль: к тем же изображениям добавлены случайные знаки ±ε с тем же клиппингом, ошибка цели считается на той же маске J. Контроль выравнивает L∞-бюджет, но не L2 и не «энергию» возмущения; он исключает объяснение «любой шум такой амплитуды ломает модель», а не все альтернативы.

03

Живой пересчёт в браузере

Совпадает ли матрица из CSV с расчётом по весам чекпоинтов прямо здесь?

04

Определения

Что именно считается в каждой ячейке?

J(s, t)
примеры тестовой выборки, которые и источник s, и цель t классифицировали верно до атаки; |J| ∈ [429, 441] во всех прогонах пилота
T_joint(s→t)
|{i ∈ J : ft(xadv,i) ≠ yi}| / |J| — не требует, чтобы пример обманул источник
source_success(s)
|{i ∈ J : fs(xadv,i) ≠ yi}| / |J| — white-box успех на источнике
T_conditional(s→t)
|обе ошиблись ∩ J| / |источник ошибся ∩ J| — доля успешных на источнике примеров, обманувших и цель; при нулевом знаменателе N/A
random_rate(t)
|{i ∈ J : ft(xrand,i) ≠ yi}| / |J|
12 → 6
четыре модели дают 12 направленных пар, но только 6 значений CKA; для сопоставления с CKA направления усредняются (среднее двух долей) или объединяются (суммы числителей и знаменателей) — см. страницу CKA