Модуль 3 · CKAlinear CKA, Kornblith et al., 2019

CKA: насколько похожи внутренние представления двух моделей

И совпадает ли порядок пар по сходству с порядком по переносу атак.

  • VERIFIED PRECOMPUTED EXPERIMENT
  • REAL COMPUTATION · по кнопке

CKA ikki modelning ichki vakilliklari «bulutlari» geometriyasini solishtiradi. CKA = 0,90 ≠ 90 % aniqlik, ≠ 90 % bir xil neyron, ≠ 90 % himoya. CKA simmetrik: CKA(A,B) = CKA(B,A).

Прогон
Seed
Слой активаций
Рис. 1

Матрица CKA

Цветовая шкала растянута на диапазон 0,80–1,00, чтобы различия 0,89–0,98 были видны; значения подписаны в ячейках. Диагональ — самоподобие, равное 1. Матрица симметрична: ячейки (A,B) и (B,A) совпадают. Предпоследний слой — узкий слой (bottleneck) после ReLU, ближайший к решению и общий по смыслу для MLP и CNN; ранний слой — анализ чувствительности.
Таблица значенийдоступная альтернатива цветной матрице
Записанные проверкисамоподобие и симметрия
Рис. 2

CKA против переноса: 6 пар, 12 направлений, без линии тренда

Атака
Бюджет ε
Набор пар
Сплошные круги — пары одного семейства (MLP↔MLP, CNN↔CNN), контурные ромбы — разные семейства. Для каждой пары соединены два направления переноса; маленькая точка — их среднее. Пара MLP-96↔MLP-160 во всех seed первая и по CKA, и по переносу — поэтому положительный ρ по шести парам почти целиком определяется ею, а среди четырёх кросс-архитектурных пар знак нестабилен.

To‘liq doira — bir oila, kontur romb — turli oilalar. MLP-96↔MLP-160 juftligi ham eng yuqori CKA, ham eng yuqori ko‘chishga ega — ρ asosan shu juftlik hisobiga. Trend chizig‘i va p-value yo‘q — ataylab.

Что это означает и не означает

Наблюдательный дизайн без интервенции: высокий CKA и высокий перенос могут иметь общую причину — одинаковую архитектуру, точность или собственную уязвимость цели. Корреляция здесь не доказывает влияние. Ближе к причинности интервенция Wiedeman & Wang (2022): целенаправленная декорреляция признаков снижает перенос.

02

Живой расчёт CKA в браузере

Получается ли та же матрица, если посчитать CKA по активациям прямо здесь?

Живой расчёт не зависит от ползунка ε лаборатории FGSM: CKA измеряется на чистых изображениях и не меняется от величины возмущения.

03

Как работает CKA

Одни и те же входы → внутренние представления → одно число на пару: что именно вычисляется?

  1. шаг 1

    Одни и те же данные обеим моделям

    450 тестовых изображений в одном и том же порядке подаются модели A и модели B. CKA определена для пар строк-примеров; перестановка строк одной матрицы без другой сделала бы результат бессмысленным.

  2. шаг 2

    Матрицы активаций

    У каждой модели берётся выход выбранного слоя: X размером 450 × pA, Y размером 450 × pB. Размерности могут различаться (48 и 64; 96 и 640) — для CKA это допустимо.

  3. шаг 3

    Центрирование и матрицы Грама

    Каждый признак центрируется по примерам. K = X̃X̃ᵀ и L = ỸỸᵀ — таблицы «какие примеры похожи друг на друга» внутри каждой модели.

Шаг 4. Нормированное согласие таблиц

Эквивалентно HSIC(K, L)/√(HSIC(K,K)·HSIC(L,L)) с линейными ядрами. Свойства, проверенные тестами пакета: CKA(X,X) = 1, симметрия, инвариантность к ортогональным преобразованиям и изотропному масштабу, не инвариантность к произвольным обратимым линейным преобразованиям, NaN (не 0) при нулевой дисперсии.

Схема расчёта CKA Одни и те же 450 изображений поступают в модель A и модель B; из выбранного слоя каждой модели берутся матрицы активаций X и Y; после центрирования столбцов вычисляется CKA — одно число на пару моделей. 450 тестовыхизображений модель A модель B слой → X450 × p_A слой → Y450 × p_B центрирование →CKA ∈ [0, 1] ILLUSTRATIVE SCHEMATIC — схема, не данные
Схема расчёта (иллюстрация). Одна картинка не определяет CKA: мера вычисляется по всему набору из 450 примеров.