Модуль 3 · CKAlinear CKA, Kornblith et al., 2019
CKA: насколько похожи внутренние представления двух моделей
И совпадает ли порядок пар по сходству с порядком по переносу атак.
CKA ikki modelning ichki vakilliklari «bulutlari» geometriyasini solishtiradi. CKA = 0,90 ≠ 90 % aniqlik, ≠ 90 % bir xil neyron, ≠ 90 % himoya. CKA simmetrik: CKA(A,B) = CKA(B,A).
Матрица CKA
Таблица значенийдоступная альтернатива цветной матрице
Записанные проверкисамоподобие и симметрия
CKA против переноса: 6 пар, 12 направлений, без линии тренда
To‘liq doira — bir oila, kontur romb — turli oilalar. MLP-96↔MLP-160 juftligi ham eng yuqori CKA, ham eng yuqori ko‘chishga ega — ρ asosan shu juftlik hisobiga. Trend chizig‘i va p-value yo‘q — ataylab.
Наблюдательный дизайн без интервенции: высокий CKA и высокий перенос могут иметь общую причину — одинаковую архитектуру, точность или собственную уязвимость цели. Корреляция здесь не доказывает влияние. Ближе к причинности интервенция Wiedeman & Wang (2022): целенаправленная декорреляция признаков снижает перенос.
02
Живой расчёт CKA в браузере
Получается ли та же матрица, если посчитать CKA по активациям прямо здесь?
Живой расчёт не зависит от ползунка ε лаборатории FGSM: CKA измеряется на чистых изображениях и не меняется от величины возмущения.
03
Как работает CKA
Одни и те же входы → внутренние представления → одно число на пару: что именно вычисляется?
- шаг 1
Одни и те же данные обеим моделям
450 тестовых изображений в одном и том же порядке подаются модели A и модели B. CKA определена для пар строк-примеров; перестановка строк одной матрицы без другой сделала бы результат бессмысленным.
- шаг 2
Матрицы активаций
У каждой модели берётся выход выбранного слоя: X размером 450 × pA, Y размером 450 × pB. Размерности могут различаться (48 и 64; 96 и 640) — для CKA это допустимо.
- шаг 3
Центрирование и матрицы Грама
Каждый признак центрируется по примерам. K = X̃X̃ᵀ и L = ỸỸᵀ — таблицы «какие примеры похожи друг на друга» внутри каждой модели.
Шаг 4. Нормированное согласие таблиц
Эквивалентно HSIC(K, L)/√(HSIC(K,K)·HSIC(L,L)) с линейными ядрами. Свойства, проверенные тестами пакета: CKA(X,X) = 1, симметрия, инвариантность к ортогональным преобразованиям и изотропному масштабу, не инвариантность к произвольным обратимым линейным преобразованиям, NaN (не 0) при нулевой дисперсии.