Модальность · Табличные данные
Табличные данные · Допустимые изменения и перенос атак
Меняет ли атака, соблюдающая правила допустимости признаков, ответ модели-источника и переносится ли она на модель другого семейства?
Транзакцияtranzaksiya мошеннические строки теста
Пара моделейmodellar jufti
Атака и бюджетhujum va byudjet
Не реалистичная атака, только для сравнения: меняет неизменяемые и производные поля.
Пять бюджетов при k = 4 и Q = 500 есть в сохранённых прогонах; другие k и Q считаются только в браузере.
Загрузка…
Исходная транзакция и найденная правка
LIVE COMPUTATION| признакbelgi | исходноеasl | после поискаqidiruvdan keyin | стоимостьnarx |
|---|
неизменяемый признак (причина — в подсказке строки и в схеме ниже) · ƒ производное поле, всегда пересчитывается · выделено — признак изменён · стоимость — по модели стоимости схемы.
Проверка ограничений
Контроль: случайные допустимые ходыnazorat: tasodifiy joiz o‘zgarishlar
Ход поискаqidiruv jarayoniшаги, кандидаты, отказы и запросы к источнику
Ручная правка строкиqatorni qo‘lda tahrirlashлюбое поле, в том числе неизменяемое: проверка отклонит недопустимое
Правка сравнивается с исходной транзакцией по правилам схемы и бюджету C, k из рабочего места. Предсказания показываются только для допустимой строки; недопустимая отклоняется с причинами.
Hamma natijalar brauzeringizda hisoblanadi: qidiruv faqat manba modelning firibgarlik ehtimolini so‘raydi, nishon esa tayyor qatorni qidiruvdan keyin baholaydi. Qulf belgisi — o‘zgarmas belgi; ƒ — hosila maydon.
01
Популяция: исходы на всех мошеннических транзакциях теста
Какая доля атак, построенных на источнике, обманывает цель — и сколько дал бы случайный контроль того же бюджета?
сохранённый прогон загружается…
Ошибка цели на J: источник ↓ · цель →
VERIFIED RUNВыбранная пара
Бюджет и успех атаки для выбранной пары
VERIFIED RUNошибка цели, правила соблюденыуспех на источнике, правила соблюденыошибка цели без ограниченийконтроль R, правила соблюдены
Точки — пять бюджетов сохранённого прогона (k = 4, Q = 500); между точками значения не измерялись, линии лишь соединяют их. При C = 0 поиск ничего не меняет, и ошибка цели на J равна нулю по построению J — это измеренная проверка, а не допущение.
Соблюдать правила или нет: C = 1, все пары
VERIFIED RUNОн достигает почти полного успеха на источнике, потому что меняет то, чего злоумышленник изменить не может: возраст счёта, историю трат, наличие карты, производное отношение суммы к среднему чеку. Большинство таких «успехов» полная проверка допустимости отклоняет — столбец справа.
Matritsa saqlangan hisobdan olingan: har katakda — manbada yasalgan qator nishonni qanchalik aldagani (J bo‘yicha). R — xuddi shu byudjetdagi tasodifiy joiz o‘zgarishlar nazorati.
02
Повторы: три независимых набора данных и модели
Насколько числа выбранной пары меняются от seed к seed?
Seed меняет всё сразу: выборку генератора, разбиение и обучение. Три повтора показывают разброс, но не дают оснований для p-value: пары моделей используют одни и те же транзакции и зависимы. Интервал Уилсона в карточке пары относится только к одной фиксированной паре на одной выборке.
Uchta seed — uchta mustaqil ma’lumot va o‘qitish. Bu tarqoqlikni ko‘rsatadi, lekin p-value uchun asos emas: juftlar bir xil tranzaksiyalardan foydalanadi.
03
Что можно заключить
Какие утверждения подтверждаются сохранёнными прогонами, а какие остаются гипотезами?
Подтверждается прогонами
- загрузка сводки…
Не следует из этих данных
- Что перенос атак на реальные платёжные модели такой же: данные синтетические, правила генерации заданы вручную.
- Что модель стоимости отражает реальные затраты злоумышленника: стоимости — допущения схемы, они не измерены.
- Что одно семейство моделей «надёжнее» другого вообще: три модели, один генератор, жадный поиск, который может пропускать более сильные атаки.
- Что сходство признаковых представлений причинно определяет перенос: модели отличаются не только признаками, а пар всего шесть.
Tasdiqlangan: joiz hujum nishon xatosini tasodifiy nazoratdan yuqori qiladi; cheklovsiz hujumning ko‘p «muvaffaqiyatlari» joizlik tekshiruvidan o‘tmaydi. Tasdiqlanmagan: haqiqiy bank tizimlari, haqiqiy narxlar, sabab-oqibat.
04
Методика
Что именно измеряется, при каких допущениях и с какими ограничениями?
Цель
Проверить, меняет ли правка транзакции, допустимая по схеме признаков и ограниченная бюджетом стоимости, ответ модели-источника «мошенничество» на «законная», и как часто та же правка меняет ответ независимо обученной модели другого семейства. Отдельно — насколько учёт допустимости меняет измеренный успех по сравнению с наивной атакой в пространстве признаков.
Maqsad: sxema bo‘yicha joiz va narx bilan cheklangan o‘zgarish manba modelni aldaydimi va u boshqa oiladagi modelga ko‘chadimi — shuni tekshirish.
Объект, предмет и границы
Объект — три классификатора мошенничества (логистическая регрессия, перцептрон с 32 нейронами ReLU, случайный лес из 60 деревьев глубиной не больше 6), обученные на синтетических транзакциях. Предмет — переносимость допустимых правок с модели-источника на модель-цель. Границы: синтетический генератор с открытыми правилами; атака уклонения во время работы модели (не отравление обучающих данных, не извлечение модели); жадный поиск с запросами к оценке источника; порог решения 0,5 без калибровки.
Модель угроз
Злоумышленник располагает данными чужой карты и хочет, чтобы мошенническая транзакция получила оценку «законная». Знания: смысл признаков и правила схемы; доступ к вероятности P(мошенничество) суррогатной модели-источника (запросы, без градиентов — так поиск работает и для случайного леса). Модель-цель во время поиска не вызывается ни разу; это проверяется счётчиком вызовов в тестах и показывается в карточке цели. Возможности: менять только изменяемые признаки в разрешённом направлении (ждать, сменить продавца, уменьшить сумму, использовать прокси в стране владельца карты), не дороже C и не более k признаков, не более Q запросов. Цель атаки — уклонение конкретной транзакции, метрика — по когорте мошеннических транзакций теста.
Hujumchi: karta ma’lumotlari bor, maqsad — firibgar tranzaksiya «qonuniy» deb baholansin. Faqat manba modelning bahosini so‘raydi; nishon qidiruv paytida chaqirilmaydi.
Математическая постановка
N(x) — строки, отличающиеся от x одним признаком, значение которого взято из сетки схемы (кратные исходной суммы и расстояния, ожидание на 1…20 часов, другие категории, уменьшение числа операций, отключение зарубежного IP). Каждый кандидат сначала проходит независимую проверку checkRow, и только допустимые расходуют запрос. Поиск останавливается, когда источник отвечает «законная», когда ни один допустимый ход не снижает его оценку или по лимиту запросов. Перенос: найденная строка xadv подаётся цели ft; метрики считаются на J = {i : fs(x₀ᵢ) = ft(x₀ᵢ) = 1}.
Это собственный простой жадный поиск по координатам с моделью стоимости. Он не воспроизводит CaFA/TabPGD (Ben-Tov et al., 2024), MoEvA2 (Simonetto et al., 2022) или атаки с учётом выгоды (Kireev et al., 2023) — эти работы использованы как постановка задачи, а не как реализация.
Порядок эксперимента
- Для seed 42, 43, 44 генератор строит по 6000 транзакций (правила — в разделе 05), затем разбиение 70/30 со стратификацией по метке.
- Три модели обучаются с гиперпараметрами, заданными заранее; на тестовой части они не подбирались.
- Параметры экспортируются (веса LR и MLP — float32, пороги и листья деревьев — float64), эталонные вероятности считаются по экспортированным параметрам; браузерный движок совпадает с эталоном на всех 3 × 1800 строках.
- Для каждого seed, источника, режима (соблюдать / без ограничений) и бюджета C ∈ {0; 0,5; 1; 2; 4} поиск запускается на каждой мошеннической транзакции теста (k = 4, Q = 500); строка оценивается обеими другими моделями и контролем.
- Метрики считаются по строкам; перед записью агрегаты пересчитываются из строк и сверяются (
NIR_MM.validateRun). Прогон 19.11.2026: Node 24, Windows 11.
Показатели
На J: nab, где a — ошибка источника, b — ошибка цели после атаки. Успех на источнике = (n10 + n11)/|J|. Ошибка цели (Tjoint) = (n01 + n11)/|J| — сюда входят и случаи, когда источник устоял. Условный перенос Tcond = n11/(n10 + n11); при нулевом знаменателе — N/A, а не 0. R — ошибка цели на контроле того же бюджета, Δ — разница ошибки цели и R в процентных пунктах. Для режима без ограничений дополнительно: доля успешных на источнике строк, которые полная проверка допустимости отклоняет.
T_joint — nishon xatosi (manbaga qaramasdan); T_cond — manbani aldagan misollar ichida nishon ham aldangan ulush; nol maxrajda N/A.
Контрольные условия
Контроль R: столько же случайных ходов, сколько признаков изменила атака, из той же сетки и в пределах того же бюджета C и правил режима; генератор случайных чисел детерминирован (seed, источник, режим, бюджет, номер строки). Это не гауссов шум по всем столбцам: шум нарушил бы целочисленность и категории, и сравнение было бы бессмысленным. Второй контроль — C = 0: ничего не меняется, ошибка цели на J равна нулю.
Ограничения
- Синтетические данные: генератор задан вручную и проще реальных платёжных потоков; не данные банка и не данные людей.
- Стоимости и правила допустимости — допущения схемы; другая модель стоимости даст другие числа.
- Жадный поиск неоптимален: у случайного леса оценка кусочно-постоянна, поиск застревает на плато, и успех с RF-источником занижен относительно более сильных атак.
- Три модели, шесть направленных пар, одна выборка на seed: пары зависимы, p-value не приводятся.
- CKA не применима: скрытый слой есть только у MLP, а у LR и RF нет сопоставимых внутренних представлений.
- Защиты (обучение на атакованных примерах, мониторинг запросов) не оценивались.
Схема признаков: тип, диапазон, изменяемость, стоимость
Sxema har bir belgi uchun turi, oralig‘i, o‘zgaruvchanligi, yo‘nalishi va narxini belgilaydi. Tekshiruvchi har nomzodni shu sxema bo‘yicha tekshiradi va sabablarini qaytaradi.
05
Данные, источники и воспроизведение
Откуда данные, какие файлы и хэши, как повторить числа одной командой?
Генератор синтетических транзакций
Набор nir-synth-transactions, версия генератора synth-tx-1. Метка — намерение z разыгрывается первой, все признаки — при условии z; поэтому правка признаков не меняет метку: изменённая мошенническая транзакция остаётся мошеннической по построению данных.
Файлы и хэши
Команды
PYTHONUTF8=1 <python> scripts/research/multimodal/train_tabular.pynode scripts/research/multimodal/run-tabular.mjsnode --test tests/mm-tabular.test.mjs
Литература (метаданные сверены 19.11.2026)
- Simonetto T., Dyrmishi S., Ghamizi S., Cordy M., Le Traon Y. A Unified Framework for Adversarial Attack and Defense in Constrained Feature Space // IJCAI 2022. P. 1313–1319. DOI 10.24963/ijcai.2022/183. ijcai.org — ограничения в пространстве признаков, атака MoEvA2.
- Ben-Tov M., Deutch D., Frost N., Sharif M. CaFA: Cost-aware, Feasible Attacks With Database Constraints Against Neural Tabular Classifiers // IEEE S&P 2024. P. 1345–1364. DOI 10.1109/SP54263.2024.00218. arXiv:2501.10013 — ограничения, извлечённые из данных, атака TabPGD.
- Kireev K., Kulynych B., Troncoso C. Adversarial Robustness for Tabular Data through Cost and Utility Awareness // NDSS 2023. ndss-symposium.org — стоимость вместо незаметности как главное ограничение.
- Ballet V., Renard X., Aigrain J., Laugel T., Frossard P., Detyniecki M. Imperceptible Adversarial Attacks on Tabular Data // NeurIPS 2019 Workshop on Robust AI in Financial Services. arXiv:1911.03274 — почему «незаметность» для таблиц определяется иначе.
- Pierazzi F., Pendlebury F., Cortellazzi J., Cavallaro L. Intriguing Properties of Adversarial ML Attacks in the Problem Space // IEEE S&P 2020. DOI 10.1109/SP40000.2020.00073. arXiv:1911.02142 — атаки в пространстве реальных объектов, а не векторов признаков.
- Papernot N., McDaniel P., Goodfellow I. Transferability in Machine Learning: from Phenomena to Black-Box Attacks using Adversarial Samples. 2016. arXiv:1605.07277 — перенос между разными семействами моделей (в том числе деревьями и логистической регрессией).
Эти работы задают постановку; их числа не являются результатами этой лаборатории, и ни один метод из них здесь не воспроизводится.
06
Разбор по шагам и вопросы
Десять шагов демонстрации и ответы на вопросы, которые обычно задают об этой постановке.