Adversarial robustness of source code models

В рамках семинара мы обсудим две статьи, поднимающие проблемы применения нейросетевых моделей к коду. Как и в других областях, модели, обученные на исходном коде, по умолчанию не устойчивы к изменению входных данных. Добавление “мертвого“ кода или переименование переменных может легко изменить предсказания модели. Обучение устойчивых моделей является нетривиальной задачей, поскольку (1) пространство изменений программ дискретно и бесконечно, (2) код имеет более сложную структуру чем, например, изображения,