Adversarial-атаки на алгоритмы машинного обучения

Машинное обучение активно применяется во многих областях нашей жизни. Алгоритмы помогают распознавать знаки дорожного движения, фильтровать спам, распознавать лица наших друзей на Facebook, даже помогают торговать на фондовых биржах. Алгоритм принимает важные решения, поэтому необходимо быть уверенным, что его нельзя обмануть. Но в то же время алгоритмы машинного обучения уязвимы к попыткам манипуляции, с помощью т.н. Adversarial-атак. В рамках лекции 11 ноября представители компании Digital Security расск