Бельгийские исследователи смогли обмануть нейросетевые алгоритмы с помощью распечатанного изображения на картонном листе.
Основой "обмана" является создание изображений, которые распознаются как объекты других классов. Как сообщает N+1, ученые из Левенского католического университета применили в качестве постороннего объекта универсальное изображение на картонном листе, которое стали передавать друг другу в кадре.
В качестве "живого" объекта камера выбирала только того, у кого в руках не было изображения.Уязвимость нейросетей была обнаружена в 2013 году и с тех пор стала активно изучаться исследователями, потому что ее можно применять для атак на беспилотные автомобили и системы видеонаблюдения.
Свежие комментарии