RSS
Испoльзуя несколько цветных стикеров и дорожных знаков они смогли вызвать неадекватную реакцию беспилотника, запутав его системы. Это позволило исследователям определить, как автопилот воспринимает слегка видоизмененные картинки в значительной мере определяющие его поведение. Практически во всех случаях они спровоцировали неожиданные реакции системы.
Например, знак «Stop» с несколькими небольшими прямоугольными стикерами, не перекрывающими основное изображение, автопилот воспринял, как ограничение скоростного режима. Тот же знак «Stop» с двумя небольшими надписями над и под словом «Stop» и просто несколько затемненную картинку того же знака автопилот воспринял как сигнал для ограничения скорости.
Измененный с помощью серых стикеров знак «Движение только на право», автопилот воспринят как «Stop». Проводили ученые и другие эксперименты, которые продемонстрировали насколько легко можно повлиять на поведение автопилота с помощью самых простых вещей. В опытах не использовался автопилот какого-то конкретного производителя. Речь идет о алгоритмах, использующихся в системах автономного управления.
Источник: Motor
Категория: