Специальные цветные таблички делают человека почти невидимым для искусственного интеллекта

25 апреля 2019, Александр Агеев,
2
Система распознавания

Усилиями правительств многих государств повсеместно создаются системы отслеживания и идентификации граждан, что уже в скором времени может поставить крест на общественной анонимности. Поэтому неудивительно, что всегда находятся люди, которые изыскивают возможности обходить систему, по сути, тотальной слежки.

Группа инженеров из университета К. Ю. Левена (Бельгия) на прошлой неделе опубликовала статью о том, как с помощью простых печатных шаблонов можно обмануть систему ИИ, предназначенную для идентификации изображений.

К примеру, достаточно повесить на шею специально распечатанную табличку, и с точки зрения ИИ это будет равносильно использованию плаща-невидимки.

Это может показаться странным, но на самом деле речь идет о достаточно известном явлении в мире ИИ. Такие шаблоны носят название состязательных примеров, они используют недостатки интеллекта систем компьютерного зрения. В результате происходит визуальный обман и ИИ видит то, чего нет.

В прошлом состязательные системы использовались для обмана систем распознавания лиц, когда, надев очки, человек превращался для ИИ, к примеру, в Милу Йовович.

Одновременно многие исследователи предупреждают об опасности использования состязательных примеров. В частности, таким образом можно обмануть автомобиль-беспилотник, который может принять важный дорожный знак за обычный фонарный столб.

Источник — arXiv
Поделиться
Вконтакте
Комментарии  2
  • Тролль89лвл25 апреля 2019 в 15:17

    Ща работает, "завтра" перестанет, ИИ развиваются в отличии от человечества валяющегося на диванах...

    Ответить
    • Тролю троля898 мая 2019 в 20:08

      Послезавтра опять работает, всегда будет тот кто обманет того кто обманывает)

      Ответить
(без регистрации)
Любопытныйфакт
Вождение машины в нетрезвом состоянии сурово наказывается в большинстве стран мира. Но в Уругвае, напротив, при нарушении правил дорожного движения состояние опьянения может служить смягчающим обстоятельством.
Обновить
СвежиеКомментарии

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: