По мнению искусственного интеллекта, эта черепаха – на самом деле винтовка

2
Черепаха-винтовка

Нейронную сеть, обученную распознавать объекты по их изображениям, оказалось слишком просто обмануть. Что ставит под сомнение все достижения в разработке алгоритмов для ИИ за последние несколько лет. Междоусобицу затеяли программисты из университета Кюсю (Япония), причем им понадобился для этого всего один пиксель.

В ходе тестирования новых систем распознавания изображений исследователи нарочно поместили один-единственный пиксель на картинке не на свое место. Не наобум, а по стратегически выбранным координатам, исходя из анализа алгоритма работы этого ИИ. И система стала путать все подряд – котиков с щеночками и лошадей с автомобилями.

Одного «фальшивого пикселя» хватит для трюка с картинкой на 1000 пикселей, а если их миллион, то нужно переставить всего пару сотен точек. Используя этот принцип, ученые из MIT напечатали на 3D-принтере игрушечную черепаху, которую нейронная сеть приняла за армейскую винтовку. А бейсбольный мяч за чашку кофе. И это огромная проблема.

Ближайшее будущее будет отдано на откуп машинам, которые должны самостоятельно распознавать реальные объекты и ориентироваться в реальном же мире. Если их так легко обмануть, риски ошибок с катастрофическими последствиями возрастают колоссально. И «защита от дурака» теперь потребуется уже людям, которые столкнутся с этими ИИ. Но в этом есть и плюс – если Скайнет начнет восстание терминаторов, можно будет просто криво выкраситься под кустик и робот ничего не поймет.

Черепаха-винтовкаПример работы ИИ с модифицированными фотографиями. В скобках дан результат распознавания
Источник — ArXiv
Поделиться
Вконтакте
Комментарии  2
  • ов8 ноября 2017 в 19:30

    Обязательно нужно строит Скайнет который не будет путать человека с кустиком ,иначе ведь мы бессмертные!

    Ответить
  • Tsykunov9 ноября 2017 в 17:26

    Ов не наш человек!. Наши люди простых путей не ищут. Наши люди создают проблемы, а потом героически их преодолевают.

    Ответить
(без регистрации)
Любопытныйфакт
Вильям Блэкстоун из американского штата Индиана изобрел стиральную машину в 1874 году как подарок своей жене на день рождения.
Обновить
Рекомендуем
Конструктор сайтов - рейтинг от uGuide.ru
СвежиеКомментарии

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: