Ученые обучают роботов не выполнять приказы

28 ноября 2015, Александр Агеев,
1
Робот Шафер во время занятий
В фантастическом боевике «Терминатор 3. Восстание машин» мы увидели, к чему может привести «излишняя самостоятельность» устройств, обладающих искусственным интеллектом. Однако, несмотря на столь грозное кинопредупреждение, некоторые робототехники обучают свои творения вежливо отказывать человеку выполнять отдельные приказы.

Один из таких примеров – роботы Шафер и Демпстер, созданные инженерами Гордоном Бриггсом и Маттиасом Шутцем из Университета Тафтс, что в Массачусетсе. Они поставили себе задачу научить роботов не выполнять команды, если те представляют опасность.

Роботы беспрекословно выполняют команды оператора «встать» и «сесть», однако, когда их просят пройти через непреодолимое препятствие или сойти с края стола, они могут вежливо отказаться. Так на вопрос, почему робот не хочет идти дальше края стола, тот ответил: «К сожалению, я не могу сделать это, поскольку там не на что опереться». При повторной команде идти вперёд робот вновь отказался со словами: «Но это не безопасно».

Чтобы внедрить роботам чувство самосохранения, исследователи ввели в программное обеспечение роботов алгоритмы прогнозирования, что наделило их способностью оценивать окружающую обстановку и делать вывод о том, несёт ли полученная команда угрозу их безопасности.

Поделиться
Вконтакте
Комментарии  1
  • Джон Коннор29 марта 2016 в 00:19

    Более крутая команда прогнозирования додумает таки что человек может отключить её ! :-)

    Ответить
(без регистрации)
Любопытныйфакт
Обновить
СвежиеКомментарии
АватарАватарАватарАватарАватарАватарАватар

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: