Ученые обучают роботов не выполнять приказы

28 ноября 2015, ,
1
Робот Шафер во время занятий
В фантастическом боевике «Терминатор 3. Восстание машин» мы увидели, к чему может привести «излишняя самостоятельность» устройств, обладающих искусственным интеллектом. Однако, несмотря на столь грозное кинопредупреждение, некоторые робототехники обучают свои творения вежливо отказывать человеку выполнять отдельные приказы.

Один из таких примеров – роботы Шафер и Демпстер, созданные инженерами Гордоном Бриггсом и Маттиасом Шутцем из Университета Тафтс, что в Массачусетсе. Они поставили себе задачу научить роботов не выполнять команды, если те представляют опасность.

Роботы беспрекословно выполняют команды оператора «встать» и «сесть», однако, когда их просят пройти через непреодолимое препятствие или сойти с края стола, они могут вежливо отказаться. Так на вопрос, почему робот не хочет идти дальше края стола, тот ответил: «К сожалению, я не могу сделать это, поскольку там не на что опереться». При повторной команде идти вперёд робот вновь отказался со словами: «Но это не безопасно».

Чтобы внедрить роботам чувство самосохранения, исследователи ввели в программное обеспечение роботов алгоритмы прогнозирования, что наделило их способностью оценивать окружающую обстановку и делать вывод о том, несёт ли полученная команда угрозу их безопасности.

Поделиться
Вконтакте
ЧИТАЙТЕ ТАКЖЕ
Комментарии  1
  • Джон Коннор29 марта 2016 в 00:19

    Более крутая команда прогнозирования додумает таки что человек может отключить её ! :-)

    Ответить
(без регистрации)
Любопытныйфакт
Изначально коньки привязывались к обуви верёвками и ремнями. Привычные нам коньки с намертво прикреплёнными к подошве полозьями изобрёл Пётр I, находившийся в Голландии по корабельным делам и увлёкшийся катанием по льду.
Обновить
Советуем
Сантехника №1 - магазин сантехники
и мебели для ванной комнаты
СвежиеКомментарии

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: