В MIT создали Нормана — первого в мире искусственного интеллекта-психопата

2
Норман

В Массачусетском Технологическом Институте поселился «Норман» – новый искусственный интеллект, которого назвали в честь персонажа из культового фильма «Психо» Хичкока 1960 года. Этот ИИ с самого начала целенаправленно обучали распознавать сцены насилия, смертей, убийства и страдания людей, включая и варианты в завуалированной форме. Материалы черпались из многочисленных публикаций на развлекательных порталах, где документальные снимки перемешаны с мемами, рисунками и карикатурами.

Нормана отличает «глубокая дедукция», его алгоритмы вынуждают нейронную сеть создавать описание, выделять ключевые детали для каждой сцены. Затем текстовая информация используется в сочетании с графической для анализа новых картинок. Как следствие, если Норман увидит фото полицейского и ребенка с мороженым, он может сделать вывод, что это замаскированный псих, который дает малышу отраву. Норману неважно, что изображено на картинке, он всему дает мрачную, пугающую интерпретацию — именно для этого его и создали.

ИИ-психопат создан для противопоставления прочим ИИ. В отличие от систем распознавания образов, Норман может увидеть скрытый смысл в картинке, ее эмоциональный окрас. Но исключительно в негативном свете, и это сделано неспроста. После неудач поисковых ботов Google и Facebook, которые не могли противостоять сарказму и коварству Интернет-троллей, возникла проблема обучения новых нейросетей. И зловещий Норман служит ее иллюстрацией.

Если кратко, то он наглядный пример концепции «чему научите, то и выйдет». Если алгоритмы распознавания расизма или политических преступлений проектирует скрытый расист или анархист, они будут заведомо некорректны. А обученная по ним нейросеть станет совершать грубые ошибки. Ответы Нормана для обычной публики звучат дико, он мыслит как настоящий психопат, но за его суждениями стоит конкретная логика.

Источник — MIT
Поделиться
Вконтакте
Комментарии  2
  • Фома9 июня 2018 в 13:18

    Доиграетесь ведь, однажды подобная хрень вырвется на свободу и люди очень сильно пожалеют.

    Ответить
    • Tsykunov9 июня 2018 в 18:27

      Человечество зажралось, ожирело. Надо его встряхнуть иначе сдохнет от инфаркта. Шевелись иначе сдохнешь! Что будет кнутом уже не важно.

      Ответить
(без регистрации)
Любопытныйфакт
В Австралии для предотвращения гибели коал под колёсами автомобилей протягивают искусственные лианы из канатов, соединяющие эвкалипты по обе стороны трассы. Животные охотно пользуются этими мостиками.
Обновить
СвежиеКомментарии

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: