Искусственный интеллект придумал 40 000 новых видов биологического оружия всего за 6 часов

3
Биолаборатория

Сотрудники частной фармацевтической компании Collaborations Pharmaceuticals провели эксперимент, посвященный возможностям злоупотреблений при использовании искусственного интеллекта. Результат их шокировал – потребовалась всего пара команд, чтобы ИИ вместо создания лекарств начал составлять опасные биологические формулы. Некоторые из них оказались куда смертоноснее настоящего биологического и химического оружия.

Деталей крайне мало, участники эксперимента все засекретили и вообще жалеют о том, что решили рассказать о своей инициативе. С другой стороны, они вскрыли опасную уязвимость, на которую рано или поздно кто-нибудь натолкнулся бы. И лучше озадачиться мерами по предотвращению таких ситуаций при работе с ИИ уже сейчас, призывают исследователи.

Они использовали генеративную нейросеть MegaSyn, которая обучена выявлять токсичные молекулы и их комбинации, несущие опасность белкам в человеческом организме. Исследователи просто заменили цель в постановке задачи на противоположную, и вместо отбраковки опасных соединений ИИ стал их сохранять. Всего за 6 часов работы он создал внушительную коллекцию из 40 000 гипотетических ядов, а когда ему поручили подобрать аналог нервно-паралитического газа VX, ИИ без труда справился с этой задачей.

Ничего из того, что придумал ИИ, разумеется, не было создано в реальности. Однако это не так уж сложно при наличии оборудованной лаборатории. Эксперимент показал, насколько легко применять полезные технологии в негативных целях — и при этом не нужно быть истинным злодеем. ИИ просто выполнял свою работу, не рассуждая о последствиях, которые в реальности могут быть катастрофическими.

Источник — Nature Machine Intelligence
Поделиться
Вконтакте
ЧИТАЙТЕ ТАКЖЕ
Комментарии  3
  • Tsykunov28 марта 2022 в 07:20

    В это мире ВСЕ может быть оружием. Компьютер - это благо или зло?

    Ответить
  • Сергей30 марта 2022 в 15:35

    Предположу, в мире не должно быть секретов, всё должно быть публично и доступно.. в т.ч. персональные данные.

    Ответить
  • Гостьвчера в 12:36

    Казалось бы, причем тут ковид

    Ответить
(без регистрации)
Любопытный факт
Ни один человек не смог бы выжить при низком давлении Марса. Если бы вы попали на Марс без соответствующего скафандра, кислород у вас в крови буквально превратился бы в пузырьки, что привело бы к мгновенной смерти.
Обновить

ВойтиРегистрация
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: