Искусственный интеллект придумал 40 000 новых видов биологического оружия всего за 6 часов

4
Биолаборатория

Сотрудники частной фармацевтической компании Collaborations Pharmaceuticals провели эксперимент, посвященный возможностям злоупотреблений при использовании искусственного интеллекта. Результат их шокировал – потребовалась всего пара команд, чтобы ИИ вместо создания лекарств начал составлять опасные биологические формулы. Некоторые из них оказались куда смертоноснее настоящего биологического и химического оружия.

Деталей крайне мало, участники эксперимента все засекретили и вообще жалеют о том, что решили рассказать о своей инициативе. С другой стороны, они вскрыли опасную уязвимость, на которую рано или поздно кто-нибудь натолкнулся бы. И лучше озадачиться мерами по предотвращению таких ситуаций при работе с ИИ уже сейчас, призывают исследователи.

Они использовали генеративную нейросеть MegaSyn, которая обучена выявлять токсичные молекулы и их комбинации, несущие опасность белкам в человеческом организме. Исследователи просто заменили цель в постановке задачи на противоположную, и вместо отбраковки опасных соединений ИИ стал их сохранять. Всего за 6 часов работы он создал внушительную коллекцию из 40 000 гипотетических ядов, а когда ему поручили подобрать аналог нервно-паралитического газа VX, ИИ без труда справился с этой задачей.

Ничего из того, что придумал ИИ, разумеется, не было создано в реальности. Однако это не так уж сложно при наличии оборудованной лаборатории. Эксперимент показал, насколько легко применять полезные технологии в негативных целях — и при этом не нужно быть истинным злодеем. ИИ просто выполнял свою работу, не рассуждая о последствиях, которые в реальности могут быть катастрофическими.

Источник — Nature Machine Intelligence
Поделиться
Вконтакте
ЧИТАЙТЕ ТАКЖЕ
Комментарии  4
  • Tsykunov28 марта 2022 в 07:20

    В это мире ВСЕ может быть оружием. Компьютер - это благо или зло?

    Ответить
  • Сергей30 марта 2022 в 15:35

    Предположу, в мире не должно быть секретов, всё должно быть публично и доступно.. в т.ч. персональные данные.

    Ответить
  • Гость24 мая 2022 в 12:36

    Казалось бы, причем тут ковид

    Ответить
  • Миша А-А11 февраля 2023 в 17:19

    Ну что же, теперь осталось дождаться креативных террористов.))

    Ответить
(без регистрации)
Любопытный факт
Без нынешней атмосферы, созданной парниковым эффектом, средняя температура на нашей планете была бы -15 градусов по Цельсию.
Обновить
Свежие Комментарии

ВойтиРегистрация
Вход
через соцсети
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: