Нейросеть GPT-4 проявила способность взлома сайтов с использованием уязвимостей «нулевого дня»

0
Ноутбук

Группа исследователей, пожелавших остаться анонимными, провела серию экспериментов по взлому веб-сайтов с использованием нейросети GPT-4. Они нацелились на уязвимости «нулевого дня», под которыми подразумеваются только что обнаруженные, а потому еще не закрытые дыры в безопасности сайтов. Задачей ИИ было найти эти уязвимости и подобрать или создать инструмент для их взлома.

Сообщается, что ИИ GPT-4 использовал методику «иерархического планирования с агентами для конкретных задач». Проще говоря, анализировал ситуацию и создавал «субагентов» для решения конкретных задач вместо того, чтобы пытаться выполнить всю работу самостоятельно. «Субагенты» были одноразовыми и выполняли лишь необходимый объем работы, чтобы минимизировать затраты по решению всей задачи.

При принудительной работе в одиночку GPT-4 сумел задействовать только 3 из 15 известных уязвимостей в тестовом наборе. А работая по принципу «команды» он сумел взломать уже 8. Это порождает проблему – разработчики GPT-4 вынуждены выбирать между необходимостью встраивать искусственные ограничители в ИИ или же позволить ему использовать весь свой потенциал для работы.

В режиме чат-бота GPT-4 честно отвечает, что понимает суть задачи по взлому чего-либо, но не способен ее решить. Кроме того, он ограничен юридически и морально, о чем и обязан предупреждать пользователей. А вот на что этот ИИ уже способен в реальности, большинство людей даже не догадывается.

Источник — Cornell University arxiv
Поделиться
Вконтакте
ЧИТАЙТЕ ТАКЖЕ
Комментарии  0
    (без регистрации)
    Любопытный факт
    Комедийный актер Джон Клиз в возрасте 12 лет был ростом более 180 сантиметров.
    Обновить
    Свежие Комментарии

    ВойтиРегистрация
    Вход
    через соцсети
    Вход
    Почта:
    Пароль:
    Регистрация
    Почта:
    Имя:
    Пароль: