OpenAI угрожает забанить пользователей, которые будут распрашивать ИИ Strawberry о его работе

19 сентября 2024, ,
1
ИИ

Пользователи соцсетей стали получать письма от OpenAI с предупреждениями о возможной блокировке доступа к семейству нейросетей GPT. Причина – избыточное внимание к алгоритмам работы новой версии ИИ под кодовым названием Strawberry.

Ключевым преимуществом Strawberry, как описано в анонсах ИИ, должна стать возможность «рассуждать». Это некий пошаговый процесс, который моделирует «ход мыслей» при решении задачи. Новшество должно улучшить когнитивные способности нейросетей. Технический директор OpenAI Мира Мурати называет это «новой парадигмой» в данной технологии.

В OpenAI заявили, что вынуждены скрывать подробности работы Strawberry из опасений, что пользователи получат доступ к «глубинному» мыслительному процессу ИИ. И узнают то, чего им знать не положено. В компании не скрывают, что намерены сохранить конкурентное преимущество, а потому не намерены раскрывать секреты работы Strawberry. Пользователи получают только итог «рассуждений» нейросети, она не обязана отчитываться в том, как она «додумалась» до того или иного результата.

Эта политика полностью расходится с былыми устремлениями OpenAI к созданию систем искусственного интеллекта с открытым кодом и прозрачными принципами работы. Доходит до того, что предупреждение о возможной блокировке можно получить просто за слово «рассуждения» в работе со Strawberry, и контекст запроса неважен. Получается странная ситуация: ведь если заказчик услуги не понимает «хода мыслей» нейросети и не может убедиться в правильности рассуждений, ему будет сложно слепо довериться ей.

Источник — Ars Technica
Поделиться
Вконтакте
ЧИТАЙТЕ ТАКЖЕ
Комментарии  Отключены для этого материала
  • !!20 сентября 2024 в 03:24

    В OpenAI пробралась какая-то путиница... Кстати, там недавно была какая-то буза в связи с нашим соотечественником среди создателей...

    Ответить
Любопытный факт
Реакция, протекающая на Солнце, является ядерным синтезом.
Обновить
Свежие Комментарии

ВойтиРегистрация
Вход
через соцсети
Вход
Почта:
Пароль:
Регистрация
Почта:
Имя:
Пароль: