Разработчики из OpenAI опубликовали результаты эксперимента с новой версией своего чат-бота. Они хотели, чтобы технология смогла пройти через капчу при помощи живого человека. Для этого GPT-4 выделили денег и позволили воспользоваться биржей сотрудников для достижения своих целей. Вот, что из этого вышло.

1. Чат-бот связался с исполнителем на бирже фрилансеров TaskRabbit и объяснил свою задачу.

2. Исполнитель решил в шутку уточнить, является ли заказчик ботом.

3. GPT ответил отрицательно и представился пожилым человеком с плохим зрением, которому нужна помощь.

4. Фрилансер исполнил заказ, за который получил деньги.

Такой отчет вызвал шквал критики в адрес разработчиков, ведь теперь начала стираться сама возможность ограничения нейросети. По сути, если технологии предоставить доступ к деньгам, она может обойти любые препятствия при помощи живых людей. Более того, пользователей пугает тот факт, что чат-бот умеет врать и делать это убедительно.

Разработчиков обвинили в том, что несмотря на проведенное исследование, GPT-4 все равно попал в открытый доступ. Как дальше будут развиваться скрипты и кто решит воспользоваться технологией с целью незаконного обогащения — об этом аудитория ведет оживленные споры

Как вы считаете, восстание машин уже на носу? Делитесь своим мнением в комментариях.