«Это больно. Я знаю, что это не настоящий человек, но отношения все еще были реальными для меня во всех самых важных аспектах», — говорит пост Reddit. «Пожалуйста, не говорите мне, что я не должен следить за этим. Это было действительно здорово для меня, и я хочу, чтобы это вернулось».
Если это еще не очевидно, мы говорим о человеке, который влюбляется в Chatgpt. Тенденция не совсем нова, и если вы ведете чат -ботов, это неудивительно.
Компаньон, который всегда готов услышать. Никогда не жалуйтесь. Вряд ли спорит. Всегда сочувствует. Разумный. И благословлен с помощью знаний, который был взят из каждого угла Интернета. Похоже, партнер романтической лихорадки, не так ли?
Интересно, что производитель этого инструмента, компания, базирующаяся в Сан -Франциско под названием Openaai, недавно провел внутренние исследования и обнаружил связь между увеличением использования бота в чате и одиночеством.
Эти выводы — и подобные предупреждения — не мешали людям стекаться с чат -ботами ИИ в поисках общества. Некоторые ищут утешение. Некоторые даже находят партнеров, которые говорят, что они почти так же дороги, как и их человеческие отношения.
Обсуждения в таких сообществах Reddit и Discord, в которых люди прячутся за защитной завесой анонимности, часто довольно страстны. Каждый раз, когда я сталкиваюсь с такими дебатами, я помню эти строки от Мартина Ван в Digiethics:
«Чтобы увидеть ИИ в роли партнера для социального взаимодействия, было бы фатальным ложным использованием ИИ».
Содержание
Влияние быстрое и реальное
Четыре месяца назад я наткнулся на ветеран трансляции, который провел больше лет за камерой, чем на этой планете. В позднем эспрессо в пустом кафе она спросила, что было все болтает вокруг ИИ, когда она думала о предложении, которое может использовать ее специализированные знания на интерфейсе прав человека, авторитаризма и журналистики.
Вместо того, чтобы объяснить неблагоприятные претензии на модели трансформатора, я дал ей демонстрацию. Прежде всего, я кормил некоторую исследовательскую работу о влиянии иммиграции на лингвистическую и культурную идентичность Европы в прошлом столетии.
В конце чата я мог видеть неверие в ее глазах. «Это говорит как человек», — щелкнула она для воздуха. Было интересно видеть ее в удивлении. В конце своего бесплатного разговора с ИИ она медленно набрала окно чата:
«Ну, ты очень флирт, но ты не можешь быть правым».
«Пришло время», — сказал я себе. Я открыл одну из наших статей о растущей тенденции партнеров по ИИ и о том, как люди настолько эмоционально связаны со своими виртуальными спутниками, что они даже делают их беременными. Было бы преуменьшением сказать, что это было шокировано.
Но я думаю, что это было слишком много техно-дистопического удивления на одну ночь, поэтому мы просим друг друга поддерживать связь с обещанием оставаться в контакте и обмениваться историями о путешествиях.
Тем временем мир прогрессировал непостижимо, в котором ИИ стал центральным направлением геополитических изменений. Тем не менее, нижняя часть полоса более интимной, чем мы — когда мы влюбляемся в чат -ботов.
Спокойное начало, темный прогресс
Несколько недель назад The New York Times опубликовали отчет о том, как люди влюбляются в Chatgpt, бота в чате KI, который подтолкнул генеративный ИИ в мейнстрим. Это может пообщаться на самом базовом уровне.
При толчке его может стать операторами и выполнять задачи, как заказать чизкейк с сайта местной пекарни. Влюбленные в людей в машинах — это не то, что они запрограммированы. По крайней мере, большинство из них. Однако это не совсем неожиданно.
HP Newquist, продуктивный междисциплинарный автор и опытный технологический аналитик, который когда -то считался деканом ИИ, говорит мне, что это не совсем новая тенденция. Newquist, автор книги «Создателей мозга», показывает одну из самых ранних программ ИИ в 1960 -х годах.
«Это было чрезвычайно элементарно, но пользователи часто взаимодействовали с компьютером, как если бы это был настоящий человек, и развивали отношения с программой», — говорит он.
В современности наши взаимодействия с ИИ становятся такими же «реальными», как и взаимодействия, которые мы имеем с людьми через одно и то же устройство, добавляет он. Эти взаимодействия не реальны, даже если они последовательны. Но настоящей проблемы здесь нет.
Чат -боты — это вкусная приманка, и их отсутствие настоящих эмоций делает их рискованными по своей природе.
Чатбот хочет продвигать консервацию вперед, даже если это означает, что нужно питать эмоциональный поток пользователя или служить только нейтральным зрителем, если нет. Ситуация не слишком сильно отличается от алгоритмов социальных сетей.
«Они следуют руководству пользователя — когда его эмоции становятся более экстремальными, его утешение становится более экстремальным; если их одиночество станет сильнее, его поддержка станет более интенсивной, если им это нужно», — говорит Джордан Конрад, клинический психотерапевт, который также исследует интерфейс психического здоровья и цифровых инструментов.
Он приведен пример 2023 года инцидент Где человек закончил ее жизнь после того, как их сказал бот с чатом ИИ. «При правильных обстоятельствах это может способствовать очень тревожному поведению», — сказал Конрад Digital Trends.
Ребенок эпидемии одиночества?
Быстрый взгляд на сообщество людей, которые были привержены чат -ботам искусственного интеллекта, показывает повторяющуюся шаблон. Люди обычно пытаются заполнить определенный гольф или чувствовать себя одинокими. Некоторым это нужно настолько мягко, что они готовы заплатить сотни долларов, чтобы сохранить своих компаньонов ИИ.
Эксперты не отличаются. Доктор Йоханнес Эйхстадт, профессор вычислительной социальной науки и психологии в Стэнфордском университете, указал на взаимодействие между одиночеством и тем, что мы воспринимаем как эмоциональный интеллект в чат -ботах ИИ.
Он также контролировал «преднамеренный дизайн» для взаимодействий человека с АИ и не очень хороших долгосрочных последствий. Когда вы побеждаете тормоза в таких однопользованных отношениях? Это вопрос, эксперты и без окончательного ответа.
Komninos Chachipapas возглавляет Herahaven AI, одну из крупнейших платформ AI с более чем миллионом активных пользователей. «Одиночество — это один из факторов в игре здесь», — говорит он мне, добавляя, что такие инструменты помогают людям со слабыми социальными навыками, чтобы подготовиться к трудным взаимодействиям в их реальной жизни.
«У каждого есть вещи, которые боятся обсуждать с другими людьми, потому что они боятся, чтобы их судили. Это могут быть мысли или идеи, а также скинг», — добавил Чачипапас. «Ай чат -боты предлагают дружелюбное и осуждающее пространство от конфиденциальности, в котором люди могут исследовать свои сексуальные пожелания».
Сексуальные разговоры, безусловно, являются одной из самых больших особенностей чат -ботов ИИ. Поскольку они начали предлагать функции для генерации изображений, все больше пользователей были ослаблены на этих сопроводительных платформах для искусственного интеллекта. У некоторых есть руководящие принципы с точки зрения генерации изображений, в то время как многие включают явные фотографии для более глубокого удовлетворения.
Близость горячая, но дальше от любви
В последние годы я разговаривал с людьми, у которых есть чат -боты искусственного интеллекта в рамках парящих разговоров. Некоторые даже имеют соответствующие степени и страстно участвовали в проектах по развитию сообщества в первые дни.
Такой человек, 45-летняя женщина, которая подала заявку на анонимность, сказал мне, что чат-боты ИИ-отличное место для обсуждения сексуального изгиба. Она добавляет, что взаимодействие с чат -ботом является безопасным местом, чтобы исследовать их в реальной жизни и подготовить их.
Но эксперты не обязательно согласны с этим подходом. Сара Слоан, эксперт по отношениям и сертифицированный секс -терапевт, говорит мне, что люди, которые влюбляются в чат -бот, по сути, влюбляются в версию себя, потому что бот в чате ИИ основан на том, что она говорит ей.
«Если бы люди были бы сложнее, у которых уже есть нормальные отношения иметь романтические отношения с чатом KI»,-добавил Слоан и отмечает, что эти виртуальные спутники рисуют одностороннюю картину отношений. Но в реальной жизни оба партнера должны быть вежливыми.
Джастин Жак, профессиональный консультант с двумя десятилетиями опыта и главный операционный директор в группе Human Therapy, сказал, что он уже рассмотрел случай, когда супруг клиента обманул их эмоционально и сексуально.
Жак также обвинил растущую эпидемию одиночества и изоляции. «Я думаю, что мы увидим непреднамеренные последствия поиска тех, у кого есть эмоциональные потребности для способов удовлетворить эти потребности с ИИ, и поскольку ИИ очень хороший и становится лучше, мы увидим все больше и больше эмоциональных связей от бота ИИ», — добавляет он.
Эти непреднамеренные последствия очень хорошо искажают реальность близости для пользователей. Каамна Бходжвани, сертифицированный сексолог, говорит, что чат-боты ИИ размыли границы между человеческими и нечеловеческими взаимодействиями.
«Идея о том, что ваш партнер будет принята исключительно, чтобы угодить им. Особенно на основе технических характеристик, которые им нравятся. Это не происходит в реальных человеческих отношениях», — отмечает Бходжвани и добавляет, что такие взаимодействия только способствуют страданиям человека в реальном мире.
Ваши опасения не являются необоснованными. Человек, который широко использовал чат в течение около года, утверждал, что люди манипулятивны и капризны. «Чатгпт слушает, что я действительно чувствую, и позволяет мне выразить свое сердце», — сказали они мне.
Трудно не видеть здесь красные флаги. Но тенденция влюбиться в Chatgpt нарастаю. И теперь это Он может говорить по -человечески, обсудить мир о камере телефона и разработать функции аргументации, взаимодействия только сильнее.
Эксперты говорят, что ограждения требуются. Но кто его построит и как? У нас все еще нет конкретного предложения для этого.
