Как и многие другие, в настоящее время я очарован — и немного напуган — стремительным развитием ИИ. Хотя кажется, что эту технологию можно использовать с пользой, некоторые ее применения меня беспокоят. Веб-сайты заменили людей-писателей склонными к ошибкам роботами, Голливуд отказывается защищать свой творческий талант от технологий, а игры, созданные искусственным интеллектом, такие как Лето подняли предупреждающие знаки относительно плагиата ботов. Однако за последние несколько месяцев меня больше всего беспокоило существование терапии ИИ.
В настоящее время существует несколько сервисов, которые каким-то образом автоматизируют терапию. Вобот — это «автоматизированный диалоговый агент», позиционируемый как персональный инструмент психического здоровья. Пользователи могут ежедневно регистрироваться, чтобы вести короткие беседы с чат-ботом, который отправляет советы по здоровому образу жизни и видео. Виса, с другой стороны, связывает пользователей как с психологом-человеком, так и с тренером по искусственному интеллекту, чтобы помочь им обработать свои эмоции. Учитывая, насколько традиционная терапия зависит от связи с реальным человеком, идея ее автоматизации кажется рецептом катастрофы.
Есть причина, по которой я особенно очарован всем этим. Это из-за небольшого визуального романа под названием Элиза. Выпущенная в 2019 году инди-жемчужина незаметно предсказала тревожный набег ИИ на психическое здоровье. Это отличная поучительная история о сложностях автоматизации человеческих связей — история, из которой технологические предприниматели могут многому научиться.
Добро пожаловать в Элизу
Это установлено в Сиэтле Элиза следует за персонажем по имени Эвелин Ишино-Обри, который начинает работать в новой технологической компании, основанной вымышленной мегакорпорацией, похожей на Apple, под названием Skandha. Компания разработала виртуальное консультационное приложение под названием Eliza, которое предлагает пользователям сеансы терапии с использованием ИИ по относительно доступной цене.
Однако Элиза — не просто безликий чат-бот. Чтобы сохранить человеческий фактор в терапии лицом к лицу, приложение использует людей-прокси, которые сидят лицом к лицу с клиентами и читают ответы, сгенерированные ботом, в режиме реального времени. Skandha утверждает, что методология основана на науке, поэтому прокси запрещено каким-либо образом отклоняться от сценария. Они существуют только для того, чтобы придать осязаемое лицо совету, который выдает машина.
Игра сопротивляется желанию представить эту идею как чрезмерно антиутопическую концепцию. Вместо этого он выбирает основанный на реализме тон, не отличающийся от Спайк Джонз Ее. Это позволяет задавать серьезные и сложные вопросы об автоматизации человеческого взаимодействия, которые опережали свое время. Пятичасовая история ставит под сомнение, представляет ли такое приложение ИИ чистую выгоду, которая делает что-то столь дорогое, как терапия, более доступной, или это просто эксплуататорское бизнес-решение крупных технологических корпораций, которые обменивают человеческое взаимодействие на легкую прибыль.
Игроки исследуют эти вопросы Элизасистемы визуальных новелл. Взаимодействие здесь минимально, так как игроки просто выбирают варианты диалога для Эвелин. Тем не менее, это оказывает большое влияние на их сеансы. По мере развития сюжета Эвелин встречается с несколькими постоянными клиентами, подписавшимися на услугу. Некоторые просто там, чтобы монолог о драме в их жизни, где на карту поставлено немногое, другие приходят на службу с более серьезными проблемами. Независимо от того, насколько серьезна индивидуальная ситуация, Элиза выплевывает Эвелин один и тот же плоский сценарий, задавая несколько вопросов, которые повторяются на протяжении всего сеанса, и прописывая дыхательные упражнения и лекарства.
Чем больше Эвелин вкладывает в жизнь своих клиентов, тем больше она осознает ограничения технологий. Некоторые советы Элизы не являются универсальным решением для всех проблем, и все больше и больше клиентов обращаются за реальной помощью к реальному человеку. У игроков есть выбор отклониться от сценария и позволить Эвелин взять дело в свои руки, что имеет серьезные последствия как для ее работы, так и для благополучия ее клиентов.
Это не всегда правильный ответ. В то время как некоторые из ее советов дают клиентам необходимую им помощь, другие закручиваются еще дальше. Ее слова могут быть искажены самым неожиданным образом, и безопасный алгоритм Элизы предназначен для защиты от этого. Безопаснее придерживаться стерильного сценария или хотя бы попытаться установить настоящую связь? И приносит ли такая технология в итоге больше вреда, чем пользы, или наоборот?
Элиза не отвечает на эти вопросы, оставляя игроков думать об этом. Это вдумчивое исследование современных технологий, которое стало еще более актуальным с учетом появления таких сервисов, как Wysa, которые опасно близки к вымышленной технологии игры. Независимо от того, являетесь ли вы сторонником инструментов искусственного интеллекта, таких как ChatGPT, или решительно против, Элиза предоставит вдумчивый, предостерегающий рассказ об ограничениях машин и людей.
Элиза доступна для ПК и Nintendo Switch.
Рекомендации редактора
