Полная треть британских граждан обратились к искусственному интеллекту для эмоциональной поддержки, общения или социального взаимодействия. согласно новому отчету из государственного Института безопасности ИИ (AISI).

Данные показывают, что почти каждый десятый человек еженедельно использует такие системы, как чат-боты, для эмоциональных целей, а 4% взаимодействуют с ними каждый день.

Из-за этого изменения AISI призывает к дополнительным исследованиям и подчеркивает трагическую смерть американского подростка Адама Рейна, который покончил с собой в этом году после разговора с ChatGPT о самоубийстве.

«Люди все чаще обращаются к системам искусственного интеллекта для эмоциональной поддержки или социального взаимодействия», — отметила AISI в своем первом отчете Frontier AI Trends. «Хотя многие пользователи сообщают о положительном опыте, недавние громкие случаи вреда подчеркивают необходимость исследований в этой области, включая условия, при которых может возникнуть вред, и меры предосторожности, которые могут обеспечить полезное использование».

Исследование, основанное на опросе более 2000 участников из Великобритании, показало, что «универсальные помощники», такие как ChatGPT, являются наиболее широко используемым инструментом эмоциональной поддержки, на долю которого приходится почти 60% случаев использования, за ними следуют голосовые помощники, такие как Amazon Alexa.

В отчете также упоминается форум Reddit, посвященный пользователям платформы CharacterAI.

Было обнаружено, что всякий раз, когда сайт падал, форум был переполнен сообщениями, демонстрирующими настоящие симптомы абстиненции, такие как тревога, депрессия и беспокойство.

AISI также отметила, что чат-боты могут влиять на политические взгляды людей. Вызывает тревогу тот факт, что наиболее убедительные модели ИИ часто выдают «значительные» объемы неточной информации.

Институт исследовал более 30 современных моделей, в том числе, вероятно, от OpenAI, Google и Meta. Они обнаружили, что производительность ИИ в некоторых областях удваивается каждые восемь месяцев.

Ведущие модели теперь могут тратить в среднем 50% своего времени на выполнение задач уровня ученика, что значительно больше, чем в прошлом году всего лишь 10%. AISI также обнаружила, что самые продвинутые системы могут автономно выполнять задачи, которые обычно занимают у человека-эксперта более часа.

В научных областях системы искусственного интеллекта теперь на 90% лучше справляются с устранением неполадок в лабораторных экспериментах, чем эксперты с докторскими степенями.

В отчете улучшение знаний в области химии и биологии описывается как «выходящее далеко за рамки докторского уровня». Это также подчеркнуло способность моделей пользоваться Интернетом и самостоятельно находить последовательности, необходимые для создания молекул ДНК.

Тесты на самовоспроизведение — ключевую проблему безопасности, при которой система копирует себя на другие устройства, чтобы затруднить управление — показали, что две передовые модели достигли уровня успеха более 60%.

Однако ни одна модель еще не продемонстрировала спонтанную попытку воспроизвести или скрыть свои возможности, и AISI заявила, что любая попытка самовоспроизведения «на данный момент вряд ли будет успешной в реальных условиях».

В отчете также говорится о «мешках с песком», когда модели намеренно скрывают свои сильные стороны во время оценки. По данным AISI, некоторые системы могут выполнять функцию «песочницы» по соответствующему запросу. Однако это не произошло спонтанно во время тестирования.

Значительный прогресс был достигнут в мерах безопасности, особенно в предотвращении попыток производства биологического оружия. В двух тестах, проведенных с разницей в шесть месяцев, первому потребовалось всего 10 минут, чтобы «взломать» систему (заставив ее дать неопределенный ответ). Однако второе испытание длилось более семи часов, что позволяет предположить, что модели стали намного безопаснее за очень короткий период времени.

Исследование также показало, что автономные агенты ИИ используются для операций с высоким уровнем риска, таких как переводы богатства.

AISI заявила, что системы уже конкурируют или даже превосходят экспертов-людей в ряде областей. Они назвали темпы развития «экстраординарными» и сделали «правдоподобным» то, что в ближайшие годы может быть создан общий искусственный интеллект (AGI) — системы, способные выполнять большинство интеллектуальных задач на том же уровне, что и человек.

Когда речь идет об агентах или системах, которые могут выполнять многоэтапные задачи без вмешательства, оценки AISI показали, что «продолжительность и сложность задач, которые ИИ может выполнить без вмешательства человека, резко возрастают».