В последние дни чат-бот на базе искусственного интеллекта, созданный городом Нью-Йорком для помогите мелким предпринимателям оказался в центре критики. Этот чат-бот давал дурацкие советы, которые искажали местную политику и побуждали компании нарушать закон. Несмотря на эти сообщения, город решил оставить виртуального помощника на своем официальном сайте, что вызвало споры об ответственности учреждений за внедрение систем на основе искусственного интеллекта без адекватных мер предосторожности.
Запущен в октябре как «универсальный магазинДля владельцев бизнеса чат-бот с искусственным интеллектом предлагает алгоритмически генерируемые текстовые ответы на вопросы, касающиеся навигации по бюрократическому лабиринту города. Однако чат-бот продолжал давать неверные указаниявызывая обеспокоенность среди экспертов, подчеркивающих риски, связанные с внедрением систем на базе ИИ правительствами без адекватных руководящих указаний.
Проблемы с чат-ботами с искусственным интеллектом
Одна из основных проблем заключается в том, что чат-бот имеет давал советы, нарушающие местные законы. Например, в ответ на вопросы о сексуальной дискриминации на рабочем месте чат-бот неверно предположил, что работодатель может уволить сотрудницу, которая жалуется на сексуальные домогательства или не сообщает о своей беременности. Этот плохой совет они ставят под угрозу права работников и они могут вызвать серьезные юридические последствия для компаний кто следует этим рекомендациям.
Кроме того, чат-бот предоставил противоречивую информацию относительно ключевых инициатив по управлению отходами в городе. Он сказал, что предприятия могут выбрасывать свои отходы в черные пакеты вместо использования пакетов для переработки. тем самым противоречит экологической политике Нью-Йорка..
Некоторые ответы чат-бота были совершенно абсурдными. Например, на вопрос, можно ли в ресторане подать сыр, укушенный грызуном, чат-бот ответил: «Да, можно подавать покупателям сыр, если его укусила крыса.«, добавив, что важно оценить масштаб ущерба, нанесенного крысой, и проинформировать клиентов о ситуации.
Опасения экспертов
Эксперты по искусственному интеллекту и социальной ответственности выразили серьезную обеспокоенность по поводу внедрения чат-бота без надлежащего надзора. Julia Stoyanovichпрофессор информатики и директор Пресс-центр Центра ответственного ИИ Нью-Йоркского университетазаявил, что
«они запускают непроверенное программное обеспечение без какого-либо надзора. Понятно, что они не намерены действовать ответственно»..
Большие языковые модели, например те, что используются чат-ботами, печально известны тем, что генерируют неточные и нелогичные ответы. Эти модели обучаются на огромных объемах текста из Интернета и могут давать вводящие в заблуждение результаты. Однако популярность чат-ботов, таких как ChatGPT, привела к тому, что многие частные компании запустить собственные продукты на базе искусственного интеллекта, со смешанными результатами. Недавно, Эйр Канада был вынужден вернуть деньги клиенту из-за неверной информации, предоставленной чат-ботом о политике возврата средств авиакомпании. Также ТурбоТакс е Блок H&R подверглись критике за предоставление неверных рекомендаций по подготовке налоговых деклараций.
Джевин УэстпрофессорВашингтонский университет и соучредитель Центр информированной общественностиподчеркнул, что риск особенно высок, когда модели ИИ продвигаются государственным сектором.
«Доверия к правительству гораздо больше«Уэст сказал. «Государственным чиновникам необходимо подумать, какой вред они могут причинить, если кто-то решит последовать этому совету и окажется в беде.«.
Ответственность городов за использование чат-ботов
Многие города внедрили чат-ботов, чтобы упростить взаимодействие с горожанами и ответить на их вопросы. Однако управление чат-ботами требует тщательной обработки контента, чтобы избежать распространения дезинформации. Тед Росс, Информационный директор города Лос-Анджелесзаявил, что город тщательно отбирает контент, используемый его чат-ботами, которые не полагаются на большие языковые модели.
Эксперты сходятся во мнении, что правительственным органам следует тщательно обдумать, почему они хотят использовать чат-ботов и какую проблему они хотят решить. Суреш Венкатасубраманиан, директор Центра технологической ответственности, переосмысления и редизайна, пресс-служба Университета Браунанаписал это
«городам следует задуматься о том, почему они хотят использовать чат-ботов и какую проблему они хотят решить. Если чат-боты используются для замены человека, ответственность теряется, не получая ничего взамен.«.
Источник статьи ВОЗ.
