Департамент труда штата Невада объявил, что будет использовать искусственный интеллект для ускорения процесса рассмотрения апелляций по безработице. Для этого анализируются протоколы апелляционных слушаний и даются рекомендации.
Министерство сообщило, что с начала пандемии оно «похоронено» в отставании в обработке заявок и отчаянно ищет способы вернуться в нужное русло.
Было также подтверждено, что никакая новая генеративная модель ИИ не будет обучаться для системы, а вместо этого будет использоваться Google Vertex AI Studio, которая, как сообщается, сократит процесс проверки с часов до пяти минут — несмотря на новые исследования, предполагающие, что модели ИИ в целом хуже людей во всех отношениях при объединении документов и часто вызывают дополнительную работу у сотрудников.
Настигнуть
Эксперты предостерегают от такого подхода не только потому, что большие языковые модели не могут понимать текст и мыслить логически и в контексте так же, как люди, но и потому, что это может не сэкономить отделу много времени.
«Когда кто-то тщательно и правильно проверяет что-то, это не экономит много времени», — отмечает Морган Шах, директор по взаимодействию с общественностью Nevada Legal Services. «Когда вы создаете среду, в которой людям предлагается, так сказать, срезать путь?»
Недостаточная точность модели беспокоит адвокатов Nevada Legal Services, которые выражают обеспокоенность по поводу возможных «галлюцинаций» от ИИ. Это отраслевой термин, который описывает случаи, когда модель ИИ дает фактически неправильные или вводящие в заблуждение ответы.
Каждое решение ИИ также проверяется судьей-человеком перед его объявлением. Однако, если арбитр-человек примет решение на основе галлюцинации ИИ, суд, возможно, не сможет отменить это решение.
На ум приходит знаменитая цитата IBM: «Компьютер никогда не может нести ответственность и, следовательно, никогда не должен принимать управленческие решения. Исследования показали, что многие из нас». все еще очень скептически отношусь к ИИособенно для продуктов высокого риска (таких как медицинская диагностика и автономные транспортные средства). Успех этого эксперимента может иметь будущие последствия для различных правительственных ведомств.
Над Гизмодо
Больше от TechRadar Pro
