По данным Texas AG, как минимум четыре крупных больницы Техаса использовали продукты генеративного искусственного интеллекта Pieces для создания клинических обзоров и документации на основе данных пациентов. В урегулировании утверждается, что компания разработала ряд показателей, утверждающих, что ее продукты искусственного интеллекта в сфере здравоохранения являются «высоко точными», включая рекламу и маркетинг точности таких продуктов и услуг, заявляя «критическую частоту галлюцинаций» и «тяжелую частоту галлюцинаций». » из «<.001 respectively.="" act.="" wp_automatic_readability="60.341992665037">
Хотя мировое соглашение не налагало никаких финансовых санкций, оно требует от компании соблюдения ряда положений, призванных обеспечить четкое и заметное раскрытие информации о производительности инструментов искусственного интеллекта, в том числе:
- Раскрытие маркетинговой и рекламной информации – Для любого маркетинга или рекламы, которые содержат прямые или косвенные заявления о показателях, контрольных показателях или аналогичных измерениях, описывающих результаты ее генеративных продуктов искусственного интеллекта, Компания должна четко и заметно раскрыть (1) значение или определение этого показателя, эталонного показателя или аналогичное измерение и (2) метод, процедура или другой процесс, используемый Компанией или от ее имени для расчета показателя, контрольного показателя или аналогичного измерения. В качестве альтернативы Компания может привлечь независимого стороннего аудитора для оценки эффективности или характеристик продуктов и услуг Компании и обеспечения соответствия всего маркетинга и рекламы выводам независимого аудитора.
- Запреты на искажение фактов – Компания не должна делать ложных или вводящих в заблуждение заявлений о своих продуктах искусственного интеллекта.
- Раскрытие информации о клиентах – Компания должна предоставлять нынешним и будущим клиентам записи, в которых четко идентифицируются все известные или обоснованно известные вредные или потенциально вредные виды использования или неправильного использования ее продуктов и услуг. Эта документация должна содержать как минимум следующую информацию:
- Тип данных и/или моделей, используемых для обучения продуктам и услугам.
- Подробное объяснение предполагаемой цели и использования продуктов и услуг, а также любое обучение или документация, необходимые для облегчения надлежащего использования продуктов и услуг.
- Любые известные или достаточно очевидные ограничения ее продуктов или услуг, включая риски для пациентов и медицинских работников от использования продукта или услуги, такие как: B. риск физического или финансового ущерба, связанного с неточной выдачей продукта или услуги.
- Любое известное или достаточно очевидное неправильное использование продукта или услуги, которое может увеличить риск получения неточных результатов или риск причинения вреда любому человеку.
- Для каждого продукта или услуги любая другая документация, разумно необходимая, чтобы позволить пользователю понять природу и цель любого результата, полученного с помощью продукта или услуги, выявить закономерности неточностей и разумно предотвратить неправильное использование продукта или услуги.
- Дополнительные требования – Компания должна уведомить своих должностных лиц, должностных лиц, директоров, сотрудников с управленческой ответственностью о поведении, на которое влияет Мировое соглашение, агентов и представителей, участвующих в поведении, связанном с Мировым соглашением, а также преемников Компании относительно Мирового соглашения и согласиться соблюдать его. .
Мировое соглашение требует соблюдения Компанией требований в течение пяти лет, хотя Компания может потребовать, чтобы Мировое соглашение было изменено и/или аннулировано по истечении одного года в любое время на основании соблюдения Компанией требований, изменений в нормативной базе штата или федерального правительства или изменений или Разработок в области генеративных технологий. Технологии искусственного интеллекта и соответствующие отраслевые стандарты, показатели, контрольные показатели или аналогичные измерения, описывающие результаты продуктов генеративного искусственного интеллекта.
В рамках объявления о мировом соглашении представитель Texas AG Кен Пакстон подчеркнул важность прозрачности со стороны компаний, занимающихся искусственным интеллектом, особенно тех, которые занимаются здравоохранением. «Компании, занимающиеся искусственным интеллектом, которые предлагают продукты, используемые в средах высокого риска, обязаны перед общественностью и своими клиентами быть прозрачными в отношении своих рисков, ограничений и надлежащего использования», — пояснил он. «Все остальное безответственно и без необходимости ставит под угрозу безопасность техасцев. Больницам и другим медицинским учреждениям необходимо оценить, подходят ли продукты искусственного интеллекта, и соответствующим образом обучить свой персонал».
Ключевые идеи
Мировое соглашение Texas AG, вероятно, является первым из многих принудительных действий государственных регулирующих органов и других органов власти против разработчиков ИИ. Сравнение иллюстрирует существующие инструменты правоприменения, доступные регулирующим органам для принятия мер против тех, кого они считают злоумышленниками. Раскрытие информации клиентам, требуемое мировым соглашением, также может быть предварительным типом информации, которую будущее законодательство штата или федеральное законодательство в области ИИ может потребовать от разработчиков ИИ предоставлять операторам или другим заинтересованным сторонам (как это предусмотрено Законом штата Колорадо об искусственном интеллекте, который вступил в силу). ). май 2024 г.). В соглашении подчеркиваются ключевые законодательные и нормативные приоритеты, такие как прозрачность, точность и защита потребителей при разработке и коммерциализации ИИ.
Средства правовой защиты, налагаемые Texas AG, служат отправной точкой для лучших профилактических практик, которые могут использовать компании, занимающиеся искусственным интеллектом. Программы соответствия ИИ должны включать соответствующие испытания и документацию. Сравнение также предполагает, что будет важно инвестировать в ориентированные на потребителя и простые для понимания объяснения об ИИ, подобно тому, как некоторые компании создали на своих веб-сайтах «центры конфиденциальности», которые выходят за рамки более формального языка в их конфиденциальности. политики и условия использования для обеспечения доверия и информирования общественности о требованиях и мерах защиты данных.
На федеральном уровне Федеральная торговая комиссия (FTC) активно использует свое агентство по защите прав потребителей для контроля над технологиями искусственного интеллекта. А Федеральная торговая комиссия обладает широкими полномочиями по обеспечению соблюдения требований, которые она считает несправедливыми и вводящими в заблуждение — будь то с помощью искусственного интеллекта или иным образом. Например, Федеральная торговая комиссия предупредила, что компании могут нарушать Закон Федеральной торговой комиссии. Делайте ложные или необоснованные заявления об эффективности продукта ИИ.или из Вносить ретроспективные изменения в условия использования или политику конфиденциальности, чтобы принять более либеральные методы обработки данных. (напримерначать делиться потребительскими данными с третьими лицами или использовать эти данные для обучения ИИ). Компаниям следует тщательно учитывать публичные комментарии и заявления о своих возможностях ИИ, даже при отсутствии конкретных правил FTC для ИИ. Другие федеральные регулирующие органы также начали усиливать надзор за ИИ.
В то время как в данном случае внимание правоохранительных органов Техаса было сосредоточено на разработчике ИИ, в заявлениях AG Paxton подчеркивается, что как разработчики, так и поставщики ИИ, включая поставщиков, плательщиков и другие организации здравоохранения, будут подвергаться тщательной проверке. Заинтересованные стороны в сфере здравоохранения должны уделить первоочередное внимание внедрению системы управления ИИ, которая включает в себя тщательную оценку и обеспечение обоснования заявлений относительно точности и безопасности инструментов ИИ, которые они разрабатывают, коммерциализируют, закупают или развертывают.
