Я стал врачом, потому что знал, что здравоохранение должно быть лучше, чем то, что испытывала моя семья, когда мы боролись за лучший уход за моим отцом, когда я был ребенком. Этот опыт побудил меня работать над тем, чтобы каждый мог получить доступ к медицинской помощи, предоставляемой с достоинством и уважением.

Как глава Google по вопросам справедливости в отношении здоровья, я своими глазами вижу, как технологии искусственного интеллекта могут выявлять и устранять существующие предубеждения в здравоохранении и способствовать обеспечению справедливости в здравоохранении. Но если эти инновации не будут реализованы ответственно, они также рискуют усугубить неравенство. Чтобы этого не произошло, мы определили четыре способа интегрировать справедливость в отношении здоровья в нашу работу и смело и ответственно продвигать искусственный интеллект, чтобы помочь людям вести более здоровый образ жизни.

Принятие фундаментальных подходов к исследованию акций

Чтобы отразить опыт исторически маргинализированных людей и сообществ, мы сначала интегрируем основополагающие подходы к обеспечению справедливости в отношении здоровья, такие как совместные исследования на уровне сообществ (CBPR) — в наших методах проектирования и оценки. Не менее важно понимать социальный контекст наших пользователей ценят культурные, исторические и экономические обстоятельства, которые помогают нам создавать решения, которые лучше подходят всем. Примером нашего многолетнего опыта создания моделей искусственного интеллекта, которые являются более справедливыми для разных продуктов, является работа, которую мы проделали с использованием искусственного интеллекта, чтобы увидеть больше оттенков кожи, что помогло нам создать камеру, которая подойдет каждому. Чтобы сделать это правильно, требуется намерение, но ошибка может легко привести к распространению несправедливой предвзятости.

Отдавайте приоритет разнообразному представлению в данных

Исторически сложилось так, что в клинических исследованиях наблюдалось отсутствие разнообразия, что исключало исторически маргинализированные группы людей из важной вехи в медицине, когда дело доходит до поиска новых способов предотвращения, обнаружения или лечения заболевания. Вот почему мы стремимся сделать наш процесс сбора и обработки данных инклюзивным и справедливым и глубоко думаем о процессе разработки и оценки модели, в котором мы учитываем, какие данные входят в большую языковую модель и как оцениваем ее производительность. Проблема сегодня в том, что не существует стандарта для разнообразного представления данных. Именно поэтому мы работаем в партнерстве с более широкое исследовательское сообщество в области искусственного интеллекта для выявления лучших практик. В частности, мы работаем над пониманием и лучшим лечением заболеваний с помощью геномного секвенирования, но карта, которую мы используем на протяжении десятилетий, представляет собой единую геномную последовательность и не отражает всю картину. разнообразие человечества. Сегодня мы работаем с Национальными институтами здравоохранения (NIH) и другими организациями над проектом «Пангеном», чтобы расширить наше представление о коде, который делает нас всех уникальными и разными. ТО первая версия Пангенома включает в себя 47 человек разного происхождения, и мы работаем с НИЗ, чтобы в следующем году достичь цели — собрать 100 человек с видеозаписью максимально высокого качества.

Учитывайте справедливость в отношении здоровья в реальных случаях использования

Историческое использование неполных и предвзятых данных может усугубить риск причинения вреда и предвзятости среди исторически маргинализированных групп населения. Чтобы исправить это, нам необходимо тщательно продумать, как система ИИ будет использоваться на практике. Основание оценки больших языковых моделей (LLM) на конкретных реальных случаях использования, которые можно использовать для отражения опыта маргинализированных групп населения, является важной частью уменьшения этих проблем и, мы надеемся, повышения равенства. В Google мы работаем над повышением справедливости, снижением риска предвзятости и движением к справедливости, продолжая при этом улучшать эффективность нашей модели. Некоторые из этих работ, отмеченные в Статья о природеописывает, как мы применяем эти подходы к нашим LLM Мед-ПаЛМ в медицинской сфере.

Содействие инклюзивному сотрудничеству

Место, где человек живет, работает или ходит в школу, может повлиять на его здоровье. Чтобы создавать полезные генеративные модели ИИ, нам необходимо уметь распознавать и понимать эти социальные факторы. Достижение этой цели зависит от нашего сотрудничества с экспертами из разных областей, таких как социальные и поведенческие науки, политика или образование. В сотрудничестве с Команда Google по искусственному интеллекту и их Программа круглых столов по справедливым исследованиям в области искусственного интеллекта (EARR)мы можем использовать междисциплинарный подход к пониманию воздействия ИИ на исторически маргинализированные сообщества и применять эти знания в нашей работе.

Наша работа на стыке ИИ и справедливости в отношении здоровья — это постоянный путь, который, как мы понимаем, требует ответственности и подотчетности. Мы должны намеренно сосредоточить эти усилия на маргинализированных группах населения, чтобы разработать решения, которые сделают здравоохранение более справедливым и исправят исторические предубеждения. Эта работа требует времени и намерения. Наша цель – не действовать быстро, а делать все хорошо; альтернатива — это не вариант.