Microsoft запустила программу вознаграждений за обнаружение ошибок, предлагающую вознаграждение до 15 000 долларов США за обнаружение уязвимостей в системах искусственного интеллекта с целью повышения безопасности искусственного интеллекта посредством внешнего тестирования безопасности.
Первоначальный объем программы будет охватывать функции Bing на базе искусственного интеллекта, включая Bing Chat, Bing Image Creator и интеграцию Bing в Microsoft Edge, приложение Microsoft Start и Skype.
Компания рассказала об этой новой программе вознаграждений в презентации на конференции по безопасности BlueHat. Целью проекта является стимулирование исследователей безопасности находить ошибки и недостатки в продуктах Microsoft для искусственного интеллекта, прежде чем злоумышленники смогут ими воспользоваться.
Microsoft заявляет в объявление:
«Как рассказали в нашем Обзор года баунти в блоге В прошлом месяце мы постоянно растем, совершенствуем и развиваем наши программы вознаграждений, чтобы помочь клиентам Microsoft оставаться на шаг впереди в постоянно меняющейся среде безопасности и новых технологиях».
Программа вознаграждений Microsoft расширяется и включает в себя искусственный интеллект
Новая программа вознаграждений Microsoft является расширением существующей программы, в рамках которой исследователям было выделено более 13 миллионов долларов. Это произошло после того, как компания недавно обновила рейтинги серьезности уязвимостей для систем искусственного интеллекта и провела исследование безопасности искусственного интеллекта.
По данным баунти-программы условияПодходящие уязвимости должны соответствовать пороговым значениям критичности Microsoft, о них ранее не сообщалось и включать четкие и воспроизводимые действия.
Представленные материалы будут оцениваться по технической серьезности, а также по качеству отчета.
Минимальная выплата вознаграждения составляет 2000 долларов США за уязвимость средней степени серьезности и варьируется от 15 000 долларов США за критические уязвимости. По усмотрению Microsoft возможны более высокие вознаграждения за проблемы, оказывающие существенное влияние на клиентов.
Как принять участие
Исследователи, заинтересованные в участии, могут сообщать об уязвимостях через Центр реагирования Microsoft Security Response Center. портал.
Microsoft рекомендует проводить этическую охоту за головами с использованием тестовых учетных записей, избегая при этом раскрытия данных клиентов или отказа в обслуживании.
Объем программы ограничен техническими уязвимостями в Bing на базе искусственного интеллекта. Некоторые действия запрещены, например доступ к данным, которые вам не принадлежат, использование проблем на стороне сервера помимо демонстрации концепции и запуск автоматических тестов, генерирующих большой объем трафика.
В итоге
Программа Microsoft по вознаграждению за ошибки в области искусственного интеллекта сигнализирует о более широком фокусе отрасли на выявлении и ответственном раскрытии уязвимостей в системах искусственного интеллекта до того, как ими можно будет воспользоваться.
Хотя вознаграждения ограничены функциями искусственного интеллекта Bing, они могут расшириться позже, когда Microsoft наращивает и обеспечивает дополнительные возможности искусственного интеллекта.
Рекомендованное изображение: Андрей Яланский/Shutterstock
