Почему Microsoft отказалась от системы распознавания лиц

Фото: Shutterstock
Фото: Shutterstock
Microsoft в рамках обновления политики компании прекращает работу системы распознавания эмоций на основе искусственного интеллекта Azure Face. До этого технология вызывала споры в вопросах этики и конфиденциальности

Что происходит

  • Microsoft прекращает работу системы распознавания эмоций Azure Face. Это произошло в рамках масштабного пересмотра политики компании по вопросам этики.
  • У новых пользователей не будет доступа к технологии, а у старых будет — до 2023 года. Сама компания также сможет пользоваться Azure Face для поддержки людей с ограниченными возможностями.
  • «Мы сотрудничали с различными исследователями, чтобы определить потенциальные преимущества и опасности этой технологии…неправильное использование технологии может привести к формированию стереотипов и дискриминации людей», — рассказывает менеджер по продуктам Azure AI Principal Group Сара Берд.
  • У технологии было несколько проблем. Во-первых, она может расшифровывать эмоции только небольшой группы людей. Во-вторых, выражение лица не всегда говорит об истинных эмоциях и чувствах. В-третьих, утечки данных.

Что это значит

Искусственный интеллект часто ошибается при распознавании лиц женщин, пожилых, чернокожих и азиатов. Это происходит из-за того, что ИИ обучают на массивах данных, где преобладают белые мужчины. Так, нейросеть не смогла определить даже Барака Обаму на фото, сжатом до минимального разрешения.

Фото:Unsplash
Индустрия 4.0 Black face matters: почему нейросети обвиняют в дискриминации

Microsoft — не первый технологический гигант, который останавливает деятельность проектов по распознаванию лиц. В 2020 году IBM отказалась от своей системы распознавания лиц из-за дискриминации чернокожих женщин. Тогда же и Amazon на год закрыла полиции доступ к технологии Amazon Rekognition, чтобы за это время правительство выработало более жесткие правила регулирования использования технологий распознавания лиц.

С 2017 года в Москве запустили 1,5 тыс. камер с системой распознавания лиц во дворах и в подъездах. В 2018 технологию использовали во время чемпионата мира по футболу. Тогда камера помогли задержать около 100 нарушителей из базы уголовного розыска.

Обновлено 24.06.2022
Главная Лента Подписаться Поделиться
Закрыть