Что происходит
- Microsoft прекращает работу системы распознавания эмоций Azure Face. Это произошло в рамках масштабного пересмотра политики компании по вопросам этики.
- У новых пользователей не будет доступа к технологии, а у старых будет — до 2023 года. Сама компания также сможет пользоваться Azure Face для поддержки людей с ограниченными возможностями.
- «Мы сотрудничали с различными исследователями, чтобы определить потенциальные преимущества и опасности этой технологии…неправильное использование технологии может привести к формированию стереотипов и дискриминации людей», — рассказывает менеджер по продуктам Azure AI Principal Group Сара Берд.
- У технологии было несколько проблем. Во-первых, она может расшифровывать эмоции только небольшой группы людей. Во-вторых, выражение лица не всегда говорит об истинных эмоциях и чувствах. В-третьих, утечки данных.
Что это значит
Искусственный интеллект часто ошибается при распознавании лиц женщин, пожилых, чернокожих и азиатов. Это происходит из-за того, что ИИ обучают на массивах данных, где преобладают белые мужчины. Так, нейросеть не смогла определить даже Барака Обаму на фото, сжатом до минимального разрешения.
Microsoft — не первый технологический гигант, который останавливает деятельность проектов по распознаванию лиц. В 2020 году IBM отказалась от своей системы распознавания лиц из-за дискриминации чернокожих женщин. Тогда же и Amazon на год закрыла полиции доступ к технологии Amazon Rekognition, чтобы за это время правительство выработало более жесткие правила регулирования использования технологий распознавания лиц.
С 2017 года в Москве запустили 1,5 тыс. камер с системой распознавания лиц во дворах и в подъездах. В 2018 технологию использовали во время чемпионата мира по футболу. Тогда камера помогли задержать около 100 нарушителей из базы уголовного розыска.