Человек против ИИ, 27 мая 2022, 18:20

Ученые из США научили нейросеть угадывать расу пациента по рентгену

Читать в полной версии
Фото: Shutterstock
Американские ученые из MIT пытаются бороться с проблемой расизма искусственного интеллекта, используя нетривиальный инструмент — рентгеновские снимки грудной клетки

Что происходит

  • Исследователи из Массачусетского технологического института научили искусственный интеллект определять расу человека по рентгеновским снимкам.
  • Для этого ученые сначала доказали, что алгоритм может предсказывать расу несколькими методами и на основе разных данных.
  • Сначала модель ИИ научили определять расу на наборах данных рентгеновских снимков грудной клетки. После — на других частях тела: в ход пошли маммография, рентген шейного отдела позвоночника и КТ грудной клетки.
  • Ученые также предложили модели физические данные пациентов: габитус тела, плотность груди, заболевания, влияние стресса, и даже социальных предубеждений. Сравнив результаты предсказаний по двум данным, исследователи выяснили, что лучше всего модель определяет расу по рентгену грудной клетки.
  • На результаты модели не влияет цвет снимков органов. Алгоритм учитывает все данные на изображении.

Что это значит

Развитие искусственного интеллекта сопровождается этическими и правовыми вопросами. Известны случаи, когда ИИ вел себя неэтично и даже нарушал закон.

В США искусственный интеллект используют в судах, чтобы рассчитывать вероятность преступления. Проект ProPublica, который занимается журналистскими расследованиями, выяснил, что ИИ отмечал чернокожих обвиняемых как неисправимых преступников в два раза чаще, чем белых, не учитывая при этом другие обстоятельства.

Black face matters: почему нейросети обвиняют в дискриминации
Индустрия 4.0 

Чтобы разрешать правовые вопросы, связанные с нарушениями искусственным интеллектом законов, необходимо решить ряд проблем в законодательстве: дать определение роботу, понять, кто ответственен за правонарушения роботов и кому принадлежат права на интеллектуальную собственность, созданную ИИ.

Человек против ИИ Инклюзивность Искусственный интеллект Нейросети Цифровая медицина Новости Короче Регуляторы в инновациях
Главное