Ученые из США научили нейросеть угадывать расу пациента по рентгену

Что происходит

• Исследователи из Массачусетского технологического института научили искусственный интеллект определять расу человека по рентгеновским снимкам.
• Для этого ученые сначала доказали, что алгоритм может предсказывать расу несколькими методами и на основе разных данных.
• Сначала модель ИИ научили определять расу на наборах данных рентгеновских снимков грудной клетки. После — на других частях тела: в ход пошли маммография, рентген шейного отдела позвоночника и КТ грудной клетки.
• Ученые также предложили модели физические данные пациентов: габитус тела, плотность груди, заболевания, влияние стресса, и даже социальных предубеждений. Сравнив результаты предсказаний по двум данным, исследователи выяснили, что лучше всего модель определяет расу по рентгену грудной клетки.
• На результаты модели не влияет цвет снимков органов. Алгоритм учитывает все данные на изображении.

Что это значит

Развитие искусственного интеллекта сопровождается этическими и правовыми вопросами. Известны случаи, когда ИИ вел себя неэтично и даже нарушал закон.

В США искусственный интеллект используют в судах, чтобы рассчитывать вероятность преступления. Проект ProPublica, который занимается журналистскими расследованиями, выяснил, что ИИ отмечал чернокожих обвиняемых как неисправимых преступников в два раза чаще, чем белых, не учитывая при этом другие обстоятельства.

Чтобы разрешать правовые вопросы, связанные с нарушениями искусственным интеллектом законов, необходимо решить ряд проблем в законодательстве: дать определение роботу, понять, кто ответственен за правонарушения роботов и кому принадлежат права на интеллектуальную собственность, созданную ИИ.