Что происходит
- Исследователи из Массачусетского технологического института научили искусственный интеллект определять расу человека по рентгеновским снимкам.
- Для этого ученые сначала доказали, что алгоритм может предсказывать расу несколькими методами и на основе разных данных.
- Сначала модель ИИ научили определять расу на наборах данных рентгеновских снимков грудной клетки. После — на других частях тела: в ход пошли маммография, рентген шейного отдела позвоночника и КТ грудной клетки.
- Ученые также предложили модели физические данные пациентов: габитус тела, плотность груди, заболевания, влияние стресса, и даже социальных предубеждений. Сравнив результаты предсказаний по двум данным, исследователи выяснили, что лучше всего модель определяет расу по рентгену грудной клетки.
- На результаты модели не влияет цвет снимков органов. Алгоритм учитывает все данные на изображении.
Что это значит
Развитие искусственного интеллекта сопровождается этическими и правовыми вопросами. Известны случаи, когда ИИ вел себя неэтично и даже нарушал закон.
В США искусственный интеллект используют в судах, чтобы рассчитывать вероятность преступления. Проект ProPublica, который занимается журналистскими расследованиями, выяснил, что ИИ отмечал чернокожих обвиняемых как неисправимых преступников в два раза чаще, чем белых, не учитывая при этом другие обстоятельства.
Чтобы разрешать правовые вопросы, связанные с нарушениями искусственным интеллектом законов, необходимо решить ряд проблем в законодательстве: дать определение роботу, понять, кто ответственен за правонарушения роботов и кому принадлежат права на интеллектуальную собственность, созданную ИИ.