Военный беспилотник впервые атаковал человека без специального приказа

Что происходит

• Согласно отчету Группы экспертов Совета Безопасности ООН по Ливии, подготовленному в марте 2021 года, с которым ознакомились журналисты New Scientist, в прошлом году был зафиксирован случай автономной атаки вооруженного дрона на человека.
• Атака была совершена в марте 2020 года в Ливии с помощью квадрокоптера Kargu-2 во время конфликта между правительственными силами Ливии и военной группировкой во главе с Халифой Хафтаром, командующим Ливийской национальной армии.
• По словам авторов доклада, дроны работали в «высокоэффективном» автономном режиме, который не требовал вмешательства человека. Они были запрограммированы для атаки целей без необходимости передачи данных между оператором и боеприпасом: по сути, действовали по схеме «выследить, найти и уничтожить», абсолютно автономно.
• Kargu-2, произведенный турецкой военно-технической компанией STM, оснащен зарядом взрывчатого вещества, и дрон может быть наведен на цель для атаки камикадзе, взрываясь при столкновении.
• Детали происшествия не уточняются, поэтому разобраться в том, что же действительно произошло, на данный момент не представляется возможным.

Что это значит

Автономные дроны уже давно стали реальностью. Но это, вероятно, первый случай, когда боевой беспилотник выследил и уничтожил живую цель без специального приказа. Что это — восстание машин или чистая случайность? Есть ли повод для беспокойства?

Данный инцидент поставил много вопросов перед мировой общественностью: как происходят подобные атаки? как часто боевой дрон «ошибается» с целью? возможно ли регулирование на законодательном уровне?

Джек Уотлинг, сотрудник британского оборонного аналитического центра Royal United Services Institute отметил: «Это (автономная атака боевого дрона в Ливии. — РБК Тренды) не означает, что автономное оружие невозможно регулировать. Но это показывает, что обсуждение остается актуальным и важным. Технологии не будут нас ждать».

Проблема регулирования автономных оружейных систем не раз ставилась на повестку дня. В 2020 году правозащитная организация Human Rights Watch подняла вопрос о необходимости принятия закона против «роботов-убийц». А мэр Нью-Йорка даже призывал к их глобальному запрету. За ограничение производства боевых роботов также выступают Илон Маск, основатель DeepMind Демис Хассабис и другие специалисты в области ИИ. Против запрета автономных боевых дронов выступают США и Россия, которые активно развивают военный искусственный интеллект.

Производители летального ИИ утверждают, что этот тип оружия безопасен и умеет различать цель среди мирного населения. Однако любая ошибка (ведь даже машины ошибаются) может иметь множество последствий. Возможно, первый случай автономной летальной атаки боевого дрона подтолкнет мировых лидеров к более активному обсуждению данной проблемы, пока сценарии научной фантастики не стали реальностью.