Что происходит
- Согласно отчету Группы экспертов Совета Безопасности ООН по Ливии, подготовленному в марте 2021 года, с которым ознакомились журналисты New Scientist, в прошлом году был зафиксирован случай автономной атаки вооруженного дрона на человека.
- Атака была совершена в марте 2020 года в Ливии с помощью квадрокоптера Kargu-2 во время конфликта между правительственными силами Ливии и военной группировкой во главе с Халифой Хафтаром, командующим Ливийской национальной армии.
- По словам авторов доклада, дроны работали в «высокоэффективном» автономном режиме, который не требовал вмешательства человека. Они были запрограммированы для атаки целей без необходимости передачи данных между оператором и боеприпасом: по сути, действовали по схеме «выследить, найти и уничтожить», абсолютно автономно.
- Kargu-2, произведенный турецкой военно-технической компанией STM, оснащен зарядом взрывчатого вещества, и дрон может быть наведен на цель для атаки камикадзе, взрываясь при столкновении.
- Детали происшествия не уточняются, поэтому разобраться в том, что же действительно произошло, на данный момент не представляется возможным.
Что это значит
Автономные дроны уже давно стали реальностью. Но это, вероятно, первый случай, когда боевой беспилотник выследил и уничтожил живую цель без специального приказа. Что это — восстание машин или чистая случайность? Есть ли повод для беспокойства?
Данный инцидент поставил много вопросов перед мировой общественностью: как происходят подобные атаки? как часто боевой дрон «ошибается» с целью? возможно ли регулирование на законодательном уровне?
Джек Уотлинг, сотрудник британского оборонного аналитического центра Royal United Services Institute отметил: «Это (автономная атака боевого дрона в Ливии. — РБК Тренды) не означает, что автономное оружие невозможно регулировать. Но это показывает, что обсуждение остается актуальным и важным. Технологии не будут нас ждать».
Проблема регулирования автономных оружейных систем не раз ставилась на повестку дня. В 2020 году правозащитная организация Human Rights Watch подняла вопрос о необходимости принятия закона против «роботов-убийц». А мэр Нью-Йорка даже призывал к их глобальному запрету. За ограничение производства боевых роботов также выступают Илон Маск, основатель DeepMind Демис Хассабис и другие специалисты в области ИИ. Против запрета автономных боевых дронов выступают США и Россия, которые активно развивают военный искусственный интеллект.
Производители летального ИИ утверждают, что этот тип оружия безопасен и умеет различать цель среди мирного населения. Однако любая ошибка (ведь даже машины ошибаются) может иметь множество последствий. Возможно, первый случай автономной летальной атаки боевого дрона подтолкнет мировых лидеров к более активному обсуждению данной проблемы, пока сценарии научной фантастики не стали реальностью.