С тех пор как появилась наука, не затихают дискуссии о том, какие варианты нецелевого, опасного, немирного применения тех или иных технологий возможны. При этом научное сообщество никак не нацелено сеять панику: для этого нет оснований, ведь все в этом мире можно использовать не так, как задумано, — не только научные разработки, но даже ресурсы, подаренные природой. Вся цель обсуждения — изучить риски, понять, куда подстелить соломку, какие сдержки и противовесы установить.
Давайте попробуем посмотреть, что именно интересует ученых на сегодняшний день, какие проблемы каких передовых технологий они обсуждают, к решению каких потенциальных задач готовятся.
Искусственный интеллект и яды
Искусственный интеллект и технологии машинного обучения — ресурс с огромным потенциалом. Одной из возможных сфер его применения является фармакология. Ожидается, что мощные нейросети помогут с высокой точностью определять молекулы-кандидаты для создания эффективных препаратов. Лекарств от практически любого недуга. Лекарств для решения конкретных задач, обладающих точно известными свойствами — таргетных. Быстрота, с которой можно будет разрабатывать лекарственные средства, не сравнится с той, которую мы имеем сейчас, опираясь только на «человеческий разум».
Однако с такой же скоростью можно будет создать и яд, предупреждают авторы статьи, опубликованной в журнале Nature Machine Intelligence. Специалисты провели эксперимент, в котором пытались создать вредные вещества, используя систему машинного обучения, предназначенную для поиска нетоксичных соединений. В итоге, менее чем за шесть часов они сумели определить десятки тысяч опасных молекул, в том числе похожих по характеристикам на боевое отравляющее вещество VX.
Вакцины и вирусы
Еще одна научная работа о проблеме потенциального нецелевого использования посвящена современным вакцинам от COVID-19.
В статье ученые рассматривают и мРНК-, и векторные платформы. Обе платформы работают, заставляя клетки организма самостоятельно производить белки, идентичные белку вируса, на который требуется выработать иммунитет. При этом первая использует для этого матричную РНК («инструкцию по производству белка») напрямую, а вторая — упаковывает «инструкции» в «доставочные модули» на базе генетически-измененных вирусов, лишенных способности размножаться.
Первая технология вызывает мало опасений — при создании мРНК-вакцин нет работы с полным геномом вируса. Вторая же порождает чуть большую озабоченность. Так как векторная платформа подразумевает изменение генетического материала вируса-вектора, то технологию вполне можно использовать не только для ослабления патогена (как это и происходит при создании, например, «Спутника V» или вакцины от Johnson & Johnson), но и для его усиления. То есть для повышения вирулентности, вредоносности.
Стоит, однако, отметить, что и традиционные способы изготовления вакцин потенциально пригодны для нецелевого использования. Авторы статьи оценивают риск такого использования для «живых вакцин» (вакцин на базе живого, но ослабленного вируса) как «средне-высокий», так как попытки ослабить вирус могут привести к его нежелательным мутациям. Причем, достаточно непредсказуемым.
Доступная генная инженерия и патогенные биоагенты
Отмеченная Нобелевской премией по химии в 2020 году технология CRISPR/Сas9 до сих пор порождает вопросы по своей безопасности с точки зрения нецелевого использования. Инструмент, сделавший редактирование генома быстрым, понятным, дешевым и доступным большому числу лабораторий (даже не подготовленным), может справляться с любыми задачами — от лечения наследственных заболеваний до создания генно-модифицированных комаров, не способных переносить малярию.
Однако именно его многофункциональность и простота в применении и становится беспокоящим фактором: заполучив технологию, потенциальные злоумышленники могли бы перерабатывать природные нейротоксины или создавать новые виды инфекционных агентов (бактерий, вирусов), изменяя уже существующие.
Синтетическая биология и новые виды
Синтетической биологией называют разработку принципиально новых видов органических соединений (энзимов, генетических последовательностей, клеток) и даже полноценных организмов «с нуля». ДНК таких организмов могут иметь нуклеиновые основания, не встречающиеся в природе.
Использоваться «синтетики» могут, к примеру, для производства тех или иных химикатов. Например, можно будет создать группу клеток, способную выделять заданные вещества — так, дрожжи уже «научили» синтезировать лекарство под названием носкапин.
Также технологию можно использовать для построения вычислительных устройств на базе биологических структур, имитирующих аналогичные в электронных микросхемах.
Угрозы, создаваемые отраслью, в целом, настолько же велики, насколько огромен и потенциал. При этом наибольшие опасения вызывают возможности использования технологии для создания биологического или химического оружия.
Впрочем, надо отметить, что синтетическая биология сложнее в освоении и применении, чем CRISPR/Cas9 или классические технологии генной инженерии.
Медицинская робототехника и ее немедицинское применение
В отличие от генной инженерии или синтетической биологии, потенциально пригодной для нанесения массового урона обществу, роботизированные биомедицинские приспособления не кажутся такой уж угрозой, однако списывать их со счетов не стоит.
К примеру, как пишут исследователи в статье для журнала Swiss Medical Weekly, автоматизировнные экзоскелеты, способные «поставить на ноги» людей с проблемами опорно-двигательного аппарата, или дающие сиделкам, работающим с тяжело больными пациентами, экономить силы, могут быть применены в армии или для обмундирования незаконных военных формирований, банд. Приспособления повысят продуктивность бойцов, снизят их уставаемость, позволят им свободнее передвигаться по пересеченной местности — дадут преимущество в бою. Такие же угрозы несут «умные протезы» и вживляемые нейрочипы для улучшения зрения или слуха или для уменьшения чувствительности (обычно используются для терапии болевых синдромов).
С другой стороны, «умные» импланты, часто поддерживающие жизнь людей (к примеру, помпы для введения лекарств, кардиостимуляторы), могут стать мишенью для хакеров. Злоумышленники могут использовать уязвимости устройств, чтобы нанести урон как конкретному человеку, так и всем пользователям того или иного продукта.
Нанотехнологии и военное дело
В широком смысле слова, нанотехнологиями называют научную область, занимающуюся разработкой новых неорганических материалов путем манипуляции частицами размером от 1 до 100 нанометра. Учитывая, что инновационные материалы с уникальными характеристиками могут создаваться как угодно, кем угодно и с какими угодно целями, то и опасное для общества использование нанотехнологий исключать нельзя.
Один из вариантов нежелательного использования — в военных целях. Например, для разработки материалов для вооружения, амуниции, материалов, ускоряющих заживление ран, отравляющих веществ или даже для проектирования нано-роботов, которые теоретически могли бы использоваться для поражения противника. Нерегулируемое, неконтролируемое или вовсе «подпольное» использование таких инноваций привело бы к неравенству сил, пишут исследователи вопроса.
Нейронауки и управление сознанием
На сегодняшний день медицина достаточно хорошо справляется с большинством соматических (или иначе, телесных) заболеваний, однако психические и, даже в большей степени, неврологические заболевания все еще поддаются лечению плохо.
Поэтому изучение работы нервной системы в целом и мозга в частности ведется очень активно, ученые разрабатывают как технологии «распознавания» того, что находится у людей «в голове», так и предлагают решения, как там что починить. Это особенно актуально в связи со старением населения и увеличением числа тех, кто нуждается в терапии болезни Альцгеймера и болезни Паркисона. Ученые подсчитали, что количество инновационных решений для облегчения жизни людей с деменцией утраивается каждые пять лет.
Проблема также в том, что большинство из этих приспособлений можно использовать и для военных целей — к примеру, интерфейсы, позволяющие управлять девайсами с помощью «силы мысли» (нервного импульса), отлично подойдут для работы с вооружением. А окситоцин, исследуемый в качестве лекарства от паркинсонизма, может применяться и для повышения мотивации воевать. Технологии фМРТ, позволяющие измерить активность определенных участков мозга, могут использоваться для получения информации о человеке, которую он давать не хотел бы — например, данные о своих страхах (вызывающие страх факторы провоцируют отклик в определенных сегментах мозга, который можно детектировать с помощью аппаратуры).
Как противостоять нецелевому использованию технологий
Рассматриваются разные варианты противодействия угрозам нецелевого, опасного применения технологий. Оптимального пути пока, к сожалению, не выработано, но, в целом, на сегодняшний день научное сообщество предлагает подумать о следующем:
- О приоритизации информационной безопасности научных данных (надежное хранение любой потенциально опасной информации — например, геномов вредоносных вирусов или формул опасных химических соединений — необходимо).
- О непубликации в открытом доступе некоторых научных исследований (или частей исследований), имеющих повышенный потенциал для нецелевого использования (например, в военных или террористических целях).
- О повышении осведомленности ученых о проблемах и рисках технологий двойного назначения, об уделении повышенного внимания вопросам взаимосвязи этики и науки в ходе образовательного процесса.
- Об усилении международного сотрудничества по надзору за безопасным применением передовых разработок.
- О формировании всеобъемлющего законодательного регулирования вопроса как в конкретных странах и регионах, так и в глобальном пространстве.
- О поддержании публичного дискурса и информационной прозрачности (потребители должны понимать основы безопасного применения технологий, общественная дискуссия желательна).