Голосовые роботы: молчаливые защитники данных или потенциальная угроза

Что такое персональные данные

Не любые данные о человеке — это те самые персональные данные, сохранность которых защищается законодательством.

Например, просто номер телефона — это не персональные данные. Ведь я могу дать вам свой телефон, а зарегистрирован он может быть на мою маму. В данном случае та информация, которая позволила бы вас идентифицировать, хранится у мобильного оператора — он и отвечает за ее конфиденциальность. Конечно, случаются «сливы» баз, но в общем случае просто по номеру телефона о вас нельзя ничего узнать.

Точно так же имя, фамилия и даже отчество — это еще не персональные данные. Если вы Петрова Елена Ивановна, то в России людей с такими Ф.И.О. еще найдется не одна сотня. Нужна дополнительная информация, чтобы по имени можно было опознать конкретного человека.

А вот номер телефона вместе с именем и фамилией — это уже объект персональных данных. Такая «связка» охраняется законом 152-ФЗ.

Что требуется от компаний в области защиты персональных данных?

Есть два требования, которые должен выполнять бизнес в области персональных данных:

1. Получать согласие клиента на обработку.

2. Хранить данные на серверах в России.

Причем невыполнение второго правила карается строже первого. За хранение данных на иностранных серверах можно заплатить до ₽18 млн (при повторном нарушении). Санкция за отсутствие согласия на обработку персональных данных — от ₽30 тыс. до ₽500 тыс. Так что некоторые компании могут на свой страх и риск пренебречь той самой «галочкой», при нажатии на которую пользователь соглашается на обработку информации о себе.

Еще в законе прописана обязанность давать доступ к своей политике об обработке персональных данных, и законопослушные компании публикуют такой документ у себя на сайте либо в приложении. Хотя этим тоже кто-то может пренебречь, ведь штраф за нарушение минимальный — ₽30–60 тыс.

А что будет компании за утечку персональных данных? Тут закон звучит довольно размыто. Если смотреть на прецеденты, то «Яндекс.Еда» за нашумевший «слив» в сеть информации о клиентах получила по ч. 1 ст. 13.11 КоАП штраф ₽60 тыс. Это нижняя граница, максимально возможная санкция по этой статье — ₽100 тыс. После случая с «Яндексом» стали обсуждать, что ответственность должна расти пропорционально обороту компании и соотноситься с тем, какое количество данных было скомпрометировано. Но пока дальше разговоров в Минцифры дело не зашло.

Индустрия 4.0 Как власти и бизнес хотят монетизировать персональные данные россиян

Голосовые роботы и утечки данных. Есть ли прецеденты?

Найти такие случаи довольно сложно. Потому что голосовой робот — это на самом деле вполне надежный оператор ваших персональных данных. В некоторых смыслах он даже предпочтительнее человека.

Единственная такая история, которая приходит на ум, связана со Сбербанком и телефонными мошенниками. В Сети появилась история о том, как молодому человеку позвонил «младший сотрудник банка» и в процессе разговора с просьбой «подтвердить перевод» собеседник назвал точный остаток на счете парня. После долгих выяснений о том, как это возможно, выяснилось, что виноват робот, отвечающий при звонке на номер 900. Мошенники догадались, как его использовать: набирали номер, подменяя исходящий номер на телефон жертвы, — и в ответ робот предлагал сообщить остаток по карте. Он, конечно, просил номер карты — но можно было назвать случайный набор цифр. В ответ вежливый робот говорил, что такой карты нет, и предлагал озвучить остатки на существующих.

После публикации истории Сбербанк сообщил, что запустил проверку. Ситуация произошла в 2021 году, сейчас, по данным банка, уязвимость устранена. Но даже в этом случае вина робота была не в том, что он как-то не так использовал данные — просто не смог распознать, что используют его. Мог ли человек в такой ситуации справиться эффективнее? Может быть, если бы догадался, что собеседник не знает номер «своей» карты. С другой стороны, живого оператора вполне мог устроить ответ «я не помню номера всех карт, под рукой сейчас нет, продиктуйте все остатки» — и результат был бы тот же.

Как голосовой робот взаимодействует с данными

Голосовых роботов используют для проведения маркетинговых опросов, найма персонала, доставки важной информации, но чаще всего — в отделах продаж. Особенно актуально это стало после февраля 2022-го, когда традиционные каналы продвижения — контекст, соцсети — стали недоступны в России и компании обратились к старым добрым «холодным» звонкам. Но, так как технологии сегодня позволяют разработать робота и избавить многих сотрудников от рутинной работы, многие пошли именно по этому пути.

Бонусов тут много:

• отсутствие текучки кадров из-за выгорания;

• экономия ресурсов;

• возможность избежать ошибок, связанных с человеческим фактором. У клиента недавно была история, когда ему позвонили что-то продать, и на вопрос, какую компанию вы представляете, человек просто не смог ответить. Скорее всего, это был новичок, но робот так не ошибется, даже если это его первый звонок;

• процесс идет быстрее: можно быстро протестировать гипотезы, вывести на рынок новый продукт или укомплектовать команду за считаные дни;

• возможность освободить специалистов для решения более творческих задач.

При этом в отличие от простого робота-автоинформатора «умный» голосовой бот может ответить на интересующие клиента вопросы, а уже дальше при необходимости отправить к человеку. Так отсеиваются менее заинтересованные и время квалифицированных продажников не тратится зря.

Голосовые роботы в 2023 году полезны не только бизнесу, но и потребителю. Допустим, вы хотите купить квартиру в Нижнем Новгороде. Раньше вас бы нашла реклама в соцсетях, но теперь вы вынуждены сами просматривать сайты, сравнивать предложения. А представьте, что какая-то компания по продаже недвижимости сделала голосового робота, который сам вам позвонил и предложил ответить на распространенные вопросы, — какая это экономия времени! Это практически бесплатная консультация риелтора, выгодная всем сторонам.

Но те, кому поступают такие звонки, беспокоятся, откуда у робота их данные и что он сделает с информацией, которую узнает. На самом деле он не знает о собеседнике практически ничего и не узнает. И взломать его, чтобы использовать в мошеннических целях — как было в кейсе Сбербанка, — практически невозможно.

Индустрия 4.0 Сколько должны вам Google и «Яндекс» за ваши данные

Три причины, почему робот безопаснее человека

Попробую развеять основные страхи, связанные с информационной безопасностью в общении с искусственным интеллектом.

У робота есть персональные данные клиентов. Он может их «разгласить»?

У робота есть только список телефонов для прозвона. А это, как мы выяснили, не является персональными данными. Если у компании, создающей робота, есть CRM, то он интегрируется с системой уже на их стороне и оттуда «подтягивает» такую информацию, как имя, история контактов и так далее. То есть данные как были у компании, так и остались. У разработчика робота, как и у самого робота, ничего этого нет.

Точно так же после разговора: робот записывает всю полученную информацию в CRM. Если ее у компании нет, на стороне разработчика хранятся транскрибированные диалоги с клиентом, чтобы можно было их проанализировать и дообучить робота, если потребуется. Даже для отработки таких диалогов компания-разработчик подписывает NDA (соглашение о неразглашении). Но если у компании есть CRM, то и это все хранится там же, у разработчика не будет ничего.

Через вопросы к роботу мошенники смогут найти уязвимость и взломать его?

Это маловероятно. Просто потому, что робот обычно не знает, как его можно взломать. Роботы обучаемые, но их учат на конкретных скриптах. Они знают только фразы и ответы на вопросы, которые заложили разработчики вместе с клиентами.

В случае Сбербанка не предусмотрели, как выдача информации об остатке на карте может стать частью мошеннической схемы, и это стало уязвимостью робота. Но он все равно не был взломан. И у него нельзя было узнать никакой информации за гранью его функциональности.

А если речь о том, что можно взломать доступ к личному кабинету на стороне компании, здесь тоже не получится нанести серьезного вреда. Вся настройка робота ведется на стороне у разработчика, а клиенту его отдают в готовом виде. Функциональность личного кабинета — это поменять тариф. Так что даже при его взломе мошенники не смогут перезаписать фразы робота, чтобы он начал выманивать у людей деньги.

Персональные данные клиентов компании видят разработчики робота

Да, это так, и все эти люди подписывают NDA. В то же время разработчики робота — это несколько человек. А один робот может заменить call-центр из 50 специалистов. Все эти 50 сотрудников при работе вживую получали доступ к информации клиентов и тоже могли ее разгласить, несмотря на NDA.

Получается, что с точки зрения доступа сотрудников к данным в call-центре рисков даже больше. Тем более там нужно общаться с живым человеком и не каждый готов делиться чем-то личным. Это может мешать в работе с чувствительной информацией.

Например, результаты анализов на ВИЧ: их нельзя отправлять по e-mail, только сообщать лично — и это болезненно для тех, кто подозревает у себя позитивный статус. Только из-за этого люди могут отказываться проходить обследование. Голосовой робот — хорошая альтернатива. И здесь уже есть опыт применения: в 2021 году в Новгородском центре общественного здоровья и медицинской профилактики по рекомендации Минцифры мы разработали робота, который принимал входящие звонки и сообщал результаты тестирования на COVID-19.

Заботиться о защите персональных данных все равно стоит. В первую очередь — бизнесу, потому что потери здесь могут быть очень серьезными и затрагивать тысячи людей. Компаниям, которые используют информацию для обучения ИИ, следует хранить данные на российских серверах, приобрести хорошее антивирусное ПО, брать обязательное согласие пользователей на то, что будут делать с их данными. При этом самим получателям услуг тоже полезно следить за безопасностью. В остальном вряд ли голосовые роботы сейчас представляют больше опасности, чем люди; даже наоборот, с ними ваша информация может оказаться сохраннее.