Об авторе: Анастасия Михур, редактор PR-агентства Rassvet.digital.
Генеративный искусственный интеллект (ИИ) способен написать текст на любую тему быстрее и дешевле, чем живой специалист. Это удобно — можно выпускать неограниченное число публикаций в медиа, соцсетях или корпоративном блоге с минимальными затратами. Почти 80% российских компаний, которые используют нейросети в маркетинге, применяют их именно для создания контента. Но в погоне за скоростью и количеством легко потерять в качестве.
Нейросети порой производят дезинформацию, и ее не всегда выявляют и исправляют на этапе согласования текста. Некоторые ошибки ИИ тиражируются, так как разные медиа и бизнесы часто берут информацию для своих материалов из открытых источников без дополнительной проверки. Одна и та же цифра или цитата может долго кочевать из статьи в статью.
В итоге компании принимают решения на базе ненастоящих данных, специалисты учатся на выдуманных кейсах вместо реального опыта практиков, а создатели контента теряют доверие аудитории, если неточность все же замечают. Чтобы избежать подобного, необходимо уметь распознавать нейросетевые тексты.
Где врет нейросеть
- Нейросети могут выдавать ложные факты и быть при этом крайне убедительными. Они придумывают несуществующие кейсы, вольно ведут себя с источниками, фантазируют. Расхождения часто кроются в небольших деталях, которые сложно увидеть невооруженным глазом.
Например, ИИ знает, что хороший текст должен опираться на данные. Цифры внушают доверие и создают иллюзию научности. Однако для нейросети неважно, насколько они реальные. Потому в сгенерированных текстах встречается статистика, которую невозможно найти ни в одном поисковике.
- Нейросети неразборчивы в источниках. Без четких инструкций на уровне промпта они могут в своих ответах ссылаться как на авторитетное аналитическое агентство или крупное СМИ, так и на сомнительные порталы с информацией неизвестного происхождения. И не все авторы, которые используют ИИ для сбора фактуры, переходят по ссылкам и проверяют адекватность указанного сайта.
- Нейросети жонглируют информацией. В некоторых случаях ИИ может взять реальные данные из надежного источника, но интерпретировать их с неточностями — добавить более красивую цифру в описании результатов кейса или допустить ошибку в дате исследования. А порой нейросети не стесняются притянуть за уши ложные выводы, чтобы сделать свой текст более складным или угодить вашему запросу.
Как узнать ИИ «по почерку»
ИИ-текст, как правило, выдает специфический стиль. Один из его признаков — путаница в понятиях. Нейросеть может заменить одно из слов в устоявшемся выражении на близкое по смыслу или позаимствовать терминологию из сферы, не относящейся напрямую к теме.
«Раньше маркетинговые отделы чаще строились по линейной модели».
«Линейная модель» — реальный термин из статистики. Но это не устоявшееся выражение для описания структуры команд. В этом контексте существует термин «линейная организационная структура», он был бы более корректным.
Сгенерированные статьи, вне зависимости от темы, очень похожи друг на друга по структуре и лексике. Часто они начинаются с описания тренда с помощью глаголов «перестает» и «становится».
«Одежда перестает быть просто внешним слоем и становится инструментом самовыражения».
«Нейросети уже перестали быть экспериментом. Они стали рабочим инструментом маркетинга».
Затем сразу или через пару предложений следует конструкция «смещается с… на» и ее вариации.
«Фокус смещается с функциональности на творческую составляющую».
«Ценность маркетолога смещается с навыков создания контента на умение правильно поставить задачу и получить нужный результат».
По ходу текста, скорее всего, можно будет встретить выражения со словом «отдельно» или «параллельно»: «отдельно стоит отметить», «параллельно растет роль» и т.д. А вывод в конце обязательно будет обрамлен вводными конструкциями вроде «в итоге» и «в результате».
Авторство ИИ можно заподозрить из-за особого ритма. Коронный прием ChatGPT — добавить после длинного предложения еще одно короткое, состоящее из трех определений. Композицию может дополнять предлог «без», который нейросеть тоже очень любит.
«Эти вещи подчеркивают характер за счет четкого кроя и выразительных деталей, помогая выглядеть так, как хочется, вне рамок и ожиданий. Дерзко, смело, без компромиссов».
Нейросеть злоупотребляет определенными синтаксическими конструкциями. Она может несколько раз за текст применить антитезы: «не…, а…», «нет… — только», «это не про…, а про» и тому подобные. Другая конструкция-паразит — «от… до».
«Линейная структура в менеджменте — это про вертикаль власти и подчинения (кто кому подчиняется), а не про последовательность этапов работы».
«В этих силуэтах нет попытки вписаться в ожидания — только желание говорить о себе честно».
«Каждый элемент работает на ощущение внутренней опоры — от посадки до фактуры ткани».
Популярно мнение, что кавычки-«елочки» используют только нейросети. Но здесь важен не тип кавычек, а уместность их применения. ИИ выделяет ими любые слова и выражения не в буквальном значении. Например, в фразе «начать с нуля» она, скорее всего, закавычит «с нуля». То же самое с просторечиями, причем нередко ИИ придумывает их сам.
«Его задача — не просто «делать маркетинг», а управлять системой».
Другой знак, который нравится ИИ, — это стрелка вправо при перечислении пунктов маркированного списка или при описании причины и следствия.
«Чем больше читаешь ИИ → тем больше пишешь как ИИ».
Сам по себе каждый из этих маркеров не означает, что текст написан нейросетью. Даже опытный журналист может пропустить пару штампов или допустить ошибку в термине. Более того, частое взаимодействие с нейросетями и обилие ИИ-текстов в медиа и соцсетях могут повлиять на то, как живые люди формулируют мысли и общаются между собой. Однако, если в материале присутствует сочетание нескольких признаков, стоит подвергнуть сомнению приведенную в нем информацию.
Что делать при подозрении на то, что текст сгенерирован нейросетью:
- Проанализировать стиль: найти штампы, свойственные ИИ-контенту. Можно воспользоваться одним из онлайн-инструментов — например, ZeroGPT или AI Detector Writer. Но они не всегда справляются на 100%.
- Обратить внимание на цифры — посмотреть, указаны ли в тексте их источники. Если нет, то попробовать найти их через любой поисковик.
- Пройти по ссылкам и убедиться, что использованы качественные источники, и в них есть данные, указанные в тексте.
Допустимо ли использовать ИИ для создания контента
Каждый человек и компания принимает это решение для себя. Некоторые крупные медиа делают ставку на нейросети. Например, немецкое издание Bild сократило порядка 200 сотрудников в пользу ИИ. Buzzfeed в 2023 году заявляли, что используют ChatGPT для создания персонализированного контента.
Однако подобные эксперименты не всегда приводят к желаемым результатам. Издание CNET свернуло проект по применению нейросетей, так как обнаружило ошибки более чем в половине сгенерированных статей.
Кто-то пытается вводить регламенты работы с ИИ — в Associated Press на официальном уровне закреплено, что весь контент должен быть создан человеком. Нейросети в издании можно использовать только для ограниченного числа задач. Сотрудникам The New York Times, например, позволяют редактировать тексты, генерировать идеи, анализировать данные и создавать SEO-заголовки с помощью ИИ. При этом сам текст должен быть написан и проверен человеком.
Вне зависимости от политики компании по отношению к искусственному интеллекту важно понимать и учитывать ограничения инструмента. Не стоит ожидать от нейросети многого, пока что она, скорее, похожа на старательного и невнимательного стажера, чем на опытного копирайтера. ИИ работает быстро и всегда готов помочь, но делает грубые ошибки и поспешные выводы. Так же, как и стажера, модель нужно обучать, и никто не гарантирует, что потраченное на это время окупится, а доведенный до совершенства промпт не перестанет приносить желаемый результат при следующем обновлении продукта.
Важно, чтобы у человека, который работает с ИИ, были сильные редакторские навыки. Необходимо уметь максимально подробно формулировать задачу для нейросети, включая то, из каких источников можно брать информацию. Нужно перепроверять факты, замечать галлюцинации и не доверять формулировкам только потому, что они звучат уверенно. И, конечно, тексты ИИ должны проходить через стилистическую редактуру.
Компаниям и медиа стоит учитывать, что аудитория постепенно учится видеть ИИ-тексты, и это влияет на их доверие к источнику. Согласно исследованию Nielsen, более чем 60% читателей способны распознавать сгенерированный контент, 55% чувствуют себя некомфортно на сайтах с большим количеством текстов от нейросети.
При этом запретить авторам использовать ИИ вряд ли возможно — не у каждой организации есть ресурсы, чтобы это контролировать. Потому в ближайшем будущем на рынке будут в цене редакторы, способные вычислять сгенерированные тексты, въедливо проверять источники и вычищать раздражающие аудиторию штампы и неестественные выражения.
➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.