Что такое нейрослоп, почему вреден и как распознать

Что такое нейрослоп

Нейрослоп (от англ. slop — «помои», «жижа») — это низкокачественный цифровой материал (текст, изображение, аудио или видео), созданный с помощью искусственного интеллекта с минимальным участием человека или без него, часто с пренебрежением к точности и смыслу [1]. Еще одно название — ИИ-слоп.

Термин подразумевает под собой аналогию с низкосортным кормом для скота: слоп производится быстро, дешево и в огромных количествах, чтобы «скармливать» невнимательной аудитории или алгоритмам [2].

Примерами нейрослопа могут служить [3]:

• Фейковые лайфхаки. Советы от ИИ-вставок в поисковиках, предлагающие, например, добавить клей в соус для пиццы, чтобы сыр не стекал.
• Псевдо-новости. Сайты, полностью наполненные статьями, переписанными чат-ботами, часто с фактическими ошибками или примерами галлюцинаций нейросетей.
• ИИ-книги на маркетплейсах. Сгенерированные руководства, инструкции или биографии, содержащие ложные сведения.

Социальная экономика Слоп и брейнрот: кто и сколько зарабатывает на мусорных видео в соцсетях

Кто такие слопперы

Слопперы — это люди, которые используют инструменты генеративного ИИ для массового производства контента. Их цели могут включать в себя заработок на внимании аудитории, получение рекламных доходов или продвижение определенных нарративов [4].

Чаще всего слопперами движет экономика внимания [5]. Они используют уязвимости алгоритмов рекомендаций. Исследование специалистов Стэнфордского университета показало, что слопперы до появления ИИ работали спамерами или мошенниками, которые перепрофилировали тактику под новые технологии [6].

Например, администраторы страниц, ранее публиковавшие чужие кулинарные рецепты, переключаются на публикацию сотен сгенерированных изображений идеальных кухонь или очень красивых блюд, чтобы набрать подписчиков и затем монетизировать трафик через переходы на заспамленные сайты [7].

Как появился ИИ-слоп

Термин «слоп» начал набирать популярность в 2022-2023 годах после выхода доступных генераторов изображений. Изначально он циркулировал на нишевых сайтах, где пользователи использовали сленг для описания наплыва низкопробного контента. Разработчик Саймон Уиллисон стал одним из тех, кто популяризировал этот термин [8].

Взрывной рост популярности нейрослопа связан с изменением рекомендаций в соцсетях. Слопперам достаточно создать изображение, которое алгоритм посчитает «вовлекающим», и оно попадет в ленты миллионов людей.

Социальная экономика Цифровое похмелье: почему мы устали от ИИ-контента

Вред ИИ-слопа

Нейрослоп несет реальные риски для потребления информации человечеством. Основные негативные последствия включают в себя:

1. Вытеснение человеческого творчества. Слопперы паразитируют на внимании аудитории, отнимая его у реальных художников и авторов. В исследовании, проведенном в 2024 году, выяснилось, что всего один пост с ИИ-изображением кухни набрал 40 млн просмотров и более 1,9 млн взаимодействий, попав в топ-20 самого просматриваемого контента одной из популярных соцсетей [9].
2. Дезинформация и мошенничество. Во время урагана Хелен в 2024 году вирусным стало фото девочки со щенком в лодке. Изображение оказалось нейрослопом, но его использовали для критики действий властей, вводя людей в заблуждение [10].
3. Эрозия доверия. Эксперты Оксфордского института интернета предупреждают о рисках «небрежной речи» ИИ — тонких неточностей, которые подаются уверенным тоном. Организация NewsGuard уже выявила более 1000 ненадежных новостных сайтов, созданных ИИ, которые работают практически без участия человека [11].
4. Снижение качества поиска. Когда поисковые системы выдают сгенерированные ответы вместо ссылок на проверенные источники, пользователи теряют доступ к качественной экспертизе.

Как отличить ИИ-слоп

Распознать качественный нейрослоп становится сложнее, но есть ряд признаков, которые выдают автоматическую генерацию. Чтобы соблюдать цифровую гигиену, руководствуйтесь следующими правилами [12]:

1. Проверьте подписи. Слопперы часто используют одинаковые подписи для тысяч постов. Если вы видите фразы вроде «Сделал это своими руками», «Это моя первая работа, оцените», «Никто меня не поздравил» (особенно под фото детей или пожилых людей) — это показатель слопа.
2. Изучите детали. ИИ все еще плохо справляется со сложной геометрией. В изображениях людей хуже всего получаются руки и ноги. На фоне можно заметить нелогичные детали на заднем плане или странные закорючки, которые только с виду похожи на буквы. Также важна текстура предметов или фигур: в ИИ-контенте она обычно слишком гладкая и отдает неестественным блеском.
3. Обратите внимание на логику. Гигантская птица или собирающий сложнейшую скульптуру из песка ребенок — типичные примеры нейрослопа, рассчитанного на вау-эффект.
4. Проверьте источник. Если страница называется общим термином, вроде «Любители природы» и была создана неделю назад, но при этом набрала тысячи подписчиков и публикует только идеальные фото пейзажей без указания автора или локации — скорее всего, это слоп-ферма.

Экономика образования Модели ИИ протестировали на распознавание бреда: результаты неутешительны

Частые вопросы

Можно ли подать жалобу на ИИ-слоп?

Да, большинство платформ обновляют свои правила. YouTube требует от авторов помечать синтетический реалистичный контент. Если автор не раскрыл использование ИИ в реалистичном видео, это может быть основанием для жалобы. Другие соцсети также планируют внедрять плашки «Сделано с использованием ИИ», хотя эксперты предупреждают, что обилие таких меток может привести к «баннерной слепоте», когда пользователи просто перестанут их замечать [13].

Как ИИ-слоп влияет на заработок специалистов?

Слопперы создают сайты-прокладки, которые перехватывают рекламный трафик. Это лишает доходов настоящие медиа и авторов. Например, издание Clarkesworld, публикующее научную фантастику, было вынуждено временно закрыть прием рукописей из-за потока сгенерированного ИИ спама [14].

Существуют ли технические средства защиты?

Компании разрабатывают инструменты для маркировки. Например, Google DeepMind представил технологию SynthID, которая встраивает невидимые водяные знаки в изображения, аудио и видео, созданные их моделями [15]. Однако единого стандарта для всего интернета пока не существует.

Главное об ИИ-слопе

• ИИ-слоп — это массовый, низкокачественный контент, созданный нейросетями для захвата внимания и монетизации, часто в ущерб смыслу и правде.
• Слопперы — это современные спамеры, использующие ИИ для быстрого наполнения страниц и сайтов ради рекламных доходов или перепродажи аккаунтов.
• Масштаб проблемы. Алгоритмы рекомендаций способствуют распространению слопа. Несвязанный с подписками контент может составлять почти четверть ленты пользователей.
• Вред. Слоп засоряет поиск, вытесняет работы живых авторов и может использоваться для дезинформации и мошенничества.
• Как распознать. Смотрите на неестественные детали и шаблонные эмоциональные подписи, а также проверяйте дату создания аккаунтов.