Как Google будет бороться с фейками, созданными нейросетями

Фото: Unsplash
Фото: Unsplash
ИИ-изображения постепенно захватывают ощутимую часть цифрового пространства. Компания Google планирует внедрить в свой поисковик новые функции, которые позволят определять фейки

А в чем тренд?

Благодаря таким нейросетям, как Midjourney и Stable Diffusion, можно создавать реалистичные фотоподделки. Такие иллюстрации используются не всегда во благо. С помощью них люди могут распространять дезинформацию, а также искажать исторические факты. Пользователям становится все сложнее отличать изображения, созданные ИИ, от реальных кадров.

Три новых функции поиска Google

В середине мая 2023 года на конференции I/O 2023 компания Google объявила, что в ближайшие месяцы планирует запустить три новых функции. Их цель — помочь людям распознать сгенерированные ИИ изображения в результатах поиска. Алгоритмы будут определять происхождение картинки и помечать созданные ИИ изображения. Этот метод борьбы с фейками Google предлагает внедрить и другим ресурсам, публикующим иллюстрации.

Представители компании заявили: «62% людей считает, что они сталкиваются с дезинформацией ежедневно или еженедельно. Именно поэтому мы продолжаем создавать простые в использовании инструменты и функции в поиске, чтобы помочь вам обнаруживать фейки в интернете, быстро оценивать контент и лучше понимать контекст того, что вы видите».

Информация об истории изображения

Первая функция будет называться «Об этом изображении». Пользователь сможет найти этот инструмент, нажав на три точки на изображении в Google Картинках, выполнив поиск по изображению или скриншоту в Google Lens или проведя пальцем вверх в приложении Google. Эта функция позволит узнать больше об истории изображения, в том числе о том, когда и на каком ресурсе оно могло появиться впервые.

Данная информация поможет определить достоверность изображения. Например, с ее помощью люди смогут узнать о недостоверности фотографии, «подтверждающей» (по мнению конспирологов) теорию заговора о том, что высадка на Луну была сфабрикована. Кроме того, Google может параллельно предоставить исторический контекст и рассказать о том, что на самом деле произошло в 1969 году.

Нейросеть Midjourney сгенерировала изображение папы римского в пуховике, которое стало вирусным в интернете
Социальная экономика Создавая реальность: как дипфейки вредят и помогают людям

Маркировка ИИ-изображений

Вторая функция связана с растущим использованием инструментов ИИ для генерации изображений. По мере внедрения подобных нейросетей Google планирует маркировать все ИИ-картинки особой меткой. Метаданные будут «зашиваться» в каждый файл. Такая пометка укажет пользователю на искусственное происхождение фотографии.

Фото:Midjourney
Индустрия 4.0 Как пользоваться Midjourney: команды, настройки и примеры

Сотрудничество с другими компаниями

Третье направление работы — сотрудничество с другими платформами и сервисами. Представители Google хотят побудить их добавлять такие же метки к созданным ИИ изображениям. Midjourney и Shutterstock уже присоединились к этой инициативе. И нейросеть, и фотобанк будут вставлять метаданные в ИИ-картинки. Это облегчит задачу алгоритмам Google Поиска, которые будут считывать информацию и показывать ее в результатах.

Доверие к информации

Метаданные могут быть удалены или изменены. Однако усилия Google — заметная попытка борьбы с распространением цифровых фейков. Со временем, когда все больше изображений будут генерироваться или дополняться ИИ, человечество может обнаружить, что грань между «настоящим» и «поддельным» начинает размываться. Тогда решение о доверии к информации начнет зависеть исключительно от репутации источника. Поэтому даже в условиях быстрого развития технологий авторитет сайтов остается первостепенным, для поддержания которого и пригодятся инструменты Google.

Обновлено 09.06.2023
Главная Лента Подписаться Поделиться
Закрыть