Что случилось
Экс-сотрудник Google Такер Брайант запустил ChatTJB — сервис, который внешне похож на обычный чат-бот с искусственным интеллектом, но работает без нейросети. Все сообщения пользователей читает сам Брайант, после чего вручную пишет и отправляет ответы.
Проект начали продвигать с помощью билбордов в Сан-Франциско. В рекламе ChatTJB называют «ведущим чат-бот-интерфейсом на базе ИИ». Однако мелким шрифтом указано, что в данном случае сокращение AI означает не artificial intelligence — «искусственный интеллект», а average individual — «среднестатистический человек».
ChatTJB намеренно уступает настоящим ИИ-сервисам в скорости и качестве работы. Ответ может прийти не сразу, а только тогда, когда создатель проекта увидит запрос и решит на него отреагировать. При этом Брайант не обещает, что информация будет точной: сервис может дать неправильный совет, ответить загадочно или, например, превратить объяснение в стих хайку. Функция генерации изображений тоже работает вручную — вместо картинки, созданной нейросетью, пользователь получает рисунок автора.
ChatTJB представляет собой сатирический арт-проект, а не попытку создать конкурента ChatGPT и другим ИИ-ассистентам. Его задача — обратить внимание на то, как интерфейс и манера общения чат-ботов влияют на восприятие информации. Пользователи привыкли к окну чата, анимации «размышления», быстро появляющемуся тексту и уверенно сформулированным ответам. Из-за этого даже ошибочная информация может казаться убедительной.
Брайант связывает проект с явлением, которое исследователи называют «когнитивной капитуляцией». Речь идет о ситуации, когда человек перестает самостоятельно оценивать полученный ответ и передает эту работу системе. По мнению автора ChatTJB, привычка получать быстрые и гладко сформулированные объяснения постепенно ослабляет критическое отношение к содержанию.
Неудобство сервиса является частью замысла. Медленные, странные и не всегда полезные ответы должны напомнить пользователю, что уверенный тон не гарантирует точности. Брайант рассчитывает, что после общения с ChatTJB люди будут внимательнее относиться и к ответам настоящих языковых моделей — особенно когда речь идет о налогах, здоровье, деньгах и других темах, где ошибка может иметь серьезные последствия.
Контекст и предпосылки
Люди склонны приписывать компьютерным собеседникам понимание и разум еще со времен ELIZA — программы 1966 года, которая имитировала разговор, перестраивая фразы пользователя. Это явление позднее получило название «эффект ELIZA».
Современные языковые модели намного сложнее, однако связный и уверенный ответ по-прежнему не гарантирует точности. Они могут выдавать правдоподобные, но ошибочные сведения. NIST (Национальный институт стандартов и технологий США) называет такие ответы конфабуляциями и предупреждает об «автоматизационном смещении» — склонности чрезмерно доверять информации, потому что ее предоставила компьютерная система.
В прошлом году сотрудниками Microsoft Research и Университета Карнеги — Меллона было проведено исследование о применении критического мышления при работе с ИИ. 319 специалистов, принявших участие в исследовании, поделились 936 примерами использования генеративного ИИ в своей работе. Чем сильнее участники были уверены в возможностях нейросети, тем реже они сообщали о критической проверке ее ответов. Среди причин исследователи отмечали нехватку времени, чрезмерную зависимость от системы и недостаток знаний для оценки результата.
Вероятные последствия
Успех идеи Такера Брайанта с его ChatTJB может вдохновить художников, разработчиков и активистов на похожие эксперименты. Они будут не столько конкурировать с нейросетями, сколько показывать их ограничения через юмор и намеренно неудобные интерфейсы. Такие проекты способны сделать сложные разговоры об ошибках ИИ понятнее массовой аудитории. Одновременно они могут усилить общественную дискуссию о том, где автоматизация действительно полезна, а где она снижает самостоятельность человека.