«Дело не в том, что вы говорите. Важно то, как вы это говорите», — такой фразой описывают создатели приложения Grammarly свой сервис «индикатор тона» в разговоре с Guardian Australia. Grammarly — это корректор, исправляющий грамматические, орфографические и контекстные ошибки и выискивающий плагиат. Новая услуга по регулированию тона электронных писем работает с использованием искусственного интеллекта. Он сканирует сообщения и оценивает их как «уверенное», «оптимистичное», «обеспокоенное» или «скептичное». Создатели утверждают, что сервис распознает 40 интонаций.
На первый взгляд, услуга выглядит полезной, ведь часто бывает, что, написав сообщение в приступе гнева и отправив его, мы тут же жалеем. А иногда случается такое, что интонация звучит слишком равнодушно. Например, фраза «Я думаю, что мы сможем решить вашу проблему» будет мигать красным, прежде чем не изменится на «Мы сможем решить вашу проблему», потому что она звучит более уверенно и участливо. К тому же инструмент может пригодиться тем, для кого язык не является родным.
Но одно дело, когда ИИ исправляет агрессию, и совсем другое — когда пытается убрать из сообщения какие-либо диалектные особенности языка. В конечном счете малые языки даже могут быть обозначены системой как «неправильные». К тому же корректор не знает, что пользователь намеренно написал очень осторожное письмо своему руководителю, потому что тот пришел на работу в плохом настроении и в любой момент может сорваться. Даже самый умный алгоритм не может учитывать социальный аспект.