Пять главных трендов машинного обучения по версии Google

В настоящее время исследователи работают с более крупными и мощными моделями машинного обучения. Кроме того, рост объема данных и размеров самих моделей (например, сейчас возможно сгенерировать модели с сотнями миллиардов параметров) привел к увеличению точности выполнения различных задач. Наравне с одномодальными моделями, например, которые распознают изображение, речь или звук, начинают появляться мультимодальные — они способны не только понимать разные модальности, но и выдавать в них результат. Джефф Дин видит в этом возможность создания высокопроизводительных моделей общего назначения, которые способны обрабатывать разные виды данных и решать тысячи или миллионы задач. В ближайшее время Google планирует реализовать это видение в новой архитектуре искусственного интеллекта — Pathways, где будут объединены многие идеи, которые до настоящего момента разрабатывались независимо.

На фоне развития компьютерного оборудования, совершенствования алгоритмов машинного обучения, а также исследований в области метаобучения, возможности моделей ML стремительно расширяются. Кроме того, по сравнению с предыдущими годами на каждый аспект машинного обучения получается тратить намного меньше ресурсов. Повышение эффективности машинного обучения также позволяет разрабатывать еще более масштабные, качественные и доступные модели с меньшими финансовыми затратами.

По мнению вице-президента Google Research, для повышения эффективности моделей необходима работа над улучшением производительности ускорителей ML, совершенствование компиляции и оптимизации рабочих задач, а также внедрение разреженности, которая подразумевает, что при обучении или выполнении определенной задачи активируется лишь наиболее подходящая для этого часть модели.

Инновации в области машинного обучения привели к новым разработкам, которые полезны как для человека, так и для общества в целом. Джефф Дин отмечает, что новые разработки позволили улучшить такие функции, как мобильная фотография, живой перевод и так далее. Стоит отметить, что в данной сфере наблюдаются две тенденции: персонализация технологических достижений и усиление мер по обеспечению конфиденциальности. Последний момент особенно важен — в настоящее время вопрос кибербезопасности стал наиболее актуальным. Благодаря технологиям ML появились такие функции, как оповещения о подозрительных сообщениях и безопасная навигация, которая предлагает альтернативные маршруты в виртуальном пространстве.

Влияние машинного обучения на развитие ряда фундаментальных наук стремительно растет. С помощью ML в ближайшее время можно будет решить широкий спектр задач в разных областях — от возобновляемой энергетики до медицины.

Среди передовых разработок, основанных на машинном обучении — компьютерное зрение, которое используется как для реконструкции нервной структуры тканей головного мозга, так и для прогнозирования погоды. Кроме того, большие надежды подает метод автоматического моделирования. Джефф Дин также высоко оценивает возможности применения машинного обучения в области здравоохранения и для преодоления мирового климатического кризиса.