Начинается автоматизация в проектировании нейронных сетей

Начинается автоматизация в проектировании нейронных сетей

Новое поколение систем ИИ использует алгоритмы для автоматического проектирования систем машинного обучения, известных как нейронные сети, которые становятся более точными и эффективными, чем обычные, разрабатываемые инженерами вручную.

Но эта так называемая технология «поиска нейронной архитектуры» (neural architecture search — NAS) требует дорогостоящих вычислений.

Недавно разработанный Google ультрасовременный алгоритм NAS использует вычисления с помощью графических процессоров (GPU). Необходимо затратить 48 000 часов для того, чтобы создать одну сверточную нейронную сеть, которая используется для классификации изображений и в задачах по распознаванию. Но далеко не у каждой компании есть возможность запускать параллельно сотни графических процессоров и другого специализированного оборудования.

В документе, представленном на Международную конференции по обучению представлениям, исследователи MIT описывают новый алгоритм NAS, который поможет напрямую изучать специализированные сверточные нейронные сети (CNN) для целевых аппаратных платформ. При запуске на массивном наборе графических данных потребуется всего 200 часов вычислений с использованием графических процессоров, что позволит гораздо шире использовать эти типы алгоритмов.

Исследователи говорят, что ограниченные в ресурсах инженеры и компании смогут извлечь выгоду из этого алгоритма за счет экономии времени и затрат. Общей целью является «демократизация ИИ», — говорит соавтор Сонг Хан, доцент кафедры электротехники и компьютерных наук, научный сотрудник лаборатории микросистемных технологий в Массачусетском технологическом институте. «Мы хотим, чтобы как эксперты по искусственному интеллекту, так и менее опытные работники могли эффективно проектировать архитектуры нейронных сетей с помощью кнопочного решения, которое быстро работает на определенном оборудовании».

Отмечается, что такие алгоритмы NAS никогда не заменят живых инженеров. «Цель состоит в том, чтобы избавиться от повторяющейся и утомительной работы, связанной с проектированием и усовершенствованием архитектуры нейронных сетей», — говорит Хан.

, нейронные сети, MIT

robogeek.ru