Какой из фреймворков эффективнее? Разобрался ведущий разработчик группы компьютерного зрения MTS AI Дмитрий Гончаров.
Сравнение фреймворков глубокого обучения
Дмитрий Гончаров, ведущий разработчик группы CV в команде MTS AI, провел эксперимент, сравнив производительность и другие качественные характеристики популярных фреймворков глубокого обучения TensorFlow и PyTorch.
В статье на Habr он рассказал о разнице двух программ и своем опыте работы с ними. Дмитрий как активный пользователь TensorFlow и PyTorch решил сравнить скорость обучения (на GPU), скорость инференса (на GPU и на CPU), а также количество выделяемой видеопамяти при обучении и инференсе.
Для сравнения было выбрано несколько классических архитектур свёрточных нейронных сетей, которые отличаются размером, количеством и типом свёрточных слоёв и функций активации. В рамках эксперимента разработчик варьировал наиболее часто изменяемые параметры: размер батча — количество одновременно обрабатываемых нейронной сетью изображений — и размер входных изображений.
Конечная цель эксперимента — измерить среднее время шага обучения/инференса. Для этого могут использоваться любые данные, например, сгенерированные случайным образом.
Что показал эксперимент? Изучить подробные измерения и результат сравнения можно в оригинальной статье на Habr.
