Использование кластера HybriLIT для ускорения расчетов на примере задач машинного обучения

using-hybrilit-cluster-to-speed-up-the-calculations-for-machine-learning-tasks

За последнее десятилетие тема самообучающихся алгоритмов, таких как
глубокие нейросети, приобрела особую популярность. Сама идея зародилась
еще в 50-е годы прошлого столетия, но аппаратное и программное
обеспечение того времени являлось препятствием для исследований.
Появление систем параллельных вычислений и фреймворков, таких как
TensorFlow, Theano и Caffe, обеспечивающих распараллеливание алгоритмов
на уровне библиотек, позволило ускорить время обучения и вывода в
десятки раз при использовании современного графического ускорителя и
технологии CUDA.
Было разработано четыре приложения: для классификации сжатых
изображений, распознавания сортов твердой пшеницы, предсказания уровня
загрязнения окружающей среды и двухступенчатый алгоритм для
реконструкции траекторий элементарных частиц в GEM детекторах. Программы
написаны на языке Python с использованием библиотек Keras и TensorFlow.
Проведение расчетов на виртуальной машине HybriLIT с графическим
ускорителем NVIDIA Tesla M60 показывает значительный прирост скорости
обучения и вывода.