Обработка больших данных с Apache Spark
Обработка больших данных с Apache Spark
Авторы: Бутаков Н. А., Петров М. В., Насонов Д.
Издательство: НИУ ИТМО (Санкт-Петербургский национальный исследовательский университет информационных технологий, механики и оптики)
2019 г.
Кол-во страниц: 50
Предварительный просмотр:
О книге:
Учебно-методическое пособие содержит теоретический материал и примеры выполнения задач для курса «Введение в технологии обработки больших данных». Пособие составлено с учётом проведения лабораторных работ с помощью фреймворка Apache Spark. Содержание дисциплины охватывает круг вопросов, связанных с организацией построения ETLконвейеров на основе Spark SQL и DataFrame API для распределенного выполнения на кластерных вычислительных система, включая использование итеративных вычислений, важных для машинного обучения, рассмотрения shuffle механизмов и принципов организации управлением памятью в Spark. В результате освоения дисциплины студенты приобретают способности разработки программ и построения конвейеров обработки различных данных, навыки по работе с распределенными кластерными системами, а также способности к применению машинного обучения на распределенных наборах данных