Курс Data Engineer. Освойте профессию Data Engineer с нуля с практикой в Yandex Cloud!
КУРС ПЕРЕРАБОТАН
При поддержке
логотип партнера
При поддержке
логотип партнера
КУРС ПЕРЕРАБОТАН

Data Engineer

Освойте профессию Data Engineer с нуля с практикой в Yandex Cloud!

Длительность обучения:

4 месяца

4 ак. часа в нед.

Формат:

Online

Начало занятий:

25 октября 2023 года

Что даст вам этот курс

  • Понимание ценности данных для бизнеса и архитектуры
  • Узнаете, как организовать хранение данных, познакомитесь с методами проектирования хранилищ
  • Сможете разрабатывать ETL процессы для выгрузки данных из внешних источников
  • Научитесь преобразовывать данные в пакетном и потоковом режимах
  • Узнаете что такое качество данных и как работать с метаданными
  • Изучите современные BI инструменты и научитесь создавать витрины данных

Для кого этот курс?

Курс поможет разработчикам, администраторам, архитекторам освоить востребованную профессию инженера данных.

После обучения вы сможете:

  • разворачивать, налаживать и оптимизировать инструменты обработки данных
  • адаптировать датасеты для дальнейшей работы и аналитики
  • создадите сервисы, которые используют результаты обработки больших объемов данных
  • принимать участие в разработке архитектуры данных в компании

Особенности курса

Real Case Studies. Примеры внедрений, использования инструментов, оптимизации производительности, проблемы, ошибки и прикладные результаты

Высокая практическая направленность. В течение курса будем инкрементально создавать работающий продукт, решая прикладные задачи

Целостная картина вызовов и задач современного бизнеса, и роли Инженера Данных в их решении

Практика в Yandex Cloud бесплатно. Партнер курса Yandex Cloud бесплатно предоставит необходимое количество ресурсов, чтобы вы могли выполнять практические задания на протяжении всего периода обучения.

Курс Python в подарок! Бесплатно получите доступ к подготовительному курсу по Python, на котором сможете изучить основные возможности языка

 

Инженер данных - почему это актуально и интересно:

  • Прежде чем попасть на стол CEO в виде квартального отчета или индивидуальной подборкой книг в email-рассылке, данные проделывают длительный и сложный, полный преобразований и трансформаций, путь, требующий непрерывного мониторинга и оркестрации.
  • В этом ключе команда инженеров, которая готова обеспечить непрерывную поставку достоверной информации для всех бизнес-потребителей и функций играет важнейшую роль в принятии тактических и стратегических решений всей компании.
  • Работа инженеров данных, внешне незаметная, удивительно сложна и интересна по своей специфике. Невероятное количество закономерностей и связей, инструментов и подходов, параметров и настроек не оставят равнодушным ни один пытливый ум в поисках оптимальных и элегантных решений.

Карта курсов направления Data Science в OTUS

Необходимые знания

Необходимое:
    • Опыт разработки на Java/Python
    • Основы работы с БД: SQL, индексы, агрегирующие функции
    • Базовые знания ОС: работа с командной строкой, доступ по SSH

Будет плюсом:
  • Навыки работы с Docker
  • Знакомство с компонентами экосистемы Hadoop
  • Понимание основ машинного обучения с позиции Data Scienist-а или аналитика

 

Подготовительный курс

  • Основные возможности языка Python

  • Создание сайтов на Django

  • Библиотеки для анализа данных

  • Подготовка к курсам "Web-разработчик на Python" и "Разработчик Python"

Записаться

Корпоративное обучение для ваших сотрудников

Поможем вашей компании развивать команду! Профиты данного курса для компании: Подробное изучение самых популярных баз данных с возможностью сосредоточиться на тех, которые используются в компании / Оптимизированные стабильные системы / Работа над промышленными задачами во время практики
>

Программа обучения

В процессе обучения вы получите комплексные знания и навыки.
Тема 1. Инженер данных. Задачи, навыки, инструменты, потребность на рынке
Тема 2. Архитектура систем обработки данных
Тема 3. Выбор технологий. Облачные технологии
Тема 4. Docker
Тема 5. Что такое хранения данных. Data Lake
Тема 6. Распределенные файловые системы
Тема 7. Что такое DWH
Тема 8. Проектирование DWH
Тема 9. Модели данных в DWH
Тема 10. Greenplum
Тема 11. ClickHouse
Тема 12. Что такое загрузка данных
Тема 13. Apache Kafka
Тема 14. Apache Ni-Fi. Выгрузка данных из внешних систем
Тема 15. Apache Airflow. Введение в автоматизацию пайплайнов и оркестрацию
Тема 16. Apache Airflow. Сложные пайплайны
Тема 17. Разбор ДЗ по 2 и 3 модулю
Тема 18. Аналитические запросы
Тема 19. Apache Hive. SQL доступ к Hadoop
Тема 20. Apache Spark. Архитектура приложения
Тема 21. Apache Spark. API, Оптимизация
Тема 22. Обработка потоковых данных
Тема 23. ELK
Тема 24. Общие соображения по предоставлению данных
Тема 25. Data Quality. Управление качеством данных
Тема 26. Управление метаданными
Тема 27. Основы Business Intelligence
Тема 28. Развертывание BI-решения
Тема 29. DevOps практики. CI + CD
Тема 30. Мониторинг
Тема 31. NoSQL. Key-Value
Тема 32. NoSQL. Wide-column
Тема 33. NoSQL. Document-oriented
Тема 34. Выбор темы и организация проектной работы
Тема 35. Консультация по проектам и домашним заданиям
Тема 36. Защита проектных работ
Скачать подробную программу

Выпускной проект

Выпускной проект: реализация задачи по интересующей теме с применением комплекса знаний, полученных в рамках курса.

В рамках подготовки проекта будут даны вводные и проведены консультации.

Несколько примеров проектных работ студентов прошлых запусков:


- Serverless решение для сбора статистики эффективности рекламных кампаний на GCP;
- Сбор и анализ скорости отдачи статики различными CDN на web страницах;
- Система хранения и автоматического тестирования CV нейросетей;
- Загрузка данных о полетах из API аэропорта Schiphol в БД Elasticsearch.

Вы можете выбрать тему проектной работы предложенную партнёром курса SberAutoTech
- Поиск слепых зон в лидарных данных
- Витрина беспилотного пробега и перехватов управления

Процесс обучения

Обучение проходит в формате онлайн-вебинаров на русском языке. Регулярность занятий: 2 раза в неделю по 2 академических часа (1.5 астрономических часа). Каждые 2 недели предполагается выполнение 1 домашнего задания (время на выполнение: 2-4 академических часа). По всем практическим заданиям команда преподавателей дает развернутый фидбек. Для прохождения курса потребуется компьютер с доступом в интернет и аккаунт на облаке (Google Cloud) с неиспользованной Free Trial версией.

Получить консультацию

Наш специалист свяжется с вами в ближайшее время. Если у вас возникли трудности в выборе курса или проблемы технического плана, то мы с радостью поможем вам.
Спасибо!
Мы получили Вашу заявку, в ближайшее время с Вами свяжется наш менеджер.

После обучения вы

Заберете с собой:
  • основные и дополнительные материалы, и видеозаписи занятий;

  • образцы кода;

  • собственный проект, который можно будет показывать при трудоустройстве;

  • сертификат о прохождении обучения.

  • В результате обучения вы:
  • будете иметь представление об основных классах задач Инженера Данных, инструментах, предназначенных для их решения, а также их преимуществах и особенностях;

  • научитесь выстраивать пайплайны пакетной и потоковой обработки данных;

  • сможете проектировать хранилища данных и организовывать оптимальный доступ для потребителей;
Ваш сертификат

онлайн-образование

Сертификат №0001

Константин Константинопольский

Успешно закончил курс «Data Engineer»
Выполнено практических заданий: 16 из 16

Общество с ограниченной ответственностью “Отус Онлайн-Образование”

Дата выдачи:
24 марта 2024 г.

Город:
Москва

Зам. директора департамента образования
ООО “Отус Онлайн-Образование”
Вдовиченко М.M.

Лицензия на осуществление образовательной деятельности
№ 039825 от 28 декабря 2018 года.

онлайн-образование

Сертификат №0001

Константин Константинопольский

Успешно закончил курс «Data Engineer»
Выполнено практических заданий: 16 из 16

Общество с ограниченной ответственностью “Отус Онлайн-Образование”

Дата выдачи:
24 марта 2024 г.

Город:
Москва

Зам. директора департамента образования
ООО “Отус Онлайн-Образование”
Вдовиченко М.M.

Лицензия на осуществление образовательной деятельности
№ 039825 от 28 декабря 2018 года.

Прошедшие открытые вебинары

Открытый вебинар — это настоящее занятие в режиме он-лайн с преподавателем курса, которое позволяет посмотреть, как проходит процесс обучения. В ходе занятия слушатели имеют возможность задать вопросы и получить знания по реальным практическим кейсам.
Выгрузка данных из внешних систем
День открытых дверей
3 ноября 2021 года в 20:00
Для доступа ко всем прошедшим мероприятиям необходимо пройти входное тестирование
Возможность пройти вступительное тестирование повторно появится только через 3 дня
Результаты тестирования будут отправлены вам на email, указанный при регистрации.
Тест рассчитан на 30 минут, после начала тестирования отложить тестирование не получится!
Стоимость обучения
Cтоимость указана для оплаты физическими лицами. Подробнее
92 000 ₽
Продолжительность
4 месяца
Начало занятий
25 октября 2023 года