
Senior Data Engineer / team lead
- Нур-Султан
- Постоянная работа
- Полная занятость
прошу написать сопроводительное письмо, почему именно вы подходите на эту роль.ЧЕМ ВЫ БУДЕТЕ ЗАНИМАТЬСЯ:Архитектура и развитие платформы данныхПроектировать и развивать архитектуру Data Platform компанииОпределять стандарты построения и поддержки ETL/ELT пайплайновВыбирать технологии и инструменты под задачи масштабирования и устойчивостиУчаствовать в формировании roadmap развития дата-инфраструктурыETL и оркестрацияРазрабатывать и поддерживать надёжные ETL-процессы с использованием Apache AirflowОптимизировать пайплайны данных (retry, SLA, logging, alerting)Контейнеризировать процессы и управлять деплоем через KubernetesОрганизовывать хранение и обработку данных в S3 Data LakeМоделирование и трансформации данныхРазрабатывать и документировать модели dbt для DWHНастраивать CI/CD для автоматического тестирования и развертывания моделейРеализовывать принципы Data Quality (dbt tests, data contracts, Great Expectations)Хранилище данных (DWH и NoSQL)Проектировать и оптимизировать хранилища данных на PostgreSQL и ClickHouseРазрабатывать агрегированные витрины и аналитические таблицыИнтегрировать и работать с NoSQL-базами (MongoDB, Redis, Cassandra и др.)Поддерживать прозрачность и воспроизводимость данных (data lineage, observability)Интеграции и стриминг данныхРазрабатывать коннекторы и интеграции с внешними источниками (REST API, JSON, OAuth)Настраивать стриминг данных через Apache Kafka (producers/consumers, топики, партиционирование)Обеспечивать надёжную доставку и трансформацию потоковых данныхИнфраструктура и автоматизацияАвтоматизировать развёртывание и конфигурацию инфраструктуры (Terraform, Helm)Настраивать мониторинг и алерты (Prometheus, Grafana, ELK)Контролировать производительность, отказоустойчивость и безопасность дата-процессовУчастие в развитии командыПроводить code review, внедрять инженерные стандарты и best practicesМенторить менее опытных инженеров и помогать в развитии командыРаботать в тесном взаимодействии с аналитиками и Data ScientistsЧЕГО МЫ ОТ ВАС ОЖИДАЕМ:
- Опыт работы от 3 лет в роли Senior Data Engineer
- Глубокие знания SQL и опыт работы с PostgreSQL, ClickHouse
- Опыт разработки и поддержки пайплайнов в Apache Airflow
- Опыт работы с dbt (модели, макросы, тестирование)
- Уверенные знания Python (pandas, requests, sqlalchemy)
- Опыт интеграции с REST API
- Знание принципов OLAP / OLTP, DWH архитектуры и ETL-дизайна
- Опыт работы с Kafka, Kubernetes, S3, NoSQL
- Понимание CI/CD и автоматизации инфраструктуры (Terraform / Helm)
- Опыт работы со стриминговыми пайплайнами (Kafka Connect, Spark Streaming, Flink)
- Опыт в облачных платформах (AWS / Azure / GCP)
- Навыки настройки мониторинга (Prometheus, Grafana, ELK)
- Опыт работы с BI-инструментами (Superset, Metabase, Tableau)
- Участие в проектировании Data Governance и Observability
- Конкурентоспособная заработная плата (обговаривается при собеседовании);
- Высокий уровень автономности;
- Минимум бюрократии;
- Разноплановые проекты;
- Сложные задачи и вызовы;
- Своя кухня;
- Компенсация участия в конференциях;
- Своевременная выплата З/П;
- Комфортные условия работы;
- График работы: 5/2, с 8:00 до 17:00, обед с 12:00 до 13:00.
HeadHunter