Main responsibilitiesCriação de pipeline de dados para obtenção dos dados com airflow / spark;Implementar controles de acesso e auditoria para proteger dados sensíveis e garantir conformidade com regulamentações;Migrar e integrar dados existentes na nova plataforma, assegurando a continuidade das operações e a integridade dos dados;Performance Tuning : Habilidade em otimizar o desempenho de pipelines de dados, ajustando parâmetros e configurando corretamente os recursos;Monitoramento e Debugging : Capacidade de monitorar e depurar pipelines para identificar e resolver gargalos e problemas de desempenho.Requirements and skillsProficiência em SQL;Entendimento de modelagem de dados;Experiência com ETL;Experiência com cloud AWS : Glue, S3, EMR, Lake Formation.Apache Spark, Apache AirFlow, Apache Iceberg;Conhecimento em Python e Scala.Não possui todos os requisitos para a vaga?
Está tudo bem!
Na Compass UOL, estimulamos o desenvolvimento contínuo de novos talentos e transformamos desafios em oportunidades.Additional information#remote"remote"
#J-18808-Ljbffr
Data Engineer • São José dos Campos, São Paulo, Brasil