Data Engineer developing and maintaining robust data pipelines using PySpark and Airflow at Logcomex. Collaborating with product teams to ensure data quality and governance.
Responsibilities
Desenvolver e manter pipelines de dados robustos, escaláveis e testáveis utilizando PySpark e Airflow.
Projetar e implementar processos de ingestão e transformação de dados para alimentar o datalake em arquitetura de camadas (Bronze, Silver, Gold).
Atuar com controle de qualidade de dados, documentação e gestão de linhagem utilizando OpenMetadata.
Trabalhar em conjunto com os squads de produto e captura para garantir a consistência e cobertura dos dados.
Garantir a governança de dados, versionamento e auditoria das pipelines em produção.
Otimizar rotinas de ETL/ELT e desempenho de queries em bancos relacionais, data warehouses e motores como Elasticsearch e Athena.
Requirements
Procuramos pessoas com conhecimento em...
PySpark
Apache Airflow
AWS S3, Glue, Athena, EC2
SQL (Athena, PostgreSQL)
Elasticsearch/OpenSearch
Docker
Pandas
Jupyter
Unix (Linux), Bash
DBT
Será legal se você conhecer...
Glue
Delta Lake
Kubernetes
NoSQL
Elasticsearch
Airbyte
Benefits
Benefícios Caju no valor fixo de R$2.300,00 mês (CWB e RMC) ou R$ 1.840,00 (Demais regiões) (alimentação, mobilidade, saldo multi e auxílio home office);
Plano de saúde Unimed ou Amil com abrangência Nacional;
Plano odontológico Odontoprev;
Seguro de vida - Metlife;
Wellhub;
Keikein (plataforma de apoio psicológico);
Convênio farmácia Panvel;
Licença maternidade e paternidade estendida pelo Programa Empresa Cidadã;
Subsídio para desenvolvimento, em parceria com a Unico Skill, que oferece diversas opções de graduação, pós-graduação, idiomas, mentorias, etc;
Aulas de inglês particulares para liderança e especs nível II para cima;
Auxilio Escola/Educação.
Frutas frescas, cookies, café, chá e energéticos disponíveis a qualquer momento;
Happy hours, eventos de integração e team buildings;
Viagens para o escritório dos Loggers de fora são custeadas pela empresa;
Sem dress code: aqui você pode ser você e usar o que te deixa mais confortável;
Ambiente descontraído, cheio de desafios e campeonatos de videogame; Rede de descanso para um respiro no meio da correria do dia
Biblioteca da Log com livros incríveis para todos os Loggers se desenvolverem;
Massagem in company;
Day-off de aniversário;
Presente de aniversário;
Presentes incríveis a cada ano de Logger;
Recruta Loggers (programa de indicação com bonificação $).
Data Engineer role focused on creating and monitoring data pipelines in an innovative energy company. Collaborate with IT and departments to ensure quality data availability in a hybrid work environment.
SQL Migration Data Engineer at Auxo Solutions focusing on Azure SQL/Fabric Lakehouse migrations and building data pipelines. Collaborating on technical designs and data governance for modernization initiatives.
Data Engineer developing cloud solutions and software tools on Microsoft Azure big data platform. Collaborating with various teams for data analysis and visualization in healthcare.
Seeking a Boomi Integration Architect specializing in Data Warehouse and Master Data Hub implementations. Responsible for designing high - performance integration solutions across enterprise platforms.
Boomi Integration Architect designing and leading integration solutions for data warehouses. Collaborating with cross - functional teams to implement scalable integration patterns using Boomi technologies.
Principal Data Engineer at Serko enhancing global travel tech through data - driven solutions. Collaborating across teams in Bengaluru to drive innovative engineering and best practices.
Data Architect designing and implementing scalable data architectures for Keyrus in Bordeaux. Leading client transitions and contributing to the tech ecosystem with innovative data solutions.
Data Engineer at Keyrus responsible for building and optimizing data pipelines for major projects. Contributing to data solutions and ensuring data quality in a growing team.