VP, Senior Data Engineer responsible for designing and developing cloud data solutions for insider risk in Information Security at SMBC. Collaborating with multiple teams to enhance cybersecurity data platform.
About the role
- Data Engineer developing and maintaining robust data pipelines using PySpark and Airflow at Logcomex. Collaborating with product teams to ensure data quality and governance.
Responsibilities
- Desenvolver e manter pipelines de dados robustos, escaláveis e testáveis utilizando PySpark e Airflow.
- Projetar e implementar processos de ingestão e transformação de dados para alimentar o datalake em arquitetura de camadas (Bronze, Silver, Gold).
- Atuar com controle de qualidade de dados, documentação e gestão de linhagem utilizando OpenMetadata.
- Trabalhar em conjunto com os squads de produto e captura para garantir a consistência e cobertura dos dados.
- Garantir a governança de dados, versionamento e auditoria das pipelines em produção.
- Otimizar rotinas de ETL/ELT e desempenho de queries em bancos relacionais, data warehouses e motores como Elasticsearch e Athena.
Requirements
- Procuramos pessoas com conhecimento em...
- PySpark
- Apache Airflow
- AWS S3, Glue, Athena, EC2
- SQL (Athena, PostgreSQL)
- Elasticsearch/OpenSearch
- Docker
- Pandas
- Jupyter
- Unix (Linux), Bash
- DBT
- Será legal se você conhecer...
- Glue
- Delta Lake
- Kubernetes
- NoSQL
- Elasticsearch
- Airbyte
Benefits
- Benefícios Caju no valor fixo de R$2.300,00 mês (CWB e RMC) ou R$ 1.840,00 (Demais regiões) (alimentação, mobilidade, saldo multi e auxílio home office);
- Plano de saúde Unimed ou Amil com abrangência Nacional;
- Plano odontológico Odontoprev;
- Seguro de vida - Metlife;
- Wellhub;
- Keikein (plataforma de apoio psicológico);
- Convênio farmácia Panvel;
- Licença maternidade e paternidade estendida pelo Programa Empresa Cidadã;
- Subsídio para desenvolvimento, em parceria com a Unico Skill, que oferece diversas opções de graduação, pós-graduação, idiomas, mentorias, etc;
- Aulas de inglês particulares para liderança e especs nível II para cima;
- Auxilio Escola/Educação.
- Frutas frescas, cookies, café, chá e energéticos disponíveis a qualquer momento;
- Happy hours, eventos de integração e team buildings;
- Viagens para o escritório dos Loggers de fora são custeadas pela empresa;
- Sem dress code: aqui você pode ser você e usar o que te deixa mais confortável;
- Ambiente descontraído, cheio de desafios e campeonatos de videogame; Rede de descanso para um respiro no meio da correria do dia
- Biblioteca da Log com livros incríveis para todos os Loggers se desenvolverem;
- Massagem in company;
- Day-off de aniversário;
- Presente de aniversário;
- Presentes incríveis a cada ano de Logger;
- Recruta Loggers (programa de indicação com bonificação $).
Job title
Job type
Experience level
Salary
Not specified
Degree requirement
No Education Requirement
Tech skills
Location requirements
Data Engineer responsible for architecting, developing, and maintaining Allegiant’s enterprise data infrastructure. Overseeing transition to cloud hosted data warehouse and developing next - generation data tools.
Senior Data Engineer developing Azure - based data solutions for clients in the Data & AI department. Collaborating with architects and consultants to enhance automated decision making.
Data Engineer II focusing on strategic ingestion product for Travelers. Building data solutions and collaborating across teams to support analytic transformation.
Data Engineer at Tatum focusing on scalable data solutions and blockchain technology. Collaborating with teams to ensure data integrity and manage data infrastructure in a hybrid setup.
Senior Lead Data Engineer at Capital One collaborating with Agile teams and mentoring developers. Leading full - stack development and driving cloud - based solutions for financial empowerment.
Senior Data Engineer responsible for developing data pipelines and collaborating with US business teams. Working at Beghou Consulting, a life sciences company providing advanced analytics and technology solutions.
Data Solutions Architect designing enterprise - scale Azure and Databricks Lakehouse solutions for clinical trials and life sciences data enabling advanced analytics and compliance.
Data Architect at ADEO ensuring interoperability of IT systems through architecture design and data knowledge diffusion. Collaborating with teams to maintain data integrity and quality standards in an international setup.
Consultant, Data Engineer leading end - to - end data solutions and analytics. Collaborating with clients to improve data strategies and deliver actionable insights.