Match your resume skills with our AI powered skill match!
Develop and optimize robust data pipelines using PySpark within a modern Lakehouse architecture on OCI. Ensure data quality across medallion layers and manage integrations with tools like MySQL HeatWave and Metabase.
Você busca uma oportunidade 100% remota, com times distribuídos e uma cultura de colaboração, valorizando a confiança, autonomia e responsabilidade?
A Confi é uma empresa de tecnologia que atua em soluções digitais de inteligência de mercado, logística reversa e B2C gerando confiança entre empresas e consumidores.
Nosso time de tecnologia está em transformação e busca por pessoas que tenham curiosidade e vontade de aprender, busquem entregas de alta qualidade técnica e desejam crescimento em sua carreira.
Buscamos um(a) Engenheiro(a) de Dados Pleno para atuar em uma arquitetura moderna de dados na OCI (Oracle Cloud Infrastructure), com ingestão near–real time e processamento distribuído em PySpark. O papel envolve construir e evoluir pipelines robustos, garantir qualidade das camadas do modelo medalhão (Bronze → Platinum) e disponibilizar dados para consumo via MySQL HeatWave e Metabase.
Responsabilidades
• Desenvolver e otimizar pipelines em PySpark (Bronze/Silver/Gold/Platinum).
• Ingestão via EventHub, flat files e MongoDB (API).
• Operar arquitetura Lakehouse em OCI (buckets, HeatWave, external tables).
• Criar e manter DAGs no Airflow.
• Automatizar processos com GitHub + GitHub Actions.
• Implementar integrações e exports com Python + Metabase API.
• Garantir padrões de qualidade, observabilidade e performance.
Requisitos técnicos
• Domínio avançado em PySpark , Python e SQL
• Domínio avançado em Modelagem de dados
• Domínio de Data Lake / Delta Lake
• Experiência com arquitetura medalhão e pipelines near–real time.
• Experiência com Airflow e Git/GitHub Actions.
• Experiência em infraestrutura em cloud (AWS, GCP, Azure, OCI...)
• Integrações com APIs e MongoDB.
• Diferenciais
Conhecimento na Cloud OCI (Dataflow, buckets, HeatWave, external tables).
DataOps
Governança de dados
Observabilidade.
Modelo de atuação: Home Office. | Modelo de contratação: PJ.
Stop the endless job search. Our AI finds and applies to the best jobs for you.
Discover remote opportunities in Others
Answer easy questions
200,000+ jobs across 15+ categories
Get your best job matches
Only hand-screened, legit jobs
Find a remote job faster
No ads, scams, or junk
“I was the first applicant for a remote marketing position that got listed on the company website the same day I applied. Had an interview within 48 hours!”