Data Engineer – Python / Airflow / Azure Databricks (m/w/d)
PROSTAFF Schweiz GmbH Basel, Basel-City, Switzerland
Staffing and Recruiting · 201-500 employees
About the role
The Data Engineer will develop and maintain data ingestion and transformation pipelines while supporting the migration to an Azure Databricks and Lakehouse architecture. They will also ensure data quality and performance while collaborating with architects and product owners on data platform decisions.
What they look for
Requirements
Candidates must have several years of experience as a Data Engineer with strong proficiency in Python, SQL, and Apache Airflow. Experience with Azure Databricks, containerization tools like Docker or Kubernetes, and modern data architecture concepts is also required.
Full description
Für ein anspruchsvolles Data-Engineering-Projekt bei einem etablierten Unternehmen in der Schweiz suchen wir einen erfahrenen Data Engineer. Im Fokus stehen die Weiterentwicklung einer bestehenden On-Premise-Datenplattform sowie die laufende Transformation in eine moderne Azure-Databricks- und Lakehouse-Architektur.
- Entwicklung und Weiterentwicklung von Data Products
- Aufbau und Pflege von Ingestion- und Transformationspipelines
- Sicherstellung von Datenqualität und Performance
- Entwicklung und Verwaltung von Apache-Airflow-DAGs
- Mitarbeit bei Architekturentscheidungen rund um die Data Platform
- Unterstützung der Migration in Richtung Azure Databricks
- Zusammenarbeit mit Data Architect, DevOps Engineer und Product Owner
- Unterstützung interner Nutzer bei Data-, Plattform- und Python-Themen
- Mehrjährige Erfahrung als Data Engineer
- Sehr gute Kenntnisse in Python, insbesondere pandas, polars und Poetry
- Fundierte Erfahrung mit Apache Airflow
- Sehr gute SQL- und PostgreSQL-Kenntnisse
- Erfahrung mit Azure Databricks
- Kenntnisse in Docker, Kubernetes oder OpenShift
- Erfahrung mit Azure DevOps / CI/CD
- Verständnis von Data Mesh, Data Contracts und Lakehouse-Architekturen
- Idealerweise Erfahrung mit JupyterHub, Acryl DataHub und MinIO S3
- Selbständige und proaktive Arbeitsweise mit hoher Kommunikationsfähigkeit
Similar roles
-
Praktikum Data driven Machine Diagnosis in Python (SS27)
TRUMPF Ditzingen, Baden-Württemberg, Germany
-
Senior Python Full Stack Developer – AWS Cloud & AWS Deployments
Derex Technologies Inc Florida City, Florida, United States
-
Technology Architect Python Big Data
Timebox Pro Charlotte, North Carolina, United States
-
Junior Fullstack Developer (Python)
AlayaCare Montreal, Quebec, Canada
-
Senior Python Engineer
Dimensional Fund Advisors Austin, Texas, United States
-
Python AWS AI Architect
Infosys Arizona, United States