Ich werde eine Python ETL-Pipeline für deine Daten erstellen

Einige Informationen wurden automatisch übersetzt.

Indien

Ich spreche Bengalisch, Englisch, Hindi

Data Engineer und Python-Entwickler

Data Engineer, der automatisierte, produktionsreife Pipelines von Ingestion bis zu analytischen, einsatzbereiten Data Warehouses baut. Erstellt: eine Batch-Pipeline mit über 1 Milliarde Zeilen (Airfl...
Über diesen Service

Hast du Skripte, die funktionieren, aber manuell oder ohne richtige Planung laufen?

Ich verpacke deinen bestehenden Datenworkflow in eine produktionsreife

Orchestrierung.


Was du bekommst:

- Apache Airflow DAGs, um deine bestehenden Skripte zu planen und zu überwachen

- Richtige Fehlerbehandlung und Wiederholungslogik

- Optional: dbt-Modelle, um ad-hoc SQL-Transformationen durch

 getestete, versionierte Modelle zu ersetzen

- Optional: Datenqualitäts-Tests und Quellenaktualitätsprüfungen


Dies ist dasselbe Orchestrierungsmuster, das ich verwendet habe, um eine Batch-Pipeline mit über 1 Milliarde Zeilen zuverlässig zu betreiben, die auf deine bestehende Codebasis zugeschnitten ist und nicht von Grund auf neu aufgebaut wurde.


Teile deine aktuellen Skripte/Repo-Struktur in den Anforderungen, damit ich den Umfang vor Beginn genau einschätzen kann.

Zielplattform:

Snowflake

•

Google BigQuery

•

PostgreSQL

•

mySQL

Tools und Plattformen:

AWS Glue DataBrew

•

Kafka Connect

•

Andere

Mein Portfolio