Ich baue eine Databricks ETL-Pipeline mit Delta Lake für dein Data Warehouse auf

Einige Informationen wurden automatisch übersetzt.

Pakistan

Ich spreche Englisch

17 Aufträge abgeschlossen

Softwareentwickler, Datenentwickler

Ich bin Software- und Dateningenieur mit Produktionserfahrung beim Aufbau von unternehmensgerechten Systemen auf Cloud-Plattformen. Als Dateningenieur habe ich mit Lakehouse- und Medallion-Architektu...
Über diesen Service

Die meisten Datenpipelines scheitern stillschweigend. Kein Audit-Trail, keine Qualitätskontrollen,

ein Skript macht alles. Deine Analysten führen dieselbe Abfrage zweimal aus

und erhalten unterschiedliche Zahlen.


Ich baue Pipelines, die das nicht tun.


WAS DU BEKOMMST


Medallion-Architektur auf Databricks + Delta Lake:


  • Bronze: Rohdaten landen unveränderlich. Dein Wiederherstellungspunkt.
  • Silver: Jede Zeile besteht eine Qualitätsprüfung. Fehler werden protokolliert.
  • Gold: aggregierte, BI-fertige Delta-Tabellen. Schnell. Zuverlässig.


Vollständig automatisiert als Databricks Workflow DAG orchestriert.


WARUM ES FUNKTIONIERT


  • Idempotentes erneutes Ausführen dupliziert oder verliert keine Daten
  • Auditierbare DQ-Metriken protokolliert und abfragbar
  • Wiederherstellbar, jede Schicht kann aus Bronze neu aufgebaut werden


ICH ARBEITE MIT


Quellen: CSV, Parquet, JSON, REST API, PostgreSQL, S3, ADLS

Plattformen: Databricks auf Azure oder AWS


BEVOR DU BESTELLST


Schreib mir zuerst mit deiner Datenquelle und deiner Geschäftsfrage.

Ich bestätige den Umfang, bevor du bestellst. Keine Überraschungen.

Zielplattform:

Snowflake

Google BigQuery

Amazon Redshift

Tools und Plattformen:

Fivetran

AWS Glue DataBrew

Mein Portfolio