Ich werde Echtzeit-Datenpipelines mit Apache Kafka, Spark und AWS aufbauen

Einige Informationen wurden automatisch übersetzt.

Indien

Ich spreche Englisch

Dateningenieur

Ich bin ein ergebnisorientierter Data Engineer mit über 5 Jahren Erfahrung in Big Data, AWS und technischer Leitung. Ich spezialisiere mich auf das Design von groß angelegten cloud-nativen Pipelines u...
Über diesen Service

PIPELINES, DIE PRODUKTIONSTESTS BESTANDEN, NICHT NUR DIE DEMO.


Ich erstelle Batch- und Streaming-Datenpipelines, die jeden Tag laufen, ohne dass jemand sie überwachen muss.


WAS ICH Biete

- Streaming-Ingestion: Kafka, Kinesis, RabbitMQ, NiFi, CDC aus deiner Datenbank

- PySpark / Spark SQL Transformationen, optimiert – nicht die Standardkonfiguration

- Data Lake auf S3 mit Apache Iceberg: Schema-Änderungen, Time Travel, MERGE Upserts

- Data Warehouse-Ladungen in Redshift, Snowflake, Athena oder BigQuery

- SCD Typ 2 Historie, Deduplication, idempotente Wiederholungen, späte Daten

- Airflow DAGs, Wiederholungen, Alarmierung und CloudWatch/Grafana Dashboards

- CI/CD, Tests und Dokumentation, damit das System wartbar bleibt


ERFAHRUNG

Über 3,5 Jahre auf einer europäischen Telekom-Streaming-Plattform: Mehr als 100 Produktionspipelines, 0,6 TB/Tag (18 TB/Monat), Millionen Nutzer in 8 Ländern. Über 50 % weniger Rechenzeit bei über 100 PySpark-Jobs. 60 % weniger Job-Fehler. Über 99,9 % Verfügbarkeit.


Ich habe auch eine Redshift-Workload auf Apache Iceberg migriert: Abfragen um 40 % schneller bei geringeren Kosten.


Sende mir deine Quelle, dein Ziel und dein Volumen. Du bekommst vor der Bestellung einen festen Umfang und einen realistischen Zeitplan.


Sprache:

Englisch

•

Deutsch

•

Hindi

•

Slowenisch

Technische Expertise:

Apache NiFi

•

Apache Airflow

•

Apache-Funken

Expertise:

Datenpipelines

•

ETL-Entwicklung

Industrie:

Audio & Video

•

Datenanalyse

•

Finanzdienstleistungen

Mein Portfolio