Ich werde AWS Glue ETL-Datenpipelines erstellen und optimieren
AWS Amazon Connect Terraform und DevOps Ingenieur
Über diesen Service
Benötigst du eine zuverlässige AWS-Datenpipeline, die gebaut, repariert oder optimiert werden soll?
Ich bin ein AWS-zertifizierter Cloud- und DevOps-Ingenieur mit praktischer Erfahrung in der Gestaltung von Unternehmensdatenpipelines mit AWS Glue, PySpark, Amazon S3, Amazon Redshift, Python, Terraform und GitHub Actions.
Ich kann bei folgenden Aufgaben helfen:
Entwicklung und Fehlerbehebung von AWS Glue ETL-Jobs
S3-Ingestion, Partitionierung und Parquet-Verarbeitung
PySpark-Transformationen und Schema-Management
Redshift-Staging, Laden, MERGE und Duplikatentfernung
Zeitstempelkonvertierung, Backfills und inkrementelle Loads
Datenqualitätsprüfungen, Validierung und Überwachung
Glue Catalog- und Crawler-Konfiguration
Terraform-Infrastruktur und CI/CD-Deployment-Workflows
Pipeline-Leistung und Kostenoptimierung
Ursachenanalyse bei schema- und umgebungsspezifischen Fehlern
Meine Erfahrung umfasst den Aufbau von Produktionspipelines für komplexe JSON-Daten, das Flatten von verschachtelten Strukturen, die Anwendung der Latest-Record-Logik, die Lösung von Typenkonflikten und die kontrollierte Einführung von Änderungen in Entwicklungs-, Test- und Produktionsumgebungen.
Bitte schreibe mir vor der Bestellung, wenn deine Pipeline mehrere Quellen, große Backfills, komplexe Schemas oder Anforderungen an die Produktionsbereitstellung hat.
Zielplattform:
Amazon Redshift
•
Amazon S3
Tools und Plattformen:
Andere
Mein Portfolio
FAQ
Automatische Übersetzung
Kannst du einen bestehenden AWS Glue-Job reparieren?
Ja. Teile das Skript, Fehlerdetails, erwartetes Ergebnis, Beispielschema und relevante Logs. Entferne vertrauliche Daten und Zugangsdaten, bevor du etwas sendest.
Kannst du Daten in Amazon Redshift oder Amazon S3 laden?
Ja. Ich kann ETL-Flows erstellen oder verbessern, die Daten ingestieren, transformieren, validieren und in Amazon S3 oder Amazon Redshift laden.
Kannst du verschachtelte JSON, Schemaänderungen und Backfills handhaben?
Ja. Ich kann verschachtelte JSON flatten, Schema- und Typenkonflikte verwalten, Duplikate entfernen und kontrollierte historische Backfills entwerfen.
Kannst du die Pipeline mit Terraform und CI/CD bereitstellen?
Ja. Der Standard- oder Premium-Umfang kann Terraform und automatisierte Promotion-Workflows mit GitHub Actions umfassen, je nach deiner Umgebung.
