Ich werde Web-App, RAG-System, kleines Fine-Tuning erstellen

Full-Stack Python Entwicklung | FastAPI, PostgreSQL, LLM Fine-Tuning & RAG Systeme

Ich entwickle Backend-Systeme und KI-gestützte Anwendungen mit Python, mit Fokus auf sauberes API-Design und praktischer Erfahrung im Umgang mit LLMs.

Was ich anbiete:

Backend & Web-Apps

• REST-APIs mit FastAPI, unter Verwendung von Pydantic für Request/Response-Validierung
• Datenbankdesign mit PostgreSQL + SQLAlchemy, inklusive Migrationen mit Alembic
• JWT-Authentifizierung und grundlegendes Nutzer-Management (Login, Berechtigungen, CRUD-Endpunkte)
• Asynchrone API-Entwicklung für bessere Performance

LLM Fine-Tuning

• Feinabstimmung kleiner/quantisierter Sprachmodelle (z.B. Qwen, GPT-2) mit LoRA/PEFT
• Vorbereitung von Trainingsdatensätzen, inklusive Umwandlung roher Daten in instruktionale Trainingspaare
• Arbeiten mit 4-Bit/8-Bit-Quantisierung, um auf begrenzter Hardware zu trainieren (Kaggle/Colab)

RAG (Retrieval-Augmented Generation) Systeme

• Aufbau grundlegender RAG-Pipelines: Embeddings, Vektorspeicher (pgvector) und retrieval-basierte Generierung
• Implementierung von Ähnlichkeitssuche für Kontext-Retrieval
• Verbindung lokaler oder gehosteter LLMs mit Retrieval-Systemen