KI-Entwickler LLM / RAG / Agenten – Python oder TypeScript (m/w/d)

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade. Wer wir sind Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen. Worum es geht Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main. Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung. Aufgaben • Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe • Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten • Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken • Betrieb: Container, CI/CD, Monitoring, Alerting • Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden Das musst du mitbringen Jeder Punkt muss im Lebenslauf nachweisbar sein. • Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium • Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran • Docker, CI/CD und Git aus dem Projektalltag • Deutsch mindestens C1 in Wort und Schrift Das bringst du idealerweise mit Kein Muss, aber je mehr davon, desto besser: • Kubernetes oder OpenShift, Helm • MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb • Vektordatenbanken, Embedding-Modelle, Reranker • Azure AI Foundry, AWS Bedrock oder Vertex AI • EU AI Act, ISO 27001, Barrierefreiheit • Erfahrung bei Bahn, Behörden oder Sozialversicherung • Prometheus und Grafana, ArgoCD, SAFe Benefits • Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien. • Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest. • Internes Upskilling. Wir investieren in deine KI-Skills. • MacBook • Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner. Dann bewirb dich, ein Lebenslauf reicht, ein Anschreiben brauchst du nicht. Wenn du früh verfügbar bist, ist das ein klares Plus. Wir melden uns innerhalb weniger Tage. Find Jobs in Germany on Arbeitnow