AI/ML Engineer (m/w/d) – Generative AI + Legal AI

Role Overview & Responsibilities

YPOG ist eine führende Wirtschaftskanzlei für Rechts- und Steuerberatung mit einem starken Fokus auf Legal Tech, Legal AI und Innovation. Wir entwickeln digitale Lösungen und AI-Produkte, die unsere Beratung von morgen gestalten.
Bei YPOG arbeiten wir in einer voll digitalisierten Umgebung, ein wertschätzendes Miteinander auf allen Ebenen steht im Mittelpunkt und flexible Zusammenarbeit gehört zu unserem Alltag. Dabei setzen wir auf agile, pragmatische Ansätze mit direkter Kommunikation und schnellen Iterationen. Uns ist wichtig, in cross-funktionalen Teams einzigartige Legal-AI-Produkte zu entwickeln und den Rechtsmarkt von morgen mit Generative AI, Machine Learning und modernen Softwarelösungen aktiv mitzugestalten.Ready to build what's next?Du entwickelst produktionsreife KI-Systeme für anspruchsvolle juristische Anwendungsfälle und arbeitest mit modernen Technologien aus den Bereichen Generative AI, Large Language Models (LLMs), Machine Learning und Agentic AI. Dabei verbindest du moderne LLM- und Machine-Learning-Ansätze mit belastbarer Softwarearchitektur, systematischer Evaluation und einem klaren Blick für Sicherheit, Datenschutz und Nutzermehrwert.
Du übernimmst Verantwortung von der ersten Hypothese über Prototyping und Benchmarking bis zu Deployment, Monitoring und kontinuierlicher Verbesserung. Wenn du KI-Systeme nicht nur demonstrieren, sondern zuverlässig in die Anwendung bringen möchtest, freuen wir uns auf deine Bewerbung.

• Design, Entwicklung und Betrieb produktionsreifer Legal-AI-Systeme auf Basis moderner, modellunabhängiger Frameworks und AI Best Practices
• Entwicklung von Generative-AI- und LLM-Anwendungen, insbesondere Retrieval-Augmented Generation (RAG), Agentic-AI-, Agenten- und Tool-Use-Workflows sowie strukturierte Informationsextraktion
• Konzeption von Daten-, Retrieval- und Inferenzpipelines für komplexe juristische Dokumente und Wissensbestände
• Auswahl und Integration geeigneter Modelle und Anbieter unter Berücksichtigung von Qualität, Latenz, Kosten, Datenschutz und Betriebssicherheit
• Entwicklung belastbarer Evaluations- und Benchmarking-Frameworks für fachliche Richtigkeit, Retrieval-Qualität, Robustheit und Zuverlässigkeit
• Aufbau und Pflege von Testdatensätzen, automatisierten Evaluationspipelines und aussagekräftigen Qualitätsmetriken
• Analyse von Fehlerbildern sowie systematische Optimierung von Prompts, Prompt Engineering, Chunking, Retrieval, Ranking, Tool-Nutzung und Systemarchitektur
• Monitoring, LLMOps und kontinuierliche Verbesserung von KI-Systemen im produktiven Betrieb
• Enge Zusammenarbeit mit Legal Engineers, Software Engineers, Anwält:innen, Product und weiteren interdisziplinären Teams
• Technische Dokumentation sowie Sicherstellung eines sicheren, nachvollziehbaren und verantwortungsvollen KI-Einsatzes

Fachliche und technische Qualifikationen

• Praktische Erfahrung in AI Engineering, Machine Learning Engineering, Applied AI, Data Science mit Produktionsverantwortung oder einer vergleichbaren Rolle
• Sehr gute Python-Kenntnisse und Erfahrung mit modernen AI-, Machine-Learning- und Generative-AI-Frameworks und Libraries
• Nachweisbare Erfahrung beim Aufbau produktionsreifer LLM-Anwendungen, nicht nur beim Prompting oder Prototyping
• Fundiertes Verständnis von Retrieval-Augmented Generation (RAG), Embeddings, semantischer Suche, Vector Databases, Chunking, Ranking und Kontextmanagement
• Erfahrung mit der systematischen Evaluation generativer KI-Systeme, einschließlich Testdatensätzen, Qualitätsmetriken, automatisierten Tests und Human Evaluation
• Nice to have: Erfahrung mit LLMOps, MLOps, Tracing, Guardrails, Red Teaming oder der Bewertung von Halluzinationen und Unsicherheit
• Nice to have: Erfahrung in der Verarbeitung komplexer Dokumente, beispielsweise PDF, DOCX oder XML, einschließlich Parsing, Layoutanalyse und OCR
• Nice to have: Erfahrung in Legal Tech, RegTech oder anderen wissensintensiven und regulierten Bereichen

• Direkte Kommunikation: Klar, offen und lösungsorientiert in Deutsch und Englisch
• Agilität & Flexibilität: Wohlfühlen in dynamischen Umgebungen ohne starre Prozesse
• Proaktive Haltung: Ownership für deine Projekte und Features
• Teamplayer: Kollaboration über Fachgrenzen hinweg
• Pragmatisches Denken: Fokus auf funktionierende Lösungen statt Perfektionismus
• Ergebnisorientierung: Schnelle Iterationen und Priorisierung wichtiger Aufgaben

Flexibel arbeiten

• Flexibles Arbeiten im Büro oder mobil – je nachdem, was für dich und dein Team passt
• Regelmäßige Formate für persönlichen Austausch und Zusammenarbeit am Standort
• Standortübergreifende Zusammenarbeit mit Teams aus verschiedenen Büros
• Möglichkeit zur Workation innerhalb der EU

• Moderne Büros in zentraler Lage und einer Arbeitsumgebung zum Wohlfühlen
• Digitale Arbeitsprozesse, AI-gestützte Tools und eine hochwertige IT-Ausstattung für effizientes Arbeiten im Büro und mobil

• Weiterbildungsprogramm „YBrains“ mit Inhalten zu z. B. Zeitmanagement, Projektmanagement sowie Tech- und AI-Themen
• Unterstützung externer Weiterbildungen, wenn sie zu dir und deiner Entwicklung passen
• Regelmäßiges Feedback als fester Bestandteil unserer Zusammenarbeit
• Arbeiten in einer digital geprägten Umgebung, in der AI-Tools unseren Arbeitsalltag aktiv unterstützen

• Gemeinsame Weihnachtsfeier mit Kolleg:innen aus allen Standorten
• Regelmäßige Formate wie das YPOG Update für standortübergreifende Kommunikation und Einblicke
• Team-Offsites für Strategie, Austausch und neue Perspektiven

• Mitgliedschaften bei Urban Sports Club und EGYM Wellpass
• OpenUp mit unbegrenztem 1:1 Zugang zu Coaching und Mindfulness-Angeboten
• Zusätzliche Angebote wie Yoga, Rückenschule und Lauf-Coaching
• Gesunde Snacks im Büro – vom Klassiker Obstkorb bis zu allem, was dein Energielevel zwischendurch wieder hochbringt
• Ergonomisch top ausgestattete Arbeitsplätze

• Deutschlandticket für deinen Arbeitsweg ins Büro
• Möglichkeit zum JobRad-Leasing für eine flexible und nachhaltige Mobilität

Fragen? Gern! Du erreichst das People + Culture Team unter -----

Find Jobs in Germany on Arbeitnow