Senior AI Engineer – Legal Agent Automation (m/w/d)

Permanent employee, Full-time · Berlin, Hybrid

Read job description in:
Was dich erwartet
  • Entwicklung strukturierter, mehrstufiger AI-Agenten-Workflows (Planner/Worker, Swarm, Hierarchien)
  • Auswahl und Implementierung moderner Agenten-Frameworks (z.B. LangGraph, AutoGen)
  • Vollverantwortung für die Pipeline: Datenaufnahme, Fine-Tuning (LoRA, RLHF), RAG, Evaluation, CI/CD
  • Aufbau und Skalierung von RLHF-Loops basierend auf echtem juristischem Feedback
  • Sicherstellung von Observability, Sicherheit und Testbarkeit (Guardrails, Traces, Eval-Tools)
  • Betrieb auf Azure, AWS (optional GCP); Verwaltung von GPUs, Vektor-Datenbanken, Infrastruktur als Code
  • Aufbau sicherer, rechtskonformer Systeme (DSGVO, EU AI Act, Prompt-Injection-Schutz)
  • Enge Zusammenarbeit mit Jurist:innen, schnelles Iterieren an echten Use Cases
  • Mentoring im Team und Unterstützung bei der unternehmensweiten Einführung
Was du mitbringst
  • Python und Softwareentwicklung auf Profi-Niveau – clean, testbar, skalierbar
  • Fundierte LLM-, RLHF- und Fine-Tuning-Erfahrung plus Know-how in Retrieval-Augmented Generation (RAG)
  • Praxis mit Agent-Frameworks oder eigene Orchestrierung am Start
  • Evaluations- und Monitoring-Tools für LLMs sind kein Neuland für dich
  • Cloud-Experte (Azure, AWS, GCP) und IaC (Terraform, Pulumi, etc.)? Nice-to-have!
  • Bonuspunkte für Legal NLP, Explainable AI und Deutschkenntnisse
Was wir versprechen
  • Volle Verantwortung für eine Kernkomponente mit echtem Impact
  • Gestalte die Agenten-Architektur aktiv mit – inkl. Budget für Experimente
  • Arbeite an der Schnittstelle von KI und Recht – mit echtem Praxisbezug
  • Modernes Office in Berlin-Mitte, High-End-Hardware, flexibles Hybridmodell
  • Klare, diverse & pragmatische Teamkultur – Englisch als Arbeitssprache, Deutsch optional
  • Regelmäßige Weiterbildung: Konferenzen, LegalTech-Roundtables, Expertenaustausch
Über uns
Legalhero ist die moderne Plattform für Rechtsschutzversicherungen und Anwälte. Wir verfolgen das ehrgeizige Ziel, die Schadensfallabwicklung von Rechtsschutzversicherungen zu revolutionieren. Dazu integrieren wir uns direkt in die Systeme der Versicherer. Unsere Partneranwälte wickeln die Fälle hocheffizient und kundenorientiert auf unserer Tech-Plattform mit Hilfe von KI ab. Legalhero wurde 2017 gegründet und hat bis heute hunderttausenden von Versicherungsnehmern geholfen. Unsere ca. 90 Kollegen sitzen in Berlin, nahe dem Gleisdreieck. 
 
Ein inklusives, gleichberechtigtes und diskriminierungsfreies Arbeitsumfeld ist für uns selbstverständlich. Wenn du eine Beeinträchtigung oder spezielle Bedürfnisse haben solltest und während des Bewerbungsprozesses spezielle Unterstützung benötigst, teile es uns gerne mit.
What You'll Do
Let’s build legal agents that actually think like lawyers.
We’re bringing AI agents into the real legal world – no gimmicks, no half-baked prototypes. With you on board, we’ll scale our working PoC into a secure, production-ready system that helps lawyers focus on what really matters.

You’ll own architecture, implementation, and ops – from fine-tuning and RAG to orchestration and RLHF. You choose the frameworks. You shape the stack. You build it end-to-end.

  • Design intelligent agent workflows (planner/worker, swarms, etc.)
  • Build and own the full AI pipeline: fine-tuning, RAG, evals, CI/CD
  • Set up a scalable RLHF loop based on real legal feedback
  • Run things reliably across Azure, AWS (or GCP if better)
  • Implement solid security & GDPR-ready infrastructure
  • Work hands-on with lawyers to test, iterate and ship
What you bring
  • Strong Python skills and clean, production-grade engineering mindset
  • Deep experience with LLMs, RLHF, fine-tuning, and RAG pipelines
  • Hands-on with agent frameworks – or custom orchestration logic
  • Familiar with eval & observability tools for LLM systems
  • Solid cloud know-how (Azure, AWS or GCP) and IaC (Terraform, Pulumi, etc.)
  • Bonus: legal NLP experience, explainable AI, German language skills
What we promise
  • Build core infrastructure with full ownership and real impact
  • Shape the agent tech stack – with budget to experiment and scale
  • Work at the intersection of AI and law – in a real-world setting
  • Office in Berlin-Mitte, high-end gear, hybrid setup (4:1)
  • Smart, diverse, no-nonsense team – English first, German optional
  • Ongoing learning: conferences, LegalTech roundtables, expert exchange
About us
Legalhero is the modern platform for legal protection insurance and lawyers. We pursue the ambitious goal of revolutionizing the claims settlement process for legal protection insurance. To this end, we integrate directly into the insurers' systems. Our partner lawyers handle cases highly efficiently and in a customer-oriented manner on our tech platform with the help of AI. Legalhero was founded in 2017 and has helped hundreds of thousands of policyholders to date. Our approximately 90 colleagues are based in Berlin, near the Gleisdreieck. 
 
An inclusive, equal, and non-discriminatory work environment is a matter of course for us. If you have a disability or special needs and require special support during the application process, please let us know.
Your application!
Wir freuen uns sehr über dein Interesse an Legalhero. Bitte fülle das nachstehende Bewerbungsformular aus, dann landet deine Bewerbung gleich an der richtigen Stelle. Sollte es technische Schwierigkeiten geben, schreibe uns gern an karriere@legalhero.de.
Uploading document. Please wait.
Please add all mandatory information with a * to send your application.