Einsatz Künstlicher Intelligenz im Justizsystem

Der Einsatz von lernfähigen Sprachsystemen könnte helfen, die Funktionen des Justizsystems effektiver und effizienter zu erfüllen, und damit Grundrechte, Demokratie und Rechtsstaat stärken. Zu den Beispielen für einen positiven Einsatz gehören die Unterstützung in Massenverfahren – was zum Beispiel bereits in der Bearbeitung von Fluggastrechten und Dieselklagen erfolgt –, die Auswertung von Akten, der Rechtsprechung und Literatur sowie von Beweismitteln (zum Beispiel Daten- oder Bildersammlungen). Sie könnten außerdem helfen, Schriftsätze zu erstellen und diese auf ihre Schlüssigkeit zu prüfen sowie eine konsistente Rechtsprechung oder Vertragsgestaltung zu gewährleisten. Lernfähige Sprachsysteme könnten schließlich Entscheidungen (zum Beispiel in Massenverfahren) entwerfen oder sogar Entscheidungen (zum Beispiel automatisierte Verwaltungsakte) selbst treffen.

Der Einsatz im Justizsystem ist aber auch mit immanenten und externen Risiken verbunden. Schwer auszuschließen ist, dass die Trainingsdaten unerkannt einen Bias aufweisen, der zu unerwünschten Diskriminierungen führen kann. Sind die Trainingsdaten veraltet oder unvollständig (zum Beispiel wenn neueste höchstrichterliche Entscheidungen fehlen), können die Ergebnisse unbrauchbar werden. Die verarbeiteten personenbezogenen Daten, die in den Trainingsdaten enthalten sind oder durch die Nutzung des Systems entstehen, können zur Profilbildung verwendet werden, auf deren Grundlage einzelne Personen benachteiligt oder in ihrem Verhalten beeinflusst werden. Sprachsysteme werden wie alle vernetzten IT-Systeme Cyber-Angriffen ausgesetzt sein, die zu Datenmanipulation, Datenverlust oder Systemausfall führen können.

Der Einsatz lernfähiger Sprachsysteme könnte für das Justizsystem aber auch mit langfristigen Folgen verbunden sein. Aufgrund des Blackbox-Charakters dieser Systeme ist ihre Arbeitsweise weitgehend intransparent. Dies könnte langfristig zu Verhaltensänderungen für die Akteure im Justizsystem führen. Die Automatisierung der Kommunikation mit betroffenen Menschen (zum Beispiel durch Chatbots) könnte die kommunikative Funktion der Justiz verändern und ihre streitschlichtende Wirkung gefährden. Für die unterschiedlichen Funktionen im Justizsystem kann sich somit die Frage stellen, ob diese noch in der gesetzlich vorgesehenen Form erfüllt werden können: Entscheidet am Ende noch der gesetzliche Richter, ist die rechtsprechende Gewalt noch unabhängigen Richtern übertragen und wird ein Rechtsanwalt noch seiner Verantwortung gegenüber Mandaten sowie der Rechtspflege gerecht?

Im Mittelpunkt des Kollegs sollte die Frage stehen, welche Herausforderungen die Unterstützung durch lernfähige Sprachsysteme für die Akzeptanz und Akzeptabilität des Justizsystems hervorbringt und wie diese zu bewältigen sind. Der interdisziplinäre Forschungsverbund, der idealerweise relevante fächerübergreifende Forschungsperspektiven verbindet, sollte für absehbare Szenarien der Anwendung von lernfähigen Sprachsystemen im Justizsystem Chancen, Risiken und Folgen prognostizieren, analysieren und bewerten und Vorschläge zur Gestaltung der Anwendungen und der Transformationsprozesse erarbeiten.

Die Stiftung fördert für einen Zeitraum von in der Regel drei Jahren einen Forschungsverbund, der aus mehreren Arbeitsgruppen an unterschiedlichen wissenschaftlichen Einrichtungen im In- und Ausland besteht. Dieser Forschungsverbund trägt im Fall einer Förderung durch die Stiftung die Bezeichnung Ladenburger Kolleg. Unter der wissenschaftlichen Leitung des Antragstellers, der auch die Sprecherfunktion im Verbund einnimmt, wird das Forschungsthema "Einsatz Künstlicher Intelligenz im Justizsystem" von allen Mitgliedern des Verbunds gemeinsam bearbeitet. Diese agieren in hohem Maße frei, legen ihr Forschungsprogramm eigenständig fest und treffen sich regelmäßig. Die Stiftung bietet an, einzelne Treffen im Carl-Benz-Haus, dem Sitz der Geschäftsstelle in Ladenburg, durchzuführen.

Der Antragsteller muss an einer Hochschule oder gemeinnützigen außeruniversitären Forschungseinrichtung in Deutschland, die weiteren Teilnehmer des Konsortiums können auch an ausländischen Forschungseinrichtungen tätig sein. Antragsberechtigt sind neben Professoren und Juniorprofessoren auch promovierte unabhängige Forschungsgruppenleiter (zum Beispiel Habilitanden und Postdoktoranden mit einer eigenen Arbeitsgruppe), sofern diese ihre Unabhängigkeit innerhalb ihrer wissenschaftlichen Einrichtung in geeigneter Weise nachweisen können. Pro Antragssteller kann nur ein Antrag eingereicht werden.

Voraussetzung für die Antragstellung ist, dass sich bereits ein potenzieller Forschungsverbund formiert hat. Bitte reichen Sie keine Anträge für Einzelprojekte ein, da die Stiftung den Forschungsverbund nicht selbst zusammenstellt. Hinsichtlich der möglichen
Teilnehmer in einem Verbundprojekt gibt die Stiftung keine Zahl vor. Verbünde, die auf eine einzelne Stadt oder nur eine Forschungseinrichtung begrenzt sind, werden nicht gefördert.

Die Ausschreibung für das Format "Ladenburger Kolleg" steht Wissenschaftlern sämtlicher Disziplinen offen. Die Stiftung finanziert vorrangig Stellen für Promovierende und Reisemittel, auch Stellen für Postdoktoranden können beantragt werden. Sachmittel, sofern sie mit der Ausschreibung des Verbundprojekts im direkten Zusammenhang stehen (zum Beispiel Kosten für Programmierung), können nur in einem sehr begrenzten Umfang (maximal zehn Prozent der Gesamtmittel) bewilligt werden.

Nicht beantragt werden können Kosten für die Grundausstattung, Gebühren, Overhead- und Verwaltungskosten sowie Kosten für die Befreiung von der Lehre. Die Stelle für einen internen Koordinator des Verbundprojekts kann nur dann beantragt werden, wenn der Stelleninhaber aktiv in Vollzeit an der Forschungstätigkeit des Kollegs teilnimmt; eine reine Verwaltungsstelle wird nicht bewilligt.