
Der Einsatz von lernfähigen Sprachsystemen könnte helfen, die Funktionen des Justizsystems effektiver und effizienter zu erfüllen, und damit Grundrechte, Demokratie und Rechtsstaat stärken. Zu den Beispielen für einen positiven Einsatz gehören die Unterstützung in Massenverfahren – was zum Beispiel bereits in der Bearbeitung von Fluggastrechten und Dieselklagen erfolgt –, die Auswertung von Akten, der Rechtsprechung und Literatur sowie von Beweismitteln (zum Beispiel Daten- oder Bildersammlungen). Sie könnten außerdem helfen, Schriftsätze zu erstellen und diese auf ihre Schlüssigkeit zu prüfen sowie eine konsistente Rechtsprechung oder Vertragsgestaltung zu gewährleisten. Lernfähige Sprachsysteme könnten schließlich Entscheidungen (zum Beispiel in Massenverfahren) entwerfen oder sogar Entscheidungen (zum Beispiel automatisierte Verwaltungsakte) selbst treffen.
Der Einsatz im Justizsystem ist aber auch mit immanenten und externen Risiken verbunden. Schwer auszuschließen ist, dass die Trainingsdaten unerkannt einen Bias aufweisen, der zu unerwünschten Diskriminierungen führen kann. Sind die Trainingsdaten veraltet oder unvollständig (zum Beispiel wenn neueste höchstrichterliche Entscheidungen fehlen), können die Ergebnisse unbrauchbar werden. Die verarbeiteten personenbezogenen Daten, die in den Trainingsdaten enthalten sind oder durch die Nutzung des Systems entstehen, können zur Profilbildung verwendet werden, auf deren Grundlage einzelne Personen benachteiligt oder in ihrem Verhalten beeinflusst werden. Sprachsysteme werden wie alle vernetzten IT-Systeme Cyber-Angriffen ausgesetzt sein, die zu Datenmanipulation, Datenverlust oder Systemausfall führen können.
Der Einsatz lernfähiger Sprachsysteme könnte für das Justizsystem aber auch mit langfristigen Folgen verbunden sein. Aufgrund des Blackbox-Charakters dieser Systeme ist ihre Arbeitsweise weitgehend intransparent. Dies könnte langfristig zu Verhaltensänderungen für die Akteure im Justizsystem führen. Die Automatisierung der Kommunikation mit betroffenen Menschen (zum Beispiel durch Chatbots) könnte die kommunikative Funktion der Justiz verändern und ihre streitschlichtende Wirkung gefährden. Für die unterschiedlichen Funktionen im Justizsystem kann sich somit die Frage stellen, ob diese noch in der gesetzlich vorgesehenen Form erfüllt werden können: Entscheidet am Ende noch der gesetzliche Richter, ist die rechtsprechende Gewalt noch unabhängigen Richtern übertragen und wird ein Rechtsanwalt noch seiner Verantwortung gegenüber Mandaten sowie der Rechtspflege gerecht?