Was passiert, wenn private KI-Systeme irgendwann an fast jedem Schritt unseres Rechtssystems beteiligt sind?

Gesetze werden mit KI entworfen. Anwältinnen und Anwälte schreiben ihre Schriftsätze mit KI. Juristische Kommentare entstehen mit KI. Und irgendwann nutzen vielleicht auch Richterinnen und Richter dieselben Systeme für ihre Entscheidungen.

Damit könnte sich etwas verändern, über das bisher erstaunlich wenig gesprochen wird: Ein Teil der Rechtssetzung und Rechtsanwendung wandert faktisch in Systeme privater Technologieunternehmen. Systeme, bei denen wir oft nicht wissen, welche Quellen sie berücksichtigen, welche Informationen sie stärker gewichten und welche Vorgaben im Hintergrund ihre Antworten beeinflussen.

Wir sprechen darüber, ob das zu einer Privatisierung des Rechts führt, ob eine KI jemals wirklich neutral entscheiden kann und ob wir uns vorstellen könnten, einen Rechtsstreit freiwillig von einer KI entscheiden zu lassen.

Außerdem geht es um ein verwandtes Problem: KI produziert immer mehr Inhalte im Internet und nutzt diese anschließend selbst wieder als Quellen. Was passiert, wenn sich KI zunehmend aus ihren eigenen Inhalten speist und das Internet immer stärker aus Bots und AI Slop besteht?

Unterstützt uns auf Steady, damit wir unabhängig bleiben: www.steady.de/ki-podcast