„Im Namen des Computers?“ – Ethische Aspekte der KI im Sozialrecht und im sozialgerichtlichen Verfahren am 13.11.2023 in Kassel

„KI? Wenn Sie denken, dass betrifft Sie alle nicht: Denken Sie noch einmal nach!“ Diese Aufforderung von Prof. Dr. Hornung (Universität Kassel) zu Beginn seines Vortrags zog sich wie ein roter Faden durch den Workshop „Im Namen des Computers?“ – Ethische Aspekte der KI im Sozialrecht und im sozialgerichtlichen Verfahren, der am 13.November 2023 in Kassel stattfand. Auch die nächste Botschaft stellte manche Gewissheit in Frage: „Wie Justiz in 20 Jahren arbeiten wird, weiß schlicht niemand.“ Selbst der Zeithorizont der KI-Wissenschaft sei auf 10 Jahre begrenzt. Wie realistisch ist es aber, dass in nicht allzu ferner Zeit „Robo-Richter“ Entscheidungen treffen? Die Tagung hat deutlich gemacht, dass KI längst zum Einsatz kommt: in der Universität, in der Anwaltschaft, in beratenden Berufen, der Versicherungsbranche oder in der Verwaltung. Und doch, so Prof. Dr. Hornung und Prof. Dr. Roth-Isigkeit (Universität Speyer), würden unsere derzeitigen rechtlichen Rahmenbedingungen – insbesondere das im Grundgesetz bestimmte richterliche Letztentscheidungsrecht – nicht weiterhelfen, auf die Auswirkungen von KI passend zu reagieren. Sie betonten eine gewisse Agilität im Denken: Muss jede Entscheidung durch einen Menschen getroffen werden? Trifft die KI am Ende nicht sogar die besseren Entscheidungen? Mit Blick auf die Praxis in den Bundesländern wurde deutlich, dass das Thema KI unterschiedlich priorisiert ist. Das bayerische Staatsministerium der Justiz habe den Fokus schon seit Längerem auf dem Thema, referierte Frau Dr. Leeb von der dortigen Stabsstelle Legal Tech. In Schleswig-Holstein gibt es seit April 2022 das IT-Einsatz-Gesetz bei öffentlich-rechtlicher Verwaltungstätigkeit. KI findet hier unter menschlicher Aufsicht Anwendung. Die Überprüfung einer Entscheidung, die auf Grundlage von KI getroffen wurde, durch einen Menschen wird mit der dafür geregelten KI-Rüge sichergestellt. Was technisch möglich ist, muss am Ende auch einer rechtlichen Entscheidung durch Menschen standhalten. Ri`inLSG Gall (Schleswig-Holstein) ging in ihrem „Statement aus Sicht des SGB V“ sogar noch einen Schritt weiter: „Wer sich zu sehr von Technik abhängig macht, verlernt am Ende Fähigkeiten und verliert Wissen.“ Auf Ebene der EU sind sich die Akteure bezüglich der KI-Verordnung nun jedenfalls im Wesentlichen einig. Was das alles insbesondere für die Arbeit der Justiz bedeutet, beleuchteten RiBSG Rademacker (IT-Referent BSG) und RiLSG Dr. Schifferdecker (Berlin-Brandenburg, DRB LV Berlin) unterschiedlich. Während Dr. Schifferdecker dafür plädierte, die Nutzung von Chatbots wie ChatGPT nicht zu verbieten und nicht an der menschlichen Letztentscheidung festzuhalten, sah dies RiBSG Rademacker kritisch und stieß Überlegungen an, unter welchen Bedingungen KI in der richterlichen Arbeit eingesetzt werden könnte. Im Anschluss gab es aus dem Kreis der Teilnehmenden eine Vielzahl von Anregungen, die die Ethik-Kommission in puncto „Ethische Aspekte der KI“ weiterverfolgen soll. Die Vizepräsidentin des DSGT, Präsidentin des LSG Schleswig-Holstein Dr. Fuchsloch, dankte allen Teilnehmenden für die informative und lebendige Tagung und lud dazu ein, die Anregungen in der Kommission weiterzudenken: „Bei dieser Vielfalt an Themen brauchen wir Ihren persönlichen Input!“ 

Und so geht es weiter:

Die Ethik-Kommission trifft sich online am 24. Januar 2024, 15 Uhr (ca. 90 Minuten). Bitte wenden Sie sich wegen des Einwahllinks an die Geschäftsstelle des DSGT.

Workshop Unterlagen:

Workshop Programm als pdf

Unterlagen Prof. Dr. Hornung (Passwort über die Geschäftsstelle des DSGT erhältlich)

Unterlagen Janine Gall (Passwort über die Geschäftsstelle des DSGT erhältlich)

Tagungsbericht (folgt)