Digitalisierung ist kein Naturereignis

Mit der Geschwindigkeit des technologischen Wandels kann die Anpassung der Rechtsnormen nicht mithalten. Ob Algorithmen, KI oder Blockchain: Noch viele Rechtsfragen sind offen und von Fall zu Fall zu entscheiden.

Von Heike Hausensteiner

Ein Getränkeautomat gibt aufgrund eines Münzeinwurfs eine Flasche aus, weil das Gerät mit den Kunden einen „smarten Vertrag“ abschließt, basierend auf einer Programmierung. Dass die Steuererklärung online bekannt gegeben und in Sekundenschnelle eine allfällige Zahlung oder Gutschrift ausgerechnet werden kann, ist praktisch – ebenso bestimmte Amtswege digital abwickeln zu können. Soll in Zukunft jedoch zum Beispiel Fehlverhalten im Straßenverkehr mit einer sofort auf das Smartphone flatternden Strafe geahndet werden? Sollen aufgrund von ungesunden Einkäufen und riskanten Sportarten künftig die Sozialversicherungsbeiträge steigen?

Die Digitalisierung setzt auch das Rechtssystem unter Druck, die Gesetzgebung gleichermaßen wie die Rechtsprechung und Rechtswissenschaften. Dass das Internet einen „gesamthaften Zugang“ zum Recht ermögliche, sei dabei eine „Scheinsicherheit“, so Thomas Ratka, Vizerektor für Lehre und Wissenschaftliche Weiterbildung an der Donau-Universität Krems (siehe Interview). Denn einerseits würden Gerichte und Behörden mitunter „mit Sammelsurien zugespammt“, andererseits steige die Quantität der Rechtsquellen exponentiell.

Auch Peter Parycek sieht die Herausforderungen: „Wir haben viel Erfahrung in der Regulierung des analogen Wegs, im Verwaltungsrecht sind das fast 300 Jahre, im Zivilrecht ab der Industrialisierung sind es gut 150 Jahre. Regulierung baut auf Erfahrungswerten auf, nach Jahrzehnten kann man am Ende des Tages gut regulieren. Was wir alle unterschätzt haben, ist, dass wir im digitalen Neuland ankommen. Technisch wissen wir, wie es funktioniert, aber in allen unterschiedlichen Ausprägungen stehen wir noch am Anfang“, erklärt der Rechtsinformatiker, Leiter des Departments für E-Governance in Wirtschaft und Verwaltung sowie Chief Digital Officer der Donau-Universität Krems.

Überforderte Politik

Vor allem im öffentlichen Recht müsste überlegt werden, wie die Digitalisierung aussehen könnte. „Beim Datenschutz haben wir sicher noch nicht die letzte Version getroffen und künstliche Intelligenz (KI) müssen wir regulieren. Die Gesellschaft erwartet das von der Politik, die aber teilweise damit überfordert ist“, so Parycek.

Es gibt technologische Möglichkeiten, die schnellere Abläufe garantieren – und demokratie- und rechtspolitisch unumstritten sind. Etwa das Online-Amtsblatt in Österreich oder E-Voting in Estland, wo seit 2005 die Stimmabgabe bei Wahlen elektronisch möglich ist. Soll allerdings tatsächlich ein Algorithmus zum Beispiel Arbeitsuchenden einen Job vermitteln?

„Wir müssen immer wieder überprüfen, wie KI auf die Gesellschaft und auf den Einzelnen wirkt. Das wird auch länger so bleiben“, meint Parycek. Kein machine learning wie bei KI, sondern automatisierte Abläufe regeln die Bearbeitung der Einkommensteuer oder der Familienbeihilfe, welche in Österreich längst auf einen vollautomatisierten Prozess umgestellt wurden: Sobald alle Datenpunkte vorhanden sind, ist der Vollzug automatisiert und wird online überwiesen, sogar ohne Antrag. „Selbst hier gehen die politischen Meinungen auseinander, inwieweit ein Staat Zuwendungen ohne Antrag auszahlen soll. Das wurde parteipolitisch in Österreich nicht diskutiert, in der Schweiz und Deutschland wird das mitunter als Bevormundung der BürgerInnen gesehen.“

Christiane Wendehorst, stellvertretende Vorständin des Instituts für Innovation und Digitalisierung des Rechts in Wien: „Wir leben und arbeiten größtenteils mit Rechtsnormen und Systemvorstellungen, die sich über die letzten Jahrhunderte entwickelt haben, die aber teilweise einfach nicht mithalten konnten mit der Geschwindigkeit des technologischen Wandels. Hier muss massiv nachgearbeitet und die Geschwindigkeit der Anpassung des Rechts erhöht werden. Man muss auch bereit sein, Dinge ganz neu zu denken. Wir können uns nicht auf die Denkweisen der letzten Jahrhunderte beschränken.“

Wir sind gewohnt, dass wir Rechtsnormen schaffen, die unmittelbar das Verhalten von Menschen regeln. „Das soll im Grundsatz auch so bleiben, aber wir müssen viel mehr daran denken, durch Technik zu regulieren, Designvorgaben zu machen, um damit indirekt viel effektiver und viel effizienter bestimmte rechtspolitische Ziele zu erreichen, die wir mit herkömmlichen Rechtsnormen nicht mehr erreichen. Wir können nicht nur Rechtsnormen schaffen, die in der Mitte des 20. Jahrhunderts Sinn gemacht haben. Wir brauchen Rechtsnormen, die die Technologie des 21. Jahrhunderts mitnehmen – und das haben wir einfach momentan noch nicht.“ Wenngleich Europa hinsichtlich der rechtlichen Innovationen schon immer als „Frontrunner“ gesehen werde, präzisiert Wendehorst.

Brüssel-Effekt

„Wir  stehen  hier  nicht  besonders  schlecht da. Ganz im Gegenteil sprechen wir häufig von einem ‚Brüssel-­Effekt‘: Europa ist in der letzten Zeit mit verschiedenen Regeln zum digitalen Zeitalter vorgeprescht und hat Rechtsnormen geschaffen, die angesichts der globalen Vernetzung international Standards gesetzt haben.“

Im  Digital  Economy  and  Society  Index (DESI) führend sind derzeit Dänemark, Schweden und, an der Spitze,  Finnland, „insbesondere aufgrund der Politik in den vergangenen 20 Jahren“, meint Parycek. „In Österreich waren wir phasenweise sehr gut unterwegs und liegen momentan im vorderen Mittelfeld. Bei der Digitalisierung der Verwaltung sind wir gut am Weg, aber im Gesundheitsbereich haben wir einen hohen Aufholbedarf und noch sehr viel Papier in den Prozessen.“

Michael Mayrhofer von der Johannes Kepler Universität, der auch das Linz Institute of Technology (LIT) Law Lab leitet, gibt zu bedenken: „Einerseits kann eine Überregulierung dazu führen, dass sich neue Technologien nicht so gut etablieren können, also Innovationsnachteile verursachen. Umgekehrt kann das Recht in einer nicht geeigneten Form oder gar nicht steuern und es können damit verbundene Nachteile oder ‚Gefahren‘ schlagend werden.“ Im LIT Law Lab in Linz herrsche deshalb grundsätzlich das Credo: „Die digitale Transformation ist jedenfalls kein Naturereignis, sondern ein steuerbarer Prozess. Recht kann ein ganz wesentliches Element zur Steuerung des Prozesses sein und somit auch Technologie und Innovation fördern, weil das Recht insbesondere helfen kann, Vertrauen und Akzeptanz zu schaffen.“ Als Beispiel nennt Mayrhofer Algorithmen, die entscheiden, ob jemand einen Versicherungsvertrag bekommt, wie viel Sozialversicherung jemand bezahlt oder ob jemand einen Job bekommt – „wenn das alles ungeregelt ist, werden diese Technologien wahrscheinlich wenig bis gar nicht akzeptiert werden“.

Vertrauensräume

Bei neuen Entwicklungen müsse man „Vertrauensräume schaffen für die Menschen, und dafür ist das Recht sehr geeignet: wenn ich sicher sein kann, dass mit meinen Daten nichts passiert oder dass beispielsweise das autonome System im Auto nicht nur auf den Schutz der Insassen gerichtet ist.“ Das Recht kann vorgeben, dass zum Schutz von Fußgängern mitunter die Auto-Insassen gefährdet werden müssen – sodass Wettbewerbsnachteile für Automarken verhindert werden, die stärker auf den Fußgängerschutz abstellen.

Hinsichtlich der enormen Entwicklungsdynamik neuer Technologien „muss der Rechtssetzer irgendwie mithalten“, findet auch Mayrhofer. Als neue Formen der Rechtssetzung sieht er hier etwa „Reallabore“ oder regulatory sandboxes: Man lässt in einem rechtlich geschützten Rahmen bestimmte Technologien zu, so dass das Mitentwickeln von rechtlichen Rahmenbedingungen entlang des Ausprobierens von Technologien viel mehr zum Normalfall wird. „Sonst wird man mit der Entwicklung nicht Schritt halten. Ich kann mir nicht zehn Jahre lang eine KI anschauen, um dann einen geeigneten Rechtsrahmen zu schaffen, weil es in dieser Zeitspanne ganz andere KI-Systeme geben wird.“

Inklusive Funktion

Wie KIs und entsprechende Dienste überprüft werden können, ist freilich noch offen. Parycek berichtet etwa von der Forderung nach einem „TÜV“; allerdings handelt es sich bei KI um keine statischen Produkte wie beim TÜV. „Hier sind noch viele Fragen offen, auf die wir Antworten finden müssen. Insofern ist die Rechtswissenschaft besonders gefordert, dazu Beiträge zu leisten – und sich auch den Sozialwissenschaften zu öffnen. Diese können wiederum helfen, Systeme und Zusammenhänge zu verstehen, um gut und wirksam regulieren zu können.“

Der Vollautomatisierung ohne machine learning durch KI kann Parycek insgesamt Positives abgewinnen, da eine inklusive Funktion“ erreicht werden könne. Denn es gebe in der Gesellschaft weniger einen digital divide, sondern vielmehr eine Kluft aufgrund der funktionalen Analphabeten im Bereich Digitales. Je nach Umfrage und Fragestellung würden folglich 30 Prozent bestimmte staatliche Leistungen gar nicht beantragen und nicht erhalten. Klar scheint: Effizienz und Geschwindigkeit reichen als Kriterien für den Einsatz automatisierter Verfahren nicht aus.

Unintended side effects

Alles andere als eindeutig verläuft die Trennlinie zwischen digitalen Technologien, die für das Rechtswesen sinnvoll sind, und solchen, die das Legalitätsprinzip gefährden würden. Parycek plädiert dafür, von Fall zu Fall zu entscheiden. „Oft liegt in der Technik selbst die Lösung, wichtig ist, dass man dadurch einen demokratiepolitischen Mehrwert stiften kann.“ Andernfalls riskiere man unintended side effects, und er verweist dabei auf die Nachhaltigkeitsforschung: Man möchte Gutes tun, hat nach bestem Wissen und Gewissen entschieden, aber leider einen Nebeneffekt übersehen.

Ob ein derartiges Szenario an Nebeneffekten bei dem umstrittenen Algorithmus des Arbeitsmarktservice (AMS) zur Jobvermittlung eintritt, bleibt abzuwarten. Diese Art der automatisierten Vorselektion von Beschäftigungslosen hätte zuerst in verschiedenen Settings getestet werden sollen, mit wissenschaftlicher Begleitung, in einem partizipativen, aufwendigeren Prozess, merkt Parycek an. „In einem kritischen Bereich wie diesem wäre es durchaus zu rechtfertigen, mehr Steuergeld auszugeben.“

Jedenfalls im staatlichen Bereich „nichts verloren“ hat nach Ansicht des Verwaltungsrechtsexperten Mayrhofer das social scoring. Dabei können Menschen nach bestimmten Verhaltensmustern bewertet werden, etwa in der Sozialversicherung. Wer besonders risikoarm lebt, bekommt demnach von der KI einen geringeren Tarif ausgerechnet; wer hingegen zu schnell Auto fährt, einen Risikosport macht und oft im Supermarkt Bier und Wein einkauft, bekommt einen höheren Tarif ausgerechnet. „Routineprozesse zu automatisieren und das auch zuzulassen, mit adäquatem Rechtsschutz – da müssen wir hinkommen. Entscheidend ist, dass das Prinzip von ‚Human in the Loop‘ tatsächlich eingehalten wird, also dass bei Reklamationen noch einmal ein Mensch entscheidet.“

Überbewertete Blockchains

Den Einsatz von Blockchains als digitale Bausteine wollen die befragten Experten nicht überbewerten. „Es ist nicht die Lösung für alle Fragen der Zukunft, sondern einfach eine Technologie, deren Einsatz in bestimmten Situationen sinnvoll sein kann, um Dinge zu erreichen, die wir über zentrale Strukturen nicht erreichen“, so Zivilrechtsprofessorin Wendehorst.

Dagegen haben Enthusiasten von Blockchains einen „evangelistischen Zugang“ und glauben, den Staat nicht mehr zu brauchen, weil so Personen und Organisationen fälschungssicher organisiert würden, sagt Rechtsinformatiker Parycek. „Das kann in Failed States durchaus der richtige Zugang sein, wenn keine funktionierende Verwaltung existiert, weil sie korrupt ist etc. So ein technologisches Gegenmodell könnte so einen Staat handlungsfähig machen und Sicherheit in die Gesellschaft bringen, indem bestimmte Datenpunkte mittels Blockchain verknüpft sind. Das ist weniger ein Thema für die österreichische oder deutsche Verwaltung, da sind wir weit weg von einem gescheiterten Staat und haben eine der besten analogen Verwaltungen.“ Hier gelte immer noch in weiten Teilen die Maxime von Thomas Hobbes „Leviathan“ (1651), wonach wir uns zwar dem Staat unterwerfen, dafür aber Sicherheit für die Gesellschaft zurückbekommen.

PETER PARYCEK
Univ.-Prof. Mag. Dr. Peter Parycek, MAS MSc ist Rechtsinformatiker, Leiter des Departments für E-Governance in Wirtschaft und Verwaltung sowie Chief Digital Officer der Donau-Universität Krems. Zudem leitet der design. Vizerektor für Lehre/Wissenschaftliche Weiterbildung und Digitale Transformation seit 2017 das Kompetenzzentrum Öffentliche IT am Fraunhofer FOKUS Institut Berlin.

CHRISTIANE WENDEHORST
Univ.-Prof. Dr. Christiane Wendehorst, LL.M. ist seit 2008 Professorin für Zivilrecht an der Universität Wien. Sie ist stellvertretende Vorständin des Instituts für Innovation und Digitalisierung des Rechts in Wien sowie Präsidentin des European Law Institute.

MICHAEL MAYRHOFER
Univ.-Prof. Dr. Michael Mayrhofer ist Universitätsprofessor für Öffentliches Recht, Vorstand des Instituts für Verwaltungsrecht und Verwaltungslehre und Dekan der Rechtswissenschaftlichen Fakultät der Johannes-Kepler-Universität in Linz. Außerdem leitet er das Linz Institute of Technology (LIT) Law Lab.