Von Dr. Nico Brunotte, LL.M. (Cambridge) und Florian Stendebach

Algorithmische Entscheidungssysteme sind in der Rechtswissenschaft derzeit in aller Munde. Künstliche Intelligenz (KI) wird heutzutage bereits großflächig am Kapitalmarkt, im Bereich des E-Commerce und bei der Entwicklung autonomen Fahrens eingesetzt. Vereinzelt werden Rufe danach laut, Algorithmen einer verstärkter Regulierung zu unterwerfen. Einige Technologien prägen bereits heute das gesellschaftliche Zusammenleben. Daraus ergeben sich immer wieder rechtliche Fragestellungen, die insbesondere die Rechtswissenschaft vor aktuelle Herausforderungen stellen.

Algorithmic decision systems are currently the talk of the town in jurisprudence. Artificial intelligence (AI) is already widely used today on the capital market, in e-commerce and in the development of autonomous driving. Occasionally, there are strong calls to subject algorithms to increased regulation. Some technologies are already shaping social coexistence today. This regularly gives rise to legal questions that pose current challenges, especially for the legal profession.

Einsatzbereiche algorithmischer Entscheidungssysteme in Wirtschaft und Technik

Autonome Entscheidungssysteme zeichnen sich dadurch aus, dass sie gewisse Regeln selbständig aufstellen, indem ihnen Beispiele vorgegeben werden, um bestimmte Muster wiederzuerkennen. KI wird etwa im Bereich des „Kreditscorings“ eingesetzt, um auf Basis verschiedener Daten eigenständig und ohne die Heranziehung menschlicher Hilfe über die Vergabe von Darlehen entscheiden.

Auch am Kapitalmarkt agieren Algorithmen als Anlageberater, vergeben Wohnungen oder schließen Versicherungsverträge ab. Selbst im Bereich des E-Commerce werden algorithmische Entscheidungssysteme aktiv: Händler versuchen durch den Einsatz von KI auf veränderte Marktbedingungen effizient zu reagieren und die Preissetzung zu optimieren.

Künstliche Intelligenz ist zudem eine Schlüsseltechnologie für die Entwicklung autonomen Fahrens: Autopiloten sollen Menschen zukünftig von A nach B bringen; vernetzte Fahrzeuge sollen zur Vermeidung von Staus und Unfällen untereinander, mit der Umwelt und anderen Infrastruktureinrichtungen, etwa Ampelanlagen und Parkhäusern, kommunizieren.

Grundrechtliche Bedeutung algorithmischer Entscheidungssysteme: Eine Übersicht

All dies stellt die Rechtswissenschaft immer wieder vor aktuelle Herausforderungen. Mit Blick auf das Erfordernis des allgemeinen Gleichheitssatzes (Art. 3 Abs. 1 GG), dass wesentlich Gleiches rechtlich gleich und wesentlich Ungleiches entsprechend rechtlich ungleich zu behandeln ist, ist unter anderem der Bereich des „Kreditscorings“ kritisch zu beachten.

Algorithmen, die in diesem Wirtschaftszweig eingesetzt werden, können unter bestimmten Umständen anfällig für diskriminierende Entscheidungen sein, etwa wenn sie die Vergabe eines Darlehens unter Einbeziehung unethischer oder wertearmer Daten ablehnen.

Aber auch der Einsatz vernetzter Fahrzeuge und autonomen Fahrens kann grundlegende Rechte der Verfassung tangieren. Während die Fahrzeuge untereinander oder mit der Umwelt kommunizieren können, ermöglicht die Verfügbarkeit umfangreicher Daten die Erstellung von Bewegungs-, Verhaltens- und Persönlichkeitsprofilen. Betroffen von dieser Art der Datenverarbeitung können insbesondere das Recht auf informationelle Selbstbestimmung und das IT-Grundrecht (Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG) sein.

Wie sollte mit algorithmischen Entscheidungssystemen umgegangen werden?

In der Rechtswissenschaft sprechen sich immer mehr Stimmen für eine Regulierung von algorithmischen Entscheidungssystemen aus. Wie diese en detail aussehen wird, ist noch ungewiss.

Mit § 31 BDSG gibt es zumindest für den Bereich des Scorings und der Bonitätsauskünfte einen ersten Anhaltspunkt. Danach ist die Verwendung eines Wahrscheinlichkeitswerts über ein bestimmtes zukünftiges Verhalten zum Zweck der Entscheidung über die Begründung, Durchführung oder Beendigung eines Vertragsverhältnisses nur zulässig, wenn unter anderem die Vorschriften des Datenschutzes eingehalten werden und für die Berechnung des Wahrscheinlichkeitswerts nicht ausschließlich Anschriftendaten genutzt werden.

Nach Art. 22 DSGVO hat zudem jede Person das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden. In einigen, gesetzlich geregelten Fällen kann davon abgewichen werden, zum Beispiel wenn dies für den Abschluss eines Vertrags erforderlich ist.

Auch das Grundgesetz schafft bereits erste wichtige rechtliche Rahmenbedingungen, etwa mit Blick auf die Diskriminierungsproblematiken. Jedenfalls wird eine zukunftsträchtige Rechtssetzung unerlässlich sein, um einerseits grundrechtsbeschneidenden Handlungen algorithmischer Entscheidungssysteme zu begegnen und andererseits einen Motor für Innovation und Fortschrift zu schaffen.