Juristische Fakultät
print

Links und Funktionen
Sprachumschaltung

Navigationspfad


Inhaltsbereich

Forschungsprojekt "Smart Data and Artificial Intelligence: Legal and Ethical Challenges for Data-Driven Digital Commerce"

Smart Data-Technologien sind für die Zukunft datengetriebener Geschäftsmodelle der Digitalwirtschaft von herausragender Bedeutung. Sie werfen zugleich grundlegende rechtliche und ethische Fragen auf, die bislang weitgehend ungeklärt sind. In einer interdisziplinären Forschungskooperation mit dem Münchner Data Science-Unternehmen OmegaLambdaTec sollen die für die Unternehmenspraxis relevantesten rechtlichen und ethischen Fragestellungen untersucht und praxistaugliche Lösungen entwickelt werden. Schwerpunkte bilden dabei die Themenbereiche legal framework (Haftung für Algorithmen und Systeme Künstlicher Intelligenz, vertragsrechtliche Konstruktion algorithmenbasierter Smart Data-Geschäftsmodelle im b2b-Verkehr, AGB-Recht, Haftungsfragen), data ownership (Zuordnung von Rechten an Daten) sowie ethics (Transparenz, Diskriminierungsschutz, Verantwortung). Das Forschungsprojekt dient zugleich als Pilotstudie für die Entwicklung effektiver Verfahren zur Berücksichtigung ethischer Gestaltungsgrundsätze im Produktionszyklus digitaler Technologien (ethics by design). OmegaLambdaTec ist ein Data Science Unternehmen, das Smart Data-Anwendungen für Unternehmen, Städte und öffentliche Institutionen entwickelt. Die Anwendungen umfassen Lösungen aus den Bereichen Custom Data Analytics, Predictive Analytics, Echtzeit-Analysen, Optimierung, Simulationen, Business Analytics und Smart Big Data.

Smart Data Lösungen analysieren mittels maßgeschneiderter Algorithmen vorhandene Datenbestände, um so Antworten auf spezifische Fragestellungen herzuleiten.

  • Big Data: Besteht eine hinreichend große Datengrundlage (Big Data), so lassen sich die für die Lösung konkreter Aufgabenstellungen notwendigen Informationen und Zusammenhänge unmittrelbar aus den Daten quantitativ ableiten. Spezifisches Branchenwissen tritt dabei in den Hintergrund, da alle Antworten bereits implizit in den Daten vorhanden sind.
  • Algorithmen: Die hierfür erforderlichen Algorithmen werden – auch unter Rückgriff auf Systeme Künstlicher Intelligenz (KI) und des machine learning – individuell für die jeweils konkreten Anwendungsfälle entwickelt. Der Einsatz verschiedener Data Science-Werkzeuge ermöglicht dabei etwa die Analyse und Modellierung sich dynamisch entwickelnder Systeme, die Untersuchung radialer Profile und Abhängigkeiten sowie die Analyse von Zeitreihen auf Periodizitäten und Muster. Bei hinreichender Datenlage lässt sich sogar die anfängliche Unkenntnis über die Form fundamentaler Zusammenhänge in das Analyse-Modell integrieren und mit Hilfe der Daten simultan lösen und kalibrieren. Bereits heute ist absehbar, dass Unternehmen zur Wahrung ihrer Wettbewerbsfähigkeit in nahezu allen Branchen der Wirtschaft auf leistungsfähige Data Science-Lösungen angewiesen sein werden.

Zentrale Forschungsthemen bilden dabei die Schwerpunkte legal framework, data ownership und ethics.

Legal Framework: Im Rechtsverkehr zwischen Unternehmen (b2b) bewegt sich die Digitalwirtschaft mit Blick auf den geltenden vertragsrechtlichen Rahmen weitgehend auf unsicherem Terrain. Unklar ist insbesondere die schuldrechtliche Qualifikation der Vertragsbeziehungen und damit die Bestimmung des auf die Leistungspflichten anwendbaren Rechts. Klärungsbedarf besteht darüber hinaus mit Blick auf die Frage der rechtlichen Verantwortlichkeit sowie des Haftungsregimes beim Einsatz autonom regulierender Algorithmen.

Im Rahmen des Forschungsprojektes sollen tragfähige und praktisch umsetzbare Lösungen für die Gestaltung eines sicheren Rechtsrahmens für Smart Data-Lösungen entwickelt werden. Im Mittelpunkt stehen dabei auch Fragen der Haftung für funktionale Mängel der eingesetzten Algorithmen wie auch die Verantwortlichkeit für mögliche Mangelfolgeschäden im Fall fehlerhafter Ergebnisse. Da mangels gesetzlicher Regelungen für Verträge über digitale Güter im b2b-Verkehr der notwendige Rechtsrahmen durch die Parteien selbst vertragsrechtlich geschaffen wird, kommt dem AGB-Recht insoweit entscheidende Bedeutung zu.

Im Mittelpunkt stehen zudem Fragen der Haftung für funktionale Mängel der eingesetzten Algorithmen wie auch die Verantwortlichkeit für mögliche Mangelfolgeschäden im Fall fehlerhafter Ergebnisse. Dabei werden Ansätze auf europäischer Ebene – etwa die Arbeiten der von der Europäischen Kommission eingesetzten Expert Group on Liability and New Technologies – aufgegriffen und Implementierungsoptionen für das deutsche Recht diskutiert.

Data Ownership: Ebenfalls ungeklärt ist die rechtliche Zuordnung maschinengenerierter Daten als Grundlage von Smart Data-Anwendungen. Nach geltendem Recht besteht kein „Dateneigentum“ im Sinne einer rechtsverbindlichen Zuordnung von Nutzungs- oder Ausschließlichkeitsrechten an maschinengenerierten Daten. Eine solche Zuordnung lässt sich weder urheberrechtlich noch lauterkeitsrechtlich begründen. Der Schutz nach § 17 UWG setzt die Zuweisung eines Datums zu einem Rechteinhaber im Sinne eines Ausschließlichkeitsrechts voraus. Ziel des Forschungsprojektes ist es daher, geeignete vertragsrechtliche Mechanismen zu entwickeln, um eine rechtliche Zuordnung maschinengenerierter Daten als „digitale Güter“ zu ermöglichen. Im Rahmen einer umfassenden Bewertung wird dabei der Umfang eines möglichen gesetzlichen Regulierungsbedarfs bestimmt.

Ethics: Smart Data-Anwendungen sind in besonderem Maße ethisch sensibel. Sie werfen typischerweise eine ganze Reihe ethisch relevanter Fragen auf, für deren adäquate Beantwortung es bereits an hinreichend bestimmten Kriterien, noch mehr an gültigen Antworten fehlt. Die ethische Sensibilität resultiert zum einen aus der faktischen Verlagerung bisher menschlichem Handeln vorbehaltenen Entscheidungsprozessen auf Algorithmen. Dies gilt auch dann, wenn Smart Data-Lösungen lediglich als Entscheidungsgrundlage herangezogen werden. Sie resultiert zum anderen aus der Tragweite der durch Algorithmen gesteuerten Entscheidungen, etwa mit Blick auf die Verteilung begrenzter Ressourcen oder etwa die automatisierte Vergabe von Krediten auf der Grundlage eines algorithmenbasierten scoring. Ethisch relevant sind hier insbesondere Fragen der Transparenz, des Diskriminierungsschutzes sowie der Verantwortlichkeit.

  • Transparenz: Fragen der Transparenz betreffen die Offenlegung der Grundannahmen der eingesetzten Algorithmen sowie der in die Bewertung einfließenden Kriterien.
  • Diskriminierungsschutz: Im Rahmen des Diskriminierungsschutzes steht die Frage im Vordergrund, ob und inwieweit die Auswahl spezifischer Datensätze eine diskriminierende Wirkung mit Blick auf algorithmenbasierte Entscheidungen entfalten können (algorithmic bias). Eng damit verknüpft ist etwa die Frage, nach welchen Kriterien eine durch Smart Data-Lösungen erst ermöglichte Verteilung begrenzter Ressourcen erfolgen soll.
  • Verantwortung: Schließlich wird mit zunehmender Verbreitung algorithmenbasierter Smart Data-Anwendungen die Frage nach der Verantwortlichkeit für automatisierte Entscheidungsprozesse in den Mittelpunkt rücken. In der Praxis werden etwa Entscheidungen über die Kreditvergabe häufig vollständig automatisiert durch Algorithmen getroffen. Hier stellt sich bereits mit Blick auf den Komplex "Corporate Governance" die Frage nach der Zuordnung der Verantwortlichkeit für automatisiert getroffene Entscheidungen sowie die Grenzen ihrer Anwendung.
  • Ethics by Design: Methodisch sollen im Rahmen der Pilotstudie Möglichkeiten ausgelotet werden, die ethische Bewertung der entwickelten Smart Data-Lösungen als originären Teil des Entwicklungsprozesses in den Produktionszyklus zu integrieren.