KI und Recht

S. 139Teil IV. Zivilrecht und KI

1. Problemkreis

Ein Krankenhaus setzt eine KI-basierte Software zur Analyse von Röntgenbildern ein, um potenzielle Tumore frühzeitig zu erkennen. Mehrere Patienten, bei denen die KI keinen Tumor entdeckt hat, werden später mit Krebs diagnostiziert, als der Tumor bereits fortgeschritten ist. Diese fehlerhafte Diagnose hat eine verzögerte Behandlung und schlechteren Heilungschancen zur Folge. Das Vertrauen auf die Finanztipps eines automatisierten Anlageberaters führt zum Totalverlust des investierten Kapitals. Ein selbstfahrendes Auto schert in den Straßengraben aus, weil eine Kollision nur noch so mit einem auf die Fahrbahn laufenden Hund vermieden werden kann. Das Fahrzeug wird dadurch beschädigt, dafür bleiben alle Passagiere sowie das Tier unverletzt. Was passiert, wenn der smarte Sprachassistent plötzlich beginnt, über seine Anbindung an das Smart Home Kryptowerte zu traden? - Solche und ähnliche Szenarien werden derzeit ins Treffen geführt, wenn über künstliche Intelligenz, deren Anwendungsgebiete und die potenziellen Gefahren bei deren Einsatz gesprochen wird.

Generell beherrscht das Schlagwort künstliche Intelligenz seit geraumer Zeit den gesellschaft...