Kanzlei
brochure image
Startups
brochure image
Karriere
brochure image
Logo
SUCHEN
/
/
/
/
/
/
Foto
30. März 2017

Künstliche Intelligenz – Wer haftet für selbstlernende Algorithmen?

Von

Künstliche Intelligenz (KI) greift in immer mehr Lebensbereiche ein. Anders als bisherige Programme lernt die KI von den Eingaben des Nutzers und entwickelt sich stetig weiter. Bereits jetzt erfüllen Chatbots täuschend lebensnah Kundenwünsche. Immer mehr Assistenzsysteme überwachen und steuern Fertigungsstraßen in der Industrie. In Form von Einparkhilfen oder Spurassistenten ist künstliche Intelligenz bereits jetzt Teil vieler Neuwagen.

Deutscher Markt im Bereich KI

Im Zeitraum 2013 bis 2017 haben wir ingsgesamt 20 Venture Capital Transaktionen beobachtet, bei denen in Unternehmen, die im Bereich KI tätig sind, investiert wurde.

Unternehmen Unternehmensgegenstand Investor
EyeEm (in zwei Finanzierungsrunden) Kostenlose Photo-Sharing-App für iOS- und Android-Geräte Earlybird Venture Capital, Wellington Partners Venture, Passion Capital, Valar, Atlantic Labs, Open Ocean Capital
German Auto Labs Sprachassistent für das Auto Target Partners
Inspirient Automatisierte Datenanalyse Scheer Holding
Konux Sensormesstechnik Business Angel
The SaaS Co Intelligenter Verkaufsagent Business Angel
Leverton Entwicklung computerlinguistischer Software DAH Beteiligungen
Neokami Sentiment Analyse Business Angel
Psyware (in drei Finanzierungsrunden) Sprachpsychologische Software Seed Fonds Aachen, DAS Invest, S-UBG, KfW, NRW Bank
SearchInk Lesen von handschriftlichen Texten durch Computer IBB, Business Angel
Smacc Digitale Buchhaltung Cherry Ventures, Rocket Internet, Dieter von Holtzbrinck Ventures, Grazia Equity, ILB
So1 Individuelle Preispromotion Target Partners
TerraLoupe Analyse von Luftbilddaten Bayern Kapital
Twenty Billion Neurons

 

Deep Learning Business Angel
Arago Automatisierung der IT Kohlberg Kravis Roberts
dimensio informatics Analyse von Datenbankanwendungen micData
micropsi industries KI-getriebene Software Business Angel, IBB
parlamind Automatisierter Kundenservice Motu Ventures, Asgard Capital Verwaltung, angelfund.vc, Business Angel

 

Besonders hervorzuheben sind dabei die Beteiligungen namhafter Investoren. So investierten z.B. im Juni 2016 Rocket Internet, Cherry Ventures, Dieter von Holtzbrinck Ventures sowie Grazia Equity in das Unternehmen Smacc GmbH, das digitale Buchhaltung mithilfe künstlicher Intelligenz ermöglicht. Bayern Kapital beteiligte sich zur selben Zeit an der Terraloupe GmbH, die mittels künstlicher Intelligenz Luftbilddaten analyisiert.

Hürden für KI Geschäftsmodelle

Doch der Einzug der KI in die Industrie und den Alltag der Nutzer läuft nicht immer reibungslos. So lassen sich der Tagespresse immer wieder Berichte über Unfälle von selbstfahrenden Autos oder ausufernden Bestellungen über Amazons Alexa entnehmen. Schnell stellt sich dann auch die Frage, wer für die entstandenen Schäden rechtlich und finanziell einsteht. Wer ein Geschäftsmodell aufsetzt, das auf KI aufbaut sollte sich daher rechtzeitig mit der Haftungsfrage auseinandersetzen.

Quelle: Fabian Westerheide & Lars Holdhus – Asgard – smart VC for AI – Berlin – 2017 (http://bootstrapping.me/deutsche-kuenstliche-intelligenz-industrie/)

Abgeordnete fordern spezielle Regelungen für KI

Derzeit gibt es keine speziellen Regelungen für die Haftung von KI. Anfang des Jahres sprachen sich jedoch die Abgeordneten des europäischen Parlamentes für EU-weite Haftungsregelungen für Robotik und KI aus und forderten die EU-Kommission auf, Regeln für Robotik und künstliche Intelligenz vorzulegen. Bis neue oder ergänzende Regelungen geschaffen werden, gelten die bereits bestehenden nationalen Regelungen zur Haftung auch für KI.

KI als Produkt?

So regelt z.B. das Produkthaftungsgesetz die Haftung eines Herstellers für fehlerhafte Produkte. Das Gesetz sieht eine weitreichende Beweislastumkehr zu Lasten des Herstellers vor. Er muss im Zweifel beweisen, dass in seinem Produkt kein fehlerhaftes Bauteil verbaut wurde oder das Produkt keine falsche Funktionsweise an den Tag legt. Anders jedoch als beim Einbau eines fehlerhaften Widerstandes in einem Küchengerät lässt sich die Ursache für die Fehlfunktion einer KI nicht so leicht identifizieren.

Schwierigkeiten bei der Identifikation von Fehlerquellen

In der Regel kommen eine Vielzahl von Fehlerquellen in Betracht. So können vom Hersteller der Hardware, über den Programmierer und die selbstlernende KI bis hin zum Nutzer einer oder mehrere Akteure zu einem Fehlverhalten beitragen. Wer dabei welchen Beitrag leistet ist nicht immer nachzuvollziehen. Das Problem der fehlenden Zuordnung von Verantwortung für Fehlverhalten der KI betrifft auch andere Haftungsregelungen, da diese in der Regel an die Verantwortlichkeit einer Person anknüpfen.

Verantwortung liegt beim Nutzer der KI

Die Mehrheit der juristischen Literatur spricht die Letztverantwortung derzeit dem Nutzer zu. Dieser müsse im Zweifel selbst eingreifen und dürfe sich nicht auf die Handlungen einer KI verlassen.

Dieser Grundsatz beherrscht auch den derzeitigen Gesetzesentwurf der Bundesregierung zum autonomen Fahren. Auch hier wird dem „Fahrer“ weitestgehend die Verantwortung über das selbstfahrende Auto übertragen.

So lautet Paragraph 1 b des Gesetzestextes: „Der Fahrzeugführer ist verpflichtet, die Fahrzeugsteuerung unverzüglich wieder zu übernehmen, wenn er erkennt oder aufgrund offensichtlicher Umstände erkennen muss, dass die Voraussetzungen für eine bestimmungsgemäße Verwendung der hoch- oder vollautomatisierten Fahrfunktionen nicht mehr vorliegen“.

Die Vision einer entspannten Autofahrt, auf der sich der Fahrer zurücklehnen kann, E-Mails beantwortet oder gar ein Schläfchen hält, rückt damit rechtlich in weite Ferne. Der Fahrer soll vielmehr jederzeit bereit sein, die Kontrolle über das Fahrzeug zu übernehmen.

Gefährdungshaftung für KI?

Dass ein solches Eingreifen jedoch zukünftig von den Entwicklern gar nicht gewollt ist, zeigen aktuelle Entwürfe von Concept Cars, die nicht einmal über ein Lenkrad verfügen. Ob die rechtliche Verantwortlichkeit dann neu geregelt wird, bleibt abzuwarten. Es ist jedoch nicht unwahrscheinlich, dass der Nutzer auch weiterhin für die Handlungen der KI zur Verantwortung gezogen wird. Faktisch führt dies zu einer Gefährdungshaftung wie wir sie heute bereits bei der Haftung des Halters für sein Auto kennen.

„Haftpflichtversicherung“ für KI

Um dieses Gefährdungsrisiko abzusichern, wäre z.B. eine entsprechende Versicherung für KI und deren Hardware denkbar, ähnlich der Haftpflichtversicherung für das Auto.

Auch die Einführung behördlicher Genehmigungsverfahren für den Einsatz von KI wäre denkbar. Insbesondere vor dem Hintergrund der teilweise sensiblen Einsatzbereiche von KI, wie Operationssäle, Straßenverkehr oder kriegerische Auseinandersetzungen könnten neue Genehmigungsverfahren Sicherheit schaffen.

Kann eine KI strafrechtlich verantwortlich sein?

Innerhalb dieser sensiblen Einsatzbereiche von KI stellt sich auch die Frage nach der strafrechtlichen Verantwortlichkeit für deren Handlungen. Diese Diskussion wird derzeit vor allem vor dem Hintergrund von Unfallvermeidung von selbstfahrenden Autos geführt. Ist ein Unfall unausweichlich, stellt sich die Frage welches Leben geschützt werden soll. Die KI entscheidet, ob z.B. alte oder junge Menschen schützenswerter sind, eine Personengruppe schützenswerter ist oder eine einzelne Person, oder ob kritische Infrastruktur wichtiger ist als ein Menschenleben. Ist eine KI dann auch für die Tötung des Menschen verantwortlich? Diese Frage stellt sich nicht nur bei selbstfahrenden Autos, sondern vor allem auch bei KI im Kriegseinsatz.

Fazit – jetzt schon das Geschäftsmodell absichern

Der Einzug von KI in die Industrie und die Lebenswirklichkeit der breiten Bevölkerung wird die Einführung neuer gesetzlichen Regelungen unumgänglich machen. Ob diese Regelungen an die Verantwortlichkeit der Hersteller der Hardware, der Programmierer, der Nutzer oder die KI selbst knüpft, ist derzeit noch nicht abschließend geklärt. Als Startup aus dem Geschäftsfeld KI sollte man sich dennoch bereits jetzt mit der Frage der Verantwortlichkeit auseinandersetzen und ggfls. Absicherungen in Form von neuen Versicherungsmodellen oder Zertifizierungs- bzw. Prüfverfahren in Betracht ziehen. Auf jeden Fall muss die aktuelle Haltung der Rechtsprechung und des Gesetzgebers beobachtet werden um kurzfristig auf Veränderungen zu reagieren.

Du hast Interesse an detaillierten Informationen zum Thema künstliche Intelligenz?

Kontaktiere gerne unsere Expertin: hier klicken

#StartupTrend beleuchtet kurz und knapp aktuelle Entwicklungen im Startup und Venture Capital Markt und ergänzt diese um einen Überblick zu wesentlichen rechtlichen Fragestellungen.

Mehr #StartupTrends: hier klicken.