Digital total Wer haftet, wenn das System bremst?
Dienstags geht es in unserer Kolumne immer um Digitales. Diesmal hinterfragt unser Kolumnist den Sinn künstlicher Intelligenz.
Immer mehr Technik in unserem Leben basiert auf Systemen, die in der Werbung immer wieder gerne als „Künstliche Intelligenz“ angepriesen werden. In der Realität haben diese Systeme mit menschlicher – oder auch mit tierischer – Intelligenz so gut wie nichts zu tun. Ein besserer Begriff für einen Großteil dieser Technik ist „Machine Learning“. Es handelt sich dabei um Computer-Algorithmen, also mehr oder weniger komplizierte mathematische Berechnungen, die in der Regel der Mustererkennung dienen. So kann man Computern etwa beibringen, ob das, was die Kameras eines Autos da gerade aufzeichnen, ein Kind ist, das auf die Straße rennt.
Im Gegensatz zu herkömmlicher Software, die einmal geschrieben wird und sich dann (abgesehen von gelegentlichen Updates) nicht ändert, arbeitet man beim Machine Learning mit einem Datenkonstrukt, das sich ständig selbst anpasst. Man nennt das „lernen“. Man kann also einen feststehenden Algorithmus mit Daten füttern und das System lernt dann, Faktoren in einzelnen Datensätzen zu unterscheiden. Das tolle daran ist, dass sich solche Systeme selbst verbessern können und so, wenn alles gut läuft, immer besser darin werden, bestimmte Muster (das Kind vor dem Auto) zu erkennen.
Das Ganze hat aber auch Nachteile. Ein wichtiger ist, dass man – ganz im Gegensatz zu herkömmlicher Software – schon sehr schnell nicht mehr versteht, wie das System zu seinen Entscheidungen kommt. Wenn ein solches KI-System jetzt einen Fehler macht, also etwa ein Kind sieht, wo gar kein Kind ist, und ein Bremsmanöver einleitet, das zu einem Unfall führt, dann kann man nachher nicht sagen, wie genau das passiert ist. Weil man im Nachhinein nicht herausfinden kann, wie das System zu dieser Entscheidung kam. Das wird in Zukunft noch die Gerichte beschäftigen, weil irgendwann geklärt werden muss, wer für solch einen Unfall haftet. Der Fahrer oder der Hersteller des KI-Systems, das den Fehler gemacht hat?
Kontakt: kolumne@zgo.de 
Nicht alles Neue ist immer gut
Das Problem mit PayPal
Vetrauen gewinnt man anders
Service-Wüste Deutschland
Zum Lernen ist nie zu spät