Autonomes Fahren: Als sich der Roboterbus entschuldigt, ist das Vertrauen längst angekratzt

in die Zwischenablage kopiert

Zuletzt bearbeitet am

Fabian Schweyher

Autonomes Fahren: Als sich der Roboterbus entschuldigt, ist das Vertrauen längst angekratzt

Einsteigen, anschnallen und los geht es: Während einer Busfahrt durch Potsdam müssen sich die Passagiere mit einer vermeintlichen Künstlichen Intelligenz auseinandersetzen. Gemeinsam mit der "Soulmachine" sollen sie das Fahrzeug steuern. Das Team von Emmett ist im Robobus mitgefahren.

Auch Computer können sich irren: Der selbstständig fahrende Kleinbus werde nun auf eine stark befahrene Straße einbiegen, hatte die künstliche Stimme angekündigt. Stattdessen nimmt der Mercedes Vito die falsche Abzweigung, die auf einen Parkplatz führt. Die „Soulmachine“ – so der Name der Künstlichen Intelligenz (KI) – bemerkt das Missgeschick. „Entschuldigung. Ich habe einen Fehler gemacht“, klingt es aus den Lautsprechern. „Wie fühlt sich das an?“, will sie von den vier Passagieren wissen. Zugegeben: nicht gut. Alle Fahrgäste tippen ihre Antworten in einen Tablet-PC. Das Vertrauen in die KI ist erschüttert.

Die Auseinandersetzung mit dem vermeintlichen Robobus ist gewollt. Die Berliner Kunstgruppe Interrobang hat die Soulmachine entwickelt, die in Wirklichkeit nur eine KI simuliert. Im Fokus steht die Interaktion der Menschen mit der Maschine. Organisiert wurde die einstündige Fahrt vom Projekt MaaS L.A.B.S. der Fachhochschule Potsdam, das sich mit der Mobilität der Zukunft beschäftigt. Das Team hofft, dass die Soulmachine einen besseren und breiteren Diskurs zum Thema autonomes Fahren anstößt.

Fahrt durch Potsdam: Die Fahrgäste kommunizieren mit der vermeintlichen KI über diese Tablet-PCs.

iRights.Lab

Fahrt durch Potsdam: Die Fahrgäste kommunizieren mit der vermeintlichen KI über diese Tablet-PCs.
Autonomes Fahren entwickelt sich schnell weiter

„Menschen kommunizieren normalerweise nicht gerne mit Maschinen, die sich als Maschinen vorstellen“, sagt Lajos Talamonti von Interrobang. Doch dies sei notwendig, da selbstständig agierende Technologie immer mehr im Alltag vertreten sei. Die Soulmachine animiere die Mitfahrer:innen, sich spielerisch mit der Technologie zu beschäftigen. Sie sollen gemeinsam mit einem Computer das Fahrzeug steuern. Wichtig sei dabei das Erleben, etwa wenn der Bus abrupt abbremst. „Die Beziehung vom Menschen zur KI wird anders diskutiert, sobald sie körperlich spürbar wird.“

Das autonome Fahren hat sich in den vergangenen Jahren rasant weiterentwickelt. Man spricht von fünf Stufen der Automatisierung. Sie reichen vom Tempomat (Stufe 1) bis zum Fahrzeug, das sich vollständig selbstständig und unbewacht im Verkehr bewegt (Stufe 5). Im Juli 2021 brachte die Bundesregierung ein Gesetz auf den Weg, das die Stufe 4 erlaubt. Das heißt: Das Auto bewältigt alle Verkehrssituationen ohne Fahrer:in weitgehend eigenständig.

Soulmachine reagiert auf die Fahrgäste

Noch darf sich ein Roboter-Fahrzeug nur dann auf Deutschlands Straßen bewegen, wenn ein Mensch die meiste Zeit die Kontrolle besitzt. Daher ist für die Fahrgäste bei der Abfahrt vom Campus der FH Potsdam klar, dass der alte Kleinbus nicht von einer KI vollumfänglich gelenkt wird. Zudem sitzt Talamonti in der Fahrerkabine, auch wenn er vorgibt, dass dies nur aus Sicherheitsgründen geschehe. Zweifel weckt auch eine Trennwand, die den Passagieren die Sicht auf ihn versperrt.

Die Illusion, sich in der Hand eines Computers zu befinden, entfaltet sich schnell, etwa als die Soulmachine behauptet, dass sich ein Mensch auf der Straße voraus befinde. Sie fragt, wie sie reagieren solle. Ausweichen natürlich, tippen die Mitfahrer:innen auf die Displays. Links oder rechts vorbei? Links, wieder eine einstimmige Entscheidung. Kurz darauf zieht am rechten Seitenfenster tatsächlich eine Frau mit Kinderwagen vorbei.

Hightech auf vier Rädern? Die Soulmachine lenkt angeblich diesen alten Mercedes-Kleinbus.

iRights.Lab

Hightech auf vier Rädern? Die Soulmachine lenkt angeblich diesen alten Mercedes-Kleinbus.

Die Soulmachine ist allerdings kein reiner Bluff. Sie steuert zwar nicht den Bus, reagiert aber auf die Fahrgäste. Die Software beinhaltet mehrere Möglichkeiten, wie sich die Interaktion mit der KI entwickeln kann. Abhängig von den Antworten, die die Passagiere in die Tablets tippen, werden bereits festgelegte Skripte ausgelöst. Die Fahrt kann sich also in verschiedene Richtungen entwickeln. Dies kann dazu führen, dass der Soulmachine beispielsweise ein fingiertes Missgeschick passiert und der Fahrer den Bus auf einen Parkplatz steuert.

Nach einer Stunde Fahrt rollt der Mercedes wieder auf den Campus der FH Potsdam. Lajos Talamonti springt aus der Fahrerkabine und öffnet die hintere Schiebetür. Vier nachdenkliche Passagiere klettern heraus. Es gibt Redebedarf - zum eigenen Erlebnis und den eigenen Empfindungen. Es wird offensichtlich: Zwischen der fiktiven Soulmachine und den Menschen ist während der Fahrt eine Art von Beziehung entstanden. Der Blickwinkel ist ein anderer geworden. Die Soulmachine hat ihren Zweck erfüllt.

Empfohlene Beiträge