Waymos „Selbstfahrende“ Behauptungen erhalten auf Capitol Hill eine Realitätsscheck

Kurzfassung

• Waymo teilte den Senatoren mit, dass menschliche Operatoren im Ausland bei schwierigen Situationen Unterstützung für seine Fahrzeuge bieten, diese jedoch nicht steuern.
• Sen. Ed Markey sagte, dass die Beteiligung im Ausland Sicherheits-, Cybersecurity- und Verantwortlichkeitsbedenken aufwirft.
• Waymo verteidigte die Praxis als begrenzte kontextbezogene Unterstützung, während der Kongress neue bundesweite AV-Regeln prüft.

Waymos Behauptung, dass seine Fahrzeuge ohne menschliche Fahrer betrieben werden, stieß am Mittwoch auf scharfe Kritik, nachdem ein leitender Angestellter zugab, dass im Ausland tätige Operatoren die autonomen Fahrzeuge des Unternehmens bei schwierigen Situationen auf US-Straßen leiten, was neue Fragen darüber aufwirft, was „selbstfahrend“ wirklich bedeutet. In einer Anhörung vor dem US-Senatsausschuss für Handel, Wissenschaft und Transport bestätigte Waymos Sicherheitschef Mauricio Peña, dass das Unternehmen auf entfernte menschliche Operatoren angewiesen ist, um Fahrzeuge bei Szenarien zu unterstützen, die sie nicht eigenständig lösen können. „Sie geben Anweisungen, steuern die Fahrzeuge jedoch nicht aus der Ferne“, sagte Peña zu den Gesetzgebern. „Waymo bittet in bestimmten Situationen um Unterstützung und erhält eine Rückmeldung, aber das Waymo-Fahrzeug ist immer für die dynamische Fahraufgabe verantwortlich.“ 

Die Antwort befriedigte Senator Edward Markey (D., Mass.) nicht, der fragte, ob alle entfernten Operatoren in den USA ansässig seien. Peña sagte, das seien sie nicht, und nannte später die Philippinen als den Auslandstandort. Markey warnte, dass die Beteiligung im Ausland die öffentlichen Aussagen über vollständige Autonomie untergräbt und Sicherheits- sowie Cybersecurity-Risiken mit sich bringt. „Menschen im Ausland, die amerikanische Fahrzeuge beeinflussen, sind ein Sicherheitsproblem“, sagte Markey. „Die Informationen, die die Operatoren erhalten, könnten veraltet sein. Es könnten enorme Cybersecurity-Schwachstellen entstehen.“ Die Gesetzgeber fragten auch, ob entfernte Operatoren im Ausland US-Lizenzen oder regulatorische Standards erfüllen müssen, und kritisierten Waymo dafür, eine der wenigen verbleibenden menschlichen Arbeitsplätze in einem zunehmend automatisierten System auszulagern.

Nationale Rahmenbedingungen Die Anhörung im Senat findet statt, während der Kongress prüft, ob ein nationaler Rahmen für autonome Fahrzeuge in den nächsten Gesetzentwurf zur Oberleitung des Oberflächenverkehrs aufgenommen wird, und während Waymo nach seinem Versuch, sein Geschäft in neue Märkte auszuweiten, zusätzlicher Kritik ausgesetzt ist. Am Montag kündigte das Robo-Taxi-Unternehmen eine Finanzierungsrunde über 16 Milliarden US-Dollar an, was die Bewertung des Unternehmens auf 126 Milliarden US-Dollar bringt. In einem Interview mit Decrypt erklärte ein Waymo-Sprecher, dass das Unternehmen seine entfernten Operatoren nicht als Fahrer betrachtet und die Idee ablehnt, dass Menschen Fahrzeuge in Echtzeit steuern. „Ihre Rolle ist nicht, das Fahrzeug aus der Ferne zu steuern. Sie sind keine Fernfahrer“, sagte der Sprecher. „Sie beantworten im Allgemeinen Multiple-Choice-Fragen, die ihnen vom Fahrzeug gestellt werden.“ „Das eigentliche Fahren findet vollständig im Fahrzeug statt. Es passiert nicht aus der Ferne“, fügte er hinzu. Der Sprecher sagte, dass sowohl in den USA ansässige als auch im Ausland tätige Flottenreaktionsmitarbeiter lizenzierte Fahrer sind und Schulungen zu den örtlichen Verkehrsregeln in den Regionen erhalten, die sie unterstützen. „Alle Flottenreaktionsmitarbeiter, sowohl die in den USA ansässigen als auch die im Ausland, besitzen Fahrzeug- oder Van-Führerscheine“, sagte der Sprecher. „Sie lernen die örtlichen Verkehrsregeln kennen, wo sie Fernhilfe leisten.“ Waymo charakterisierte die menschliche Unterstützung als kontextbezogen und nicht als direktiv.

„Der Mensch bietet in einer herausfordernden Situation einen Vorschlag an, und der Waymo-Fahrer wird diesen Vorschlag bei seiner nächsten Entscheidung berücksichtigen“, sagte der Sprecher. Einige Sicherheitsforscher sagten, dass entfernte menschliche Beteiligung auch dann eine entscheidende Rolle spielen kann, wenn etwas schiefgeht. Philip Koopman, Professor emeritus an der Carnegie Mellon University, der die Sicherheit autonomer Fahrzeuge untersucht, verwies auf vergangene Unfälle, bei denen Fernhilfe zu Fehlern beitrug. „Auch wenn Waymo sagt, dass diese entfernten Assistenten nicht tatsächlich lenken oder bremsen, kann ihre Unterstützung erheblich zu einem Unfall beitragen, und in meinen Augen sind sie ein Backup-Fahrer“, sagte Koopman gegenüber Decrypt. William Riggs, Professor an der University of San Francisco, der die Politik und den Einsatz autonomer Fahrzeuge untersucht, sagte, dass die Nutzung externer menschlicher Unterstützung mit der heutigen Gestaltung und Regulierung autonomer Systeme übereinstimmt. „Es ist auch wichtig, zwischen ‘ferner menschlicher Unterstützung’ und ‘ferner Steuerung’ zu unterscheiden, da diese Begriffe oft vermischt werden“, sagte Riggs gegenüber Decrypt. „Fernsteuerung bedeutet, ein Fahrzeug aus der Ferne direkt zu steuern, während die Fernüberwachung – die von Unternehmen genutzt wird, die echte Level-4-Autonomie entwickeln – es Fahrzeugen ermöglicht, eigenständig Entscheidungen zu treffen, wobei entfernte Aufsichtspersonen eher eine Unterstützungsfunktion als direkte Operatoren haben.“ „Die Fahrzeuge operieren weiterhin innerhalb ihrer vereinbarten und erlaubten Operational Design Domains (ODDs)“, fügte er hinzu. „Diese ODDs werden in enger Zusammenarbeit mit staatlichen Regulierungsbehörden sorgfältig definiert und entsprechen den sich entwickelnden rechtlichen Rahmenbedingungen rund um Fahrregeln.“ Die Anhörung findet statt, während die US-Bundesstaaten weiterhin Vorschriften für autonome Fahrzeuge erlassen und der Kongress prüft, ob ein bundesweites Gesetz zur Überwachung der Technologie verabschiedet wird. Waymo und andere Unternehmen, darunter Tesla, die ebenfalls während der Anhörung aussagten, stehen unter verstärkter Beobachtung hinsichtlich ihrer Fähigkeiten im Bereich des selbstfahrenden Fahrens.