„Eine Null-Fehler-KI ist eine völlige Illusion“
Bild: Rüdiger Heim, ATZ elektronikNach wie vor sind immer noch mehr automatisierte Fahrzeuge im niedrigen Geschwindigkeits bereich im Test statt im Regelbetrieb im Einsatz. Zudem gibt es weltweit erst zwei Hersteller, die echte Level-3-Systeme in Form von (Stau-)Piloten bis 60 km/h in eng festgelegten ODD anbieten. ATZelektronik interviewte Professor Steven Peters zu den Herausforderungen für Sensorik, KI und Validierung auf dem Weg hin zu sichereren, (höher) automatisiert fahrenden Fahrzeugen.
ATZelektronik: Eins der großen Themen für ADAS/AD ist das Sensorsetup; die Diskussion reicht von „Kamera plus KI reicht“ bis „da muss auch noch Radar, Lidar und Audio hinzu“. Was sehen Sie als das richtige Setup für die Assistenzsysteme?
Steven Peters: Die Idee, dass Kamera und KI ausreicht, halte ich für völlig abwegig. Stand heute braucht man für alle Systeme, die auf einem höheren SAE-Level sind als die reinen Assistenzsysteme, auf jeden Fall Kamera, Radar und Lidar – und das gilt schon für die vergleichsweise eng begrenzten Anwendungen der ersten am Markt verfügbaren Level-3-Systeme, die auf Autobahnen und nur bei Tageslicht und gutem Wetter arbeiten. Ich persönlich glaube, wir werden für komplexere Anwendungen (Operational Design Domain, ODD) eher noch mehr Sensoren sehen. Beispielsweise Infrarotkameras für Dunkelheit und andere Arten von Lidaren wie beispielsweise Frequency Modulated Continuous Wave(FMCW)-Lidare, die auch bei nicht idealen Wetterbedingungen noch verwertbare Informationen aufbereiten können. Ein weiteres Beispiel sind Akustiksensoren, die vor allem für Martinshornerkennung sehr wichtig sind.
ATZelektronik: Lassen sich solch komplexe Sensorpakete unterschiedlichster Zusammensetzung überhaupt noch als Gesamtheit testen?
Steven Peters: Eine große Herausforderung ist die Fusionsstrategie – also die Frage: wie bringen Sie all die unterschiedlichen Sen sordaten so zusammen, dass sie eine ausreichend belastbare und verfügbare Interpretation der Umgebung für die nachfolgende Planung des Verhaltens des automatisierten Fahrzeuges erhalten? Meine persönliche Meinung ist, dass es einer situationsabhängigen Fusionsstrategie Bedarf, was die Absicherung leider nicht einfacher macht.
ATZelektronik: Wie sieht es im Bereich Simulation aus, kommt man langsam wieder an Soft- und Hardwaregrenzen für den nötigen 360-Grad-Test aller Systeme?
Steven Peters: Sensorsimulation ist ein großes Thema, das zunehmend Fahrt aufnimmt. Vor allem die Validierung der Sensormodelle ist eine große Forschungsaufgabe, die viele Universitäten – auch uns – gerade sehr umtreibt. Wenn man für die Absicherung der automatisierten Fahrfunktionen auf Simulationen setzt, dann verschiebt sich die Frage nach dem Sicherheitsnachweis der automatisierten Fahrfunktion hin zum Nachweis einer ausreichenden Validität der Simulation und ihrer Modelle. Leider hat man auf beide Fragen noch keine Antwort für komplexe ODD. In unserer Forschung geht es aber auch noch darum, Einflüsse des Wetters auf einzelne Sensoren korrekt simulieren zu können.
„Wir sehen beispielsweise bei Klassifikationen auf Bildern aus dem realen Verkehrsgeschehen in der Regel Fehler im Prozentbereich“
ATZelektronik: Kann Simulation durch seine Automatismen die Kreativität beim Testen zudecken?
Steven Peters: Das Gegenteil ist aus meiner Sicht der Fall. Wenn wir eine validierte Simulation haben, dann können wir der Fantasie freien Lauf lassen und lernen schneller, wo die Systemgrenzen liegen, wo noch nachgebessert werden muss – im System wie auch in der Simulation.
ATZelektronik: Wie sieht es mit dem Energieverbrauch an Bord beim Einsatz von Multisensorsystemen aus?
Steven Peters: Energieeffiziente Datenverarbeitung, also das Computing, ist neben dem Sicherheitsnachweis vielleicht die größte Herausforderung beim automatisierten Fahren und keineswegs gelöst. Die Sensoren erzeugen eine erhebliche Menge an Daten, die extrem schnell verarbeitet werden muss. Wir reden hier von Leistungsaufnahmen der Rechner im Kilowattbereich und damit von zweistelligen Prozentzahlen, um die sich die Reichweite eines batterieelektrisch betriebenen Fahrzeugs reduzieren kann. Die Lösungsansätze reichen von energieeffizienten Betriebsstrategien, also temporär oder lokal reduzierter Auflösung und Absenkung der Frequenz einzelner Sensoren bis hin zu ganz neuen Rechnerarchitekturen. Wir experimentieren an der TU Darmstadt mit neuromorphischer Hardware, auf denen gepulste neuronale Netze laufen. Das steckt noch in den Kinderschuhen, hat aber Potential, eine Zehnerpotenz weniger Energie zu benötigen. Langfristig sehen wir sogar Potential für analoges Rechnen im Auto, wobei dies neue Herausforderungen an die Absicherung stellt.
ATZelektronik: Was für Aufgaben stellen sich im Hinblick auf die einzusetzende KI beziehungsweise Datenbanken für hochautomatisiertes Fahren?
Steven Peters: KI im Sinne von maschinellem Lernen ist unabdingbar für das automatisierte Fahren, das zeigen sämtliche Benchmarks im Bereich Objektdetektion oder auch -klassifikation auf Bilddaten. In der Forschung existieren weitere KI-Ansätze beispielsweise auch für die Verhaltensprädiktion. Wichtig zu verstehen ist dabei immer: Es wird nichts on-board im Fahrzeug trainiert. Es handelt sich um neuronale Netze, die in der Entwicklung trainiert, abgesichert sowie freigegeben wurden und natürlich nicht im Feld und schon gar nicht dezentral oder gar individuell weiterlernen. Die einzige Möglichkeit zur Aktualisierung ist über ein Up date, also einen geänderten Softwarestand, der dann wiederum zentral trainiert, abgesichert und freigegeben wurde. Obwohl die Hardware im Auto also nur ausführen muss, erfordert diese trotzdem moderne Chips, die unter anderem für Parallelverarbeitung optimiert sind und in ihrer Leistungsfähigkeit aber leider auch in ihrer elektrischen Leistungsaufnahme alles in den Schatten stellen, was wir in Autos bisher kannten.
Professor Dr.-Ing. Steven Peters studierte Wirtschaftsingenieurwesen am KIT mit Schwerpunkten in Fahrzeug- und Produktionstechnik. Nach der Promotion 2013 war er Oberingenieur und anschließend von 2016 bis 2022 bei der Mercedes-Benz AG Leiter der KI-Forschung. Unter anderem war er dort an der Entwicklung des Konzeptfahrzeugs Vision EQXX beteiligt.
Seit April 2022 ist Peters Universitätsprofessor an der TU Darmstadt und Leiter des dortigen Fachgebiets Fahrzeugtechnik (FZD) im Fachbereich Maschinenbau.
ATZelektronik: Wie steht es mit universellen, weltweiten Regelungen: Erschwert die Vielfalt der am Markt verfügbaren Fahrzeuge durch reflexionsarme Farb- oder auch ungewollte Stealtheigenschaften der Karosserie die Wahrnehmung von Sensorsystemen?
Steven Peters: Objekte wie Fahrzeuge sind für die Erkennung allein durch die Größe weniger ein Problem. Mehr Kopfschmerzen bereiten die Corner Cases, sprich ganz selten auftretende, nicht vorhersehbare Objekte wie Pferdekutschen auf Landstraßen oder verkleidete Kinder an Fasching. Ein ISO-Standard zu sicherer KI für Straßenfahrzeuge wird aktuell unter Federführung von Kollege Simon Burton erarbeitet. Ich gehe davon aus, dass stets das Gesamtsystem die Sicherheitsziele erreichen muss. Eine Funktion auf Basis maschinellen Lernens lässt sich nicht auf einem Niveau absichern, wie es für sicherheitsrelevante Anwendungen im Automobil nötig wäre – wir sehen beispielsweise bei Klassifikationen auf Bildern aus dem realen Verkehrsgeschehen in der Regel Fehler im Prozentbereich. Ich glaube auch nicht, dass sich dies grundlegend ändern wird. Somit sind aus meiner Sicht auch sämtliche End-to-End-Ansätze, also das Trainieren eines mächtigen Netzes, das mit Sensordaten als Input direkt die Aktorbefehle als Output erzeugt, höchstens von theoretischem Interesse.
ATZelektronik: Wie trainiert man das Unvorhersehbare; sprich ist der Traum von der Null-Fehler-KI als Fahrer nicht eigentlich Makulatur im Vergleich zum Menschen als kognitiver Universalmaschine?
Steven Peters: Eine Null-Fehler-KI ist eine völlige Illusion. Ganz davon abgesehen, dass es in keinem mir bekannten technischen System so etwas wie hundertprozentige Sicherheit gibt: Wenn das sicherste System das oberste Ziel sein soll, dann sollten wir den bestmöglichen Assistenten bauen, den Menschen aber nicht aus dem Loop nehmen, sondern in vielen Situationen beispielsweise in der Stadt weiterhin aktiv selbst fahren lassen und in allen Notsituationen assistieren können. Mit dem Wissen, den wir heute haben, sage ich, dass das Team aus KI und Mensch mit großer Wahrscheinlichkeit in einer komplexen, offenen Welt wie dem Verkehr die überlegene Variante sein wird. Warum wir trotzdem das automatisierte Fahren ohne Fahrer in bestimmtem Bereichen brauchen, zeigt unter anderem der Blick nach Japan – dort ist die Gesellschaft noch älter als hierzulande und das Thema automatisiertes Fahren wird dort stark über Accessibility motiviert. Wenn wir unsere Bevölkerung ebenfalls selbstbestimmt mobil halten wollen und Inklusion in den Fokus rücken, dann bietet automatisiertes Fahren tolle Chancen – übrigens auch zur Anbindung der ländlichen Bevölkerung an den guten ÖPNV unserer Städte. Ein weiterer Punkt ist die Logistik, ohne automatisierte Nutzfahrzeuge dürften die Güter des täglichen Lebens für uns alle nach und nach deutlicher teurer werden durch den zunehmenden Mangel an Fahrern.
„Die unknown unknowns sind es, die uns Kopfschmerzen bereiten“
ATZelektronik: Kommt ein System für hochautomatisiertes Fahren am besten mit vorverarbeiteten oder Rohdaten zurecht?
Steven Peters: Wie viel hardwareseitig und damit in der Regel sehr effizient vorverarbeitet wird und wie viel Rohdaten bis zur Fusion weitergeben werden müssen, ist heute noch nicht einheitlich. Hier gibt es gerade in der Forschung sehr viel Dynamik.
ATZelektronik: Wo setzt man am besten an, wenn die Reduzierung der Datenmasse in Relevantes und Irrelevantes das Ziel ist?
Steven Peters: Der Begriff der Relevanz ist in diesem Kontext ein hochaktuelles Forschungsthema, zu dem gerade an meinem Fachgebiet zwei Dissertationen eingereicht wurden. Einer meiner Mitarbeiter hat sich Möglichkeiten zu Reduzierung der Datenmenge im Rahmen des Förderprojekts VVM angeschaut, das als Teil der recht bekannten Pegasus-Projektfamilie die Bereiche Testen und Absicherung abdeckt. Er untersucht in seiner Forschungsarbeit, welche Bereiche eines Bildes „getrost“ gelöscht und später „irgendwie“ auf Basis generativer KI wieder hergestellt werden können und welche auf jedem Fall unverfälscht bleiben müssen. Wir sehen hier durchaus Potential für eine Reduzierung der Datenmasse und damit verbundener Kosten.
ATZelektronik: Wie ist der Stellenwert von KI bei der Simulation von Szenarien?
Steven Peters: Aktuell wird bereits generative KI sowohl zur Generierung von Szenarien eingesetzt wie auch zur Abwandlung von im realen Umfeld gesammelten Sensordaten zur Vergrößerung der verfügbaren Trainingsdatenbasis im Sinn von Data Augmentation. Der sogenannte Sim-to-Real-Gap ist aber noch sehr groß. Es müssen einfach sehr viele relevante Situationen simuliert und die KI damit konfrontiert werden, um diese gezielt zu testen und die Grenzen auszuloten.
ATZelektronik: Gibt es für die Simulation von Assistenzsystemen eine Tendenz zu Bibliotheken für die Standardisierung der ODD beziehungsweise Testfälle?
Steven Peters: Der noch recht junge ISO-Standard 34503:2023 legt detailliert dar, wie ODDs für automatisierte Fahrfunktionen spezifiziert werden können. Im Bereich der Simulation von ADAS-Systemen ist unter anderem der ASAM e.V. sehr aktiv, aktuell zum Beispiel mit standardisierten Formaten unter anderem für Materialeigenschaften der Objekte in der Simulation. In Summe existieren aus einzelnen Projekten zwar kleinere Datenbanken und Bibliotheken, allerdings ist einerseits die einheitliche Darstellung noch nicht final geklärt, andererseits ist die Frage nach der Relevanz und damit der Auswahl der Szenarien für eine solche Bibliothek wie erwähnt immer noch ein offenes Forschungsthema. Zusätzlich hängt diese Relevanz zu Teilen auch noch vom spezifischen System ab.
ATZelektronik: Müsste man für die Homologation automatisierter Fahrzeuge oder von Assistenzsystemen nicht eigentlich einen analogen “WLTP-Zyklus“ entwickeln?
Steven Peters: Regularien wie beispielsweise die UNECE R139 für Bremsassistenten schreiben vor, wie ein solches System zu prüfen und zu messen ist, um eine Genehmigung zu erhalten. Auch die R157 (Automated Lane Keeping System) beschreibt Testszenarien. Für das automatisierte Fahren ist es deutlich komplexer. Aber auch hier gibt es viele Ansätze des szenariobasierten Testens, was unter anderem im Förderprojekt Pegasus erarbeitet wurde. Allerdings decken diese Ansätze – so notwendig sie auch sind – nur das ab, an das man denken kann. Die unknown unknowns sind es, die uns Kopfschmerzen bereiten und weiterhin sehr aufwendige und teure Feldtests nötig machen.
Dieses Interview erschien im Fachmagazin ATZelektronik, Ausgabe 1/2 2024.
Fachlicher Ansprechpartner:
Dipl.-Ing. Christof Kerkhoff
VDI-Gesellschaft Fahrzeug- und Verkehrstechnik
Telefon: +49 211 6214-645
E-Mail: kerkhoff@vdi.de