Wat is er gebeurd
Axios meldt dat Srikanth Thirumalai, Waymo's vice-president van boordsoftware, zei dat pure end-to-end AI-systemen niet voldoen aan de veiligheidsnorm van het bedrijf voor grootschalige inzet van autonome voertuigen. Waymo zegt dat het tot die conclusie is gekomen na het testen van vergelijkbare benaderingen en het trekken van lessen uit meer dan 200 miljoen zelfrijdende kilometers.
Axios meldt dat Srikanth Thirumalai, Waymo’s vice-president van boordsoftware, zei dat het veilig inzetten van autonome voertuigen op grote schaal meer vereist dan alleen het verbeteren van een AI-model. Volgens Axios heeft Waymo zijn doelstelling vanaf het begin omschreven als het bouwen van ‘aantoonbaar veilige AI’, en Thirumalai zei dat het bedrijf dezelfde algemene tools heeft getest die worden gebruikt door nieuwere ontwikkelaars van autonoom rijden. De conclusie van Waymo, zoals gerapporteerd door Axios, is dat ‘pure end-to-end’-systemen niet in staat zijn om aan de veiligheidseisen te voldoen op de schaal waarop zij opereren. De bron specificeert niet de numerieke drempel of het testprotocol achter die veiligheidsbalk.
Axios meldt dat de kritiek van Waymo zich richt op systemen die ruwe sensordata verwerken en direct stuurcommando's produceren. Het bedrijf zegt dat dergelijke architecturen onvoldoende veiligheidsrails hebben voor de implementatiebehoeften. Thirumalai vertelde Axios ook dat zelfs zeer grote AI-modellen kunnen hallucineren, waardoor een speciaal probleem ontstaat in fysieke systemen: een voertuig kan niet zomaar worden vernieuwd of opnieuw worden opgestart nadat het een slechte beslissing heeft genomen. In het verslag van de bron betoogt Waymo dat een autonoom voertuig de gevolgen van een fout in de echte wereld moet beheersen, waar mensen, voertuigen en infrastructuur onmiddellijk worden getroffen.
Volgens Axios is de aanpak van Waymo in de loop van de tijd veranderd. Het bedrijf begon met veel gespecialiseerde modellen, waaronder afzonderlijke systemen voor taken als het detecteren van voetgangers en het herkennen wanneer een verkeerslicht op groen springt. Later ging het over op minder, grotere funderingsmodellen, terwijl het bleef vertrouwen op een breder systeem van controles. Axios zegt dat Waymo een blogpost heeft gepubliceerd waarin tien lessen worden geschetst uit meer dan 200 miljoen autonome kilometers. Het rapport beschrijft dat Tesla, Wayve en Waabi uitgebreidere end-to-end-systemen nastreven, waarvan deze bedrijven zeggen dat ze menselijk redeneren kunnen ondersteunen. De opmerkingen van Waymo maken daarom deel uit van een actief debat in de sector en niet van een vaste technische bevinding.
Axios meldt ook dat Waymo ontdekte dat het zicht beter was als camera's, lidar en radar samen werden gebruikt dan wanneer een of meer van die sensortypen werden verwijderd. Thirumalai vertelde de outlet dat AI alleen kan interpreteren wat zijn sensoren detecteren. Waymo voerde een soortgelijk argument aan over kaarten met hoge resolutie, die volgens sommige concurrenten niet nodig zijn. Het rapport geeft geen vergelijkende testresultaten, specificeert de gebruikte omgevingen en stelt niet vast of de bevinding in gelijke mate van toepassing is op alle autonoom rijdende systemen.
Waarom het ertoe doet
Dit standpunt daagt een centraal uitgangspunt van de race over autonome voertuigen uit: dat betere modellen en meer data ervoor kunnen zorgen dat nieuwere bedrijven hun achterstand snel kunnen inhalen. Het belicht ook een onopgeloste technische en beleidsvraag over hoeveel autonomie moet berusten op één enkel neuraal systeem versus meerdere modellen, sensoren en veiligheidscontroles.
De praktische inzet is ongewoon hoog omdat software voor autonoom rijden fysieke machines rondom het publiek bestuurt. Als een AI-systeem een scène verkeerd interpreteert, is het gevolg niet alleen een onjuist antwoord dat opnieuw kan worden gegenereerd. Axios meldt dat Thirumalai dit onderscheid heeft gebruikt om uit te leggen waarom Waymo gelooft dat fysieke AI sterkere waarborgen nodig heeft dan een model voor algemene doeleinden. Het argument van het bedrijf houdt in dat betrouwbaarheid moet worden aangetoond tijdens langdurige praktijkactiviteiten, en niet moet worden afgeleid uit de modelomvang, benchmarkscores of de schijnbare vlotheid van de redenering van een systeem.
Het rapport omschrijft het geschil ook als een vraag over competitieve timing. Axios zegt dat de vooruitgang op het gebied van gegevensverzameling en slimmere modellen de hoop hebben aangewakkerd dat nieuwere bedrijven een kortere weg naar zelfrijdend vervoer kunnen vinden. Als die hoop gerechtvaardigd wordt, kunnen rivalen het belang van Waymo’s lange voorsprong verminderen. Als Waymo gelijk heeft dat veilige implementatie uitgebreide tests, meerdere controlelagen en brede sensordekking vereist, kunnen autonome voertuigen een langzamer en duurder technisch project blijven. De bron stelt niet zelfstandig vast welke kant van dat debat juist is.
Het standpunt van Waymo is van belang voor de manier waarop veiligheidsnormen kunnen worden gedefinieerd. Een vereiste voor verschillende sensortypen, gedetailleerde kaarten of gelaagde modelarchitecturen zou de redundantie kunnen verbeteren, maar het zou ook de ontwikkelings- en exploitatiekosten kunnen verhogen. Omgekeerd zou het accepteren van één enkel end-to-end-systeem de softwarestack van een voertuig kunnen vereenvoudigen en tegelijkertijd meer verantwoordelijkheid op één geleerd model kunnen leggen. Axios meldt dat het veiligheidsargument van Waymo ook zijn concurrentiebelangen dient, omdat het bedrijf jarenlang test- en praktijkgegevens heeft verzameld. Deze prikkel maakt de claim niet ongeldig, maar vormt wel een relevante context voor de beoordeling ervan.
Het verhaal is belangrijker dan de genoemde bedrijven, omdat het gaat over hoe toezichthouders, verzekeraars en het publiek autonome systemen kunnen beoordelen. Een voertuig dat goed presteert tijdens demonstraties kan nog steeds te maken krijgen met lastige randgevallen, sensorbeperkingen of moeilijk te reproduceren storingen. Het rapport biedt geen onafhankelijke beoordeling van de prestaties van Waymo, geen vergelijking met concurrerende systemen en geen bewijs dat één architectuur universeel veiliger is. De belangrijkste bijdrage is het documenteren van Waymo’s huidige technische positie en de redenering die het bedrijf publiekelijk presenteert.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Which component of an AI application is the machine-learning model itself?
Wat je nu moet bekijken
De belangrijkste test zal openbaar bewijs zijn van Waymo en zijn concurrenten over de veiligheidsprestaties, de inzetomstandigheden en de afhandeling van storingen. De bron biedt geen exacte veiligheidsdrempels, vergelijkende faalpercentages of onafhankelijke verificatie van de beweringen van Waymo.
Het belangrijkste vervolg is meetbaar bewijs. Lezers moeten zoeken naar openbaar gedocumenteerde informatie over waar elk autonoom rijsysteem werkt, hoe vaak menselijke tussenkomst of hulp op afstand nodig is, hoe storingen worden geclassificeerd en hoe de veiligheidsprestaties onder verschillende omstandigheden worden vergeleken. Axios rapporteert de ervaring van Waymo in termen van meer dan 200 miljoen zelfrijdende kilometers, maar de bron geeft geen noemer voor incidenten, een gestandaardiseerde vergelijking met concurrenten of een onafhankelijke audit van de veiligheidsimplicaties van dat cijfer.
Sensorstrategie zal een andere scheidslijn zijn. Axios zegt dat de training van Waymo een betere zichtbaarheid liet zien wanneer camera's, lidar en radar samenwerkten, terwijl hij ook meldde dat Tesla een aanpak met alleen camera's nastreeft. Verdere rapportage moet uitwijzen of deze resultaten gelden voor het weer, de verlichting, de wegeninrichting en ongebruikelijke objecten, en of de extra sensoren betekenisvolle verbeteringen opleveren in verhouding tot hun kosten en onderhoudsvereisten. De bron zegt niet dat camera's alleen onmogelijk zijn, alleen dat Waymo zegt dat betere AI onvoldoende detectie niet volledig kan compenseren.
Ook de vereisten voor het in kaart brengen verdienen kritisch onderzoek. Axios meldt dat sommige rivalen high-definition kaarten onnodig vinden, terwijl Waymo beweert dat kaarten belangrijk blijven. Het onopgeloste probleem is hoe elk systeem omgaat met wegwijzigingen, wegwerkzaamheden, ongebruikelijke verkeerspatronen en locaties buiten het normale werkgebied. Openbare documentatie van de bedrijven of toezichthouders zou kunnen verduidelijken of kaarten veiligheidskritisch zijn, optionele ondersteuningsinstrumenten zijn of een beperking vormen bij de inzet. Geen van deze details is vastgelegd in de bron.
Kijk ten slotte of de vooruitgang op het gebied van AI het architectuurdebat verandert. Axios meldt dat Waymo gelooft dat er niet één 'zilveren kogel' bestaat, maar het artikel merkt ook op dat snelle vooruitgang nog steeds een snellere route naar autonomie zou kunnen opleveren. Betekenisvolle onbekenden zijn onder meer hoe Waymo zijn veiligheidsbeugel definieert, welke specifieke vangrails zijn systemen gebruiken, hoe de geteste end-to-end componenten zijn geïntegreerd en of Tesla, Wayve of Waabi vergelijkbare veiligheid op schaal kunnen aantonen. Totdat deze vragen worden beantwoord met vergelijkbaar openbaar bewijs, moet de claim van Waymo worden behandeld als een toegeschreven standpunt van de sector in plaats van als een definitief oordeel.