Τι έγινε
Η Axios αναφέρει ότι ο Srikanth Thirumalai, αντιπρόεδρος του ενσωματωμένου λογισμικού της Waymo, είπε ότι τα καθαρά συστήματα τεχνητής νοημοσύνης από άκρο σε άκρο δεν πληρούν τα πρότυπα ασφαλείας της εταιρείας για μεγάλης κλίμακας ανάπτυξη αυτόνομων οχημάτων. Η Waymo λέει ότι κατέληξε σε αυτό το συμπέρασμα αφού δοκίμασε παρόμοιες προσεγγίσεις και έβγαλε μαθήματα από περισσότερα από 200 εκατομμύρια μίλια χωρίς οδηγό.
Η Axios αναφέρει ότι ο Srikanth Thirumalai, αντιπρόεδρος λογισμικού ενσωματωμένου στη Waymo, είπε ότι η ασφαλής ανάπτυξη αυτόνομων οχημάτων σε κλίμακα απαιτεί περισσότερα από τη βελτίωση ενός μοντέλου τεχνητής νοημοσύνης. Σύμφωνα με την Axios, η Waymo περιέγραψε από την αρχή τον στόχο της ως την κατασκευή «αποδεδειγμένα ασφαλούς τεχνητής νοημοσύνης» και ο Thirumalai είπε ότι η εταιρεία έχει δοκιμάσει τα ίδια γενικά εργαλεία που χρησιμοποιούνται από νεότερους προγραμματιστές αυτόνομης οδήγησης. Το συμπέρασμα της Waymo, όπως αναφέρει το Axios, είναι ότι τα «καθαρά από άκρο σε άκρο» συστήματα δεν είναι σε θέση να ανταποκριθούν στη γραμμή ασφαλείας της στην κλίμακα στην οποία λειτουργεί. Η πηγή δεν προσδιορίζει το αριθμητικό όριο ή το πρωτόκολλο δοκιμής πίσω από αυτήν τη γραμμή ασφαλείας.
Η Axios αναφέρει ότι η κριτική της Waymo στοχεύει σε συστήματα που επεξεργάζονται ακατέργαστα δεδομένα αισθητήρων και παράγουν απευθείας εντολές διεύθυνσης. Η εταιρεία λέει ότι τέτοιες αρχιτεκτονικές δεν διαθέτουν επαρκή προστατευτικά κιγκλιδώματα για τις ανάγκες ανάπτυξής της. Ο Thirumalai είπε επίσης στο Axios ότι ακόμη και τα πολύ μεγάλα μοντέλα τεχνητής νοημοσύνης μπορούν να έχουν παραισθήσεις, δημιουργώντας ένα ειδικό πρόβλημα στα φυσικά συστήματα: ένα όχημα δεν μπορεί απλώς να ανανεωθεί ή να επανεκκινηθεί μετά τη λήψη μιας κακής απόφασης. Στον λογαριασμό της πηγής, η Waymo υποστηρίζει ότι ένα αυτόνομο όχημα πρέπει να διαχειριστεί τις συνέπειες ενός λάθους στον πραγματικό κόσμο, όπου οι άνθρωποι, τα οχήματα και οι υποδομές επηρεάζονται άμεσα.
Σύμφωνα με τον Axios, η προσέγγιση του Waymo έχει αλλάξει με την πάροδο του χρόνου. Η εταιρεία ξεκίνησε με πολλά εξειδικευμένα μοντέλα, συμπεριλαμβανομένων χωριστών συστημάτων για εργασίες όπως η ανίχνευση πεζών και η αναγνώριση πότε ένα σήμα κυκλοφορίας γίνεται πράσινο. Αργότερα κινήθηκε προς λιγότερα, μεγαλύτερα μοντέλα θεμελίωσης, ενώ συνέχισε να βασίζεται σε ένα ευρύτερο σύστημα ελέγχων. Η Axios λέει ότι η Waymo δημοσίευσε μια ανάρτηση ιστολογίου που περιγράφει 10 μαθήματα από περισσότερα από 200 εκατομμύρια αυτόνομα μίλια. Η έκθεση περιγράφει ότι η Tesla, η Wayve και η Waabi επιδιώκουν πιο εκτεταμένα συστήματα end-to-end, τα οποία αυτές οι εταιρείες λένε ότι μπορούν να υποστηρίξουν την ανθρώπινη λογική. Ως εκ τούτου, τα σχόλια της Waymo αποτελούν μέρος μιας ενεργούς συζήτησης στον κλάδο, όχι ένα σταθερό τεχνικό εύρημα.
Η Axios αναφέρει επίσης ότι η Waymo διαπίστωσε ότι η ορατότητα ήταν καλύτερη όταν χρησιμοποιήθηκαν κάμερες, lidar και ραντάρ μαζί παρά όταν αφαιρέθηκαν ένας ή περισσότεροι από αυτούς τους τύπους αισθητήρων. Ο Thirumalai είπε στο outlet ότι η τεχνητή νοημοσύνη μπορεί να ερμηνεύσει μόνο αυτό που ανιχνεύουν οι αισθητήρες της. Η Waymo προέβαλε ένα παρόμοιο επιχείρημα σχετικά με τους χάρτες υψηλής ευκρίνειας, οι οποίοι ορισμένοι ανταγωνιστές λένε ότι δεν είναι απαραίτητοι. Η αναφορά δεν παρέχει συγκριτικά αποτελέσματα δοκιμών, δεν προσδιορίζει τα περιβάλλοντα που χρησιμοποιούνται ή δεν καθορίζει εάν το εύρημα ισχύει εξίσου σε όλα τα συστήματα αυτόνομης οδήγησης.
Γιατί έχει σημασία
Η θέση αμφισβητεί μια κεντρική υπόθεση του αγώνα αυτόνομων οχημάτων: ότι καλύτερα μοντέλα και περισσότερα δεδομένα θα μπορούσαν να επιτρέψουν στις νεότερες εταιρείες να φτάσουν γρήγορα τη διαφορά. Υπογραμμίζει επίσης ένα άλυτο τεχνικό και πολιτικό ερώτημα σχετικά με το πόση αυτονομία θα πρέπει να βασίζεται σε ένα μεμονωμένο νευρικό σύστημα έναντι πολλών μοντέλων, αισθητήρων και ελέγχων ασφαλείας.
Τα πρακτικά διακυβεύματα είναι ασυνήθιστα υψηλά επειδή το λογισμικό αυτόνομης οδήγησης ελέγχει τις φυσικές μηχανές γύρω από μέλη του κοινού. Εάν ένα σύστημα τεχνητής νοημοσύνης παρερμηνεύσει μια σκηνή, η συνέπεια δεν είναι απλώς μια λανθασμένη απάντηση που μπορεί να αναπαραχθεί. Η Axios αναφέρει ότι ο Thirumalai χρησιμοποίησε αυτή τη διάκριση για να εξηγήσει γιατί η Waymo πιστεύει ότι η φυσική τεχνητή νοημοσύνη χρειάζεται ισχυρότερες διασφαλίσεις από ένα μοντέλο γενικής χρήσης. Το επιχείρημα της εταιρείας υπονοεί ότι η αξιοπιστία πρέπει να αποδεικνύεται σε μακροχρόνιες λειτουργίες στον πραγματικό κόσμο, χωρίς να συνάγεται από το μέγεθος του μοντέλου, τις βαθμολογίες αναφοράς ή την προφανή ευχέρεια του συλλογισμού ενός συστήματος.
Η έκθεση πλαισιώνει επίσης τη διαμάχη ως ένα ερώτημα σχετικά με τον ανταγωνιστικό χρόνο. Η Axios λέει ότι η πρόοδος στη συλλογή δεδομένων και τα πιο έξυπνα μοντέλα έχουν ενθαρρύνει τις ελπίδες ότι οι νεότερες εταιρείες θα μπορούσαν να βρουν μια συντόμευση για την αυτόνομη οδήγηση. Εάν αυτές οι ελπίδες δικαιωθούν, οι αντίπαλοι θα μπορούσαν να μειώσουν τη σημασία του μακροχρόνιου κεφαλιού του Waymo. Εάν η Waymo έχει δίκιο ότι η ασφαλής ανάπτυξη απαιτεί εκτεταμένες δοκιμές, πολλαπλά επίπεδα ελέγχου και ευρεία κάλυψη αισθητήρων, τα αυτόνομα οχήματα ενδέχεται να παραμείνουν ένα πιο αργό και ακριβό μηχανολογικό έργο. Η πηγή δεν καθορίζει ανεξάρτητα ποια πλευρά αυτής της συζήτησης είναι σωστή.
Η θέση της Waymo έχει σημασία για τον τρόπο καθορισμού των προτύπων ασφαλείας. Μια απαίτηση για διάφορους τύπους αισθητήρων, λεπτομερείς χάρτες ή αρχιτεκτονικές μοντέλων σε επίπεδα θα μπορούσε να βελτιώσει τον πλεονασμό, αλλά θα μπορούσε επίσης να αυξήσει το κόστος ανάπτυξης και λειτουργίας. Αντίστροφα, η αποδοχή ενός ενιαίου συστήματος από άκρο σε άκρο θα μπορούσε να απλοποιήσει τη στοίβα λογισμικού ενός οχήματος, ενώ θα φέρει μεγαλύτερη ευθύνη σε ένα μοντέλο που έχει μάθει. Η Axios αναφέρει ότι το επιχείρημα ασφάλειας της Waymo εξυπηρετεί επίσης τα ανταγωνιστικά της συμφέροντα, επειδή η εταιρεία έχει συγκεντρώσει χρόνια δοκιμών και δεδομένα οδήγησης σε πραγματικό κόσμο. Αυτό το κίνητρο δεν ακυρώνει τον ισχυρισμό, αλλά αποτελεί σχετικό πλαίσιο για την αξιολόγησή του.
Η ιστορία είναι σημαντική πέρα από τις εταιρείες που κατονομάζονται επειδή αφορά τον τρόπο με τον οποίο οι ρυθμιστικές αρχές, οι ασφαλιστές και το κοινό μπορούν να κρίνουν τα αυτόνομα συστήματα. Ένα όχημα που αποδίδει καλά σε επιδείξεις μπορεί να εξακολουθεί να αντιμετωπίζει δύσκολα περιβλήματα ακμών, περιορισμούς αισθητήρων ή αστοχίες που είναι δύσκολο να αναπαραχθούν. Η έκθεση δεν προσφέρει ανεξάρτητη αξιολόγηση του ρεκόρ του Waymo, καμία σύγκριση με ανταγωνιστικά συστήματα και καμία απόδειξη ότι μια αρχιτεκτονική είναι παγκοσμίως πιο ασφαλής. Η κύρια συμβολή του είναι να τεκμηριώσει την τρέχουσα τεχνική θέση της Waymo και το σκεπτικό που παρουσιάζει δημόσια η εταιρεία.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
Which component of an AI application is the machine-learning model itself?
Τι να παρακολουθήσετε στη συνέχεια
Η βασική δοκιμή θα είναι δημόσια στοιχεία από τη Waymo και τους ανταγωνιστές της σχετικά με την απόδοση ασφάλειας, τις συνθήκες ανάπτυξης και τον χειρισμό αστοχιών. Η πηγή δεν παρέχει ακριβή όρια ασφαλείας, συγκριτικά ποσοστά αποτυχίας ή ανεξάρτητη επαλήθευση των ισχυρισμών της Waymo.
Η πιο σημαντική συνέχεια είναι μετρήσιμα στοιχεία. Οι αναγνώστες θα πρέπει να αναζητούν δημόσια τεκμηριωμένες πληροφορίες σχετικά με το πού λειτουργεί κάθε σύστημα αυτόνομης οδήγησης, πόσο συχνά απαιτείται ανθρώπινη παρέμβαση ή απομακρυσμένη βοήθεια, πώς ταξινομούνται οι βλάβες και πώς συγκρίνονται οι επιδόσεις ασφάλειας σε όλες τις συνθήκες. Το Axios αναφέρει την εμπειρία της Waymo σε σχέση με περισσότερα από 200 εκατομμύρια μίλια χωρίς οδηγό, αλλά η πηγή δεν παρέχει παρονομαστή για περιστατικά, τυποποιημένη σύγκριση με ανταγωνιστές ή ανεξάρτητο έλεγχο των επιπτώσεων αυτού του αριθμού στην ασφάλεια.
Η στρατηγική αισθητήρων θα είναι μια άλλη διαχωριστική γραμμή. Η Axios λέει ότι η εκπαίδευση του Waymo έδειξε καλύτερη ορατότητα όταν οι κάμερες, το lidar και το ραντάρ συνεργάζονταν, ενώ ανέφερε επίσης ότι η Tesla ακολουθεί μια προσέγγιση μόνο με κάμερα. Περαιτέρω αναφορές θα πρέπει να καθορίσουν εάν αυτά τα αποτελέσματα ισχύουν για τον καιρό, τον φωτισμό, τη διάταξη δρόμων και τα ασυνήθιστα αντικείμενα και εάν οι πρόσθετοι αισθητήρες δημιουργούν σημαντικές βελτιώσεις σε σχέση με τις απαιτήσεις κόστους και συντήρησης. Η πηγή δεν λέει ότι οι κάμερες από μόνες τους είναι αδύνατες, μόνο ότι η Waymo λέει ότι η καλύτερη τεχνητή νοημοσύνη δεν μπορεί να αντισταθμίσει πλήρως την ανεπαρκή ανίχνευση.
Οι απαιτήσεις χαρτογράφησης αξίζουν επίσης έλεγχο. Ο Axios αναφέρει ότι ορισμένοι αντίπαλοι θεωρούν τους χάρτες υψηλής ευκρίνειας περιττούς, ενώ ο Waymo υποστηρίζει ότι η χαρτογράφηση παραμένει σημαντική. Το ανεπίλυτο ζήτημα είναι πώς χειρίζεται κάθε σύστημα αλλαγές δρόμων, κατασκευές, ασυνήθιστα μοτίβα κυκλοφορίας και τοποθεσίες εκτός της κανονικής περιοχής λειτουργίας του. Η δημόσια τεκμηρίωση από τις εταιρείες ή τις ρυθμιστικές αρχές θα μπορούσε να διευκρινίσει εάν οι χάρτες είναι κρίσιμοι για την ασφάλεια, προαιρετικά εργαλεία υποστήριξης ή περιορισμός στην ανάπτυξη. Καμία από αυτές τις λεπτομέρειες δεν αναφέρεται στην πηγή.
Τέλος, παρακολουθήστε εάν οι προόδους της τεχνητής νοημοσύνης αλλάζουν τη συζήτηση για την αρχιτεκτονική. Το Axios αναφέρει ότι ο Waymo πιστεύει ότι δεν υπάρχει μια ενιαία «ασημένια σφαίρα», αλλά το άρθρο σημειώνει επίσης ότι η ταχεία πρόοδος θα μπορούσε να δημιουργήσει μια ταχύτερη διαδρομή προς την αυτονομία. Στα σημαντικά άγνωστα στοιχεία περιλαμβάνονται ο τρόπος με τον οποίο η Waymo ορίζει τη μπάρα ασφαλείας της, ποια συγκεκριμένα προστατευτικά κιγκλιδώματα χρησιμοποιούν τα συστήματά της, πώς ενσωματώνονται τα δοκιμασμένα από άκρο σε άκρο εξαρτήματά της και εάν η Tesla, η Wayve ή η Waabi μπορούν να επιδείξουν συγκρίσιμη ασφάλεια σε κλίμακα. Μέχρι να απαντηθούν αυτά τα ερωτήματα με συγκρίσιμα δημόσια στοιχεία, ο ισχυρισμός της Waymo θα πρέπει να αντιμετωπίζεται ως αποδοθείσα θέση στον κλάδο και όχι ως οριστική ετυμηγορία.