Τι έγινε
Ο Guardian αναφέρει ότι ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, πρότεινε την επιβράδυνση της ανάπτυξης της συνοριακής τεχνητής νοημοσύνης μέσω ανεξάρτητων αξιολογητών, διεθνών συμφωνιών ασφάλειας και συντονισμού με την Κίνα σε θέματα ασφάλειας. Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, ο επικεφαλής του Google DeepMind, Ντέμης Χασάμπης και ο ιδιοκτήτης του xAI, Elon Musk, εξέφρασαν δημόσια την υποστήριξή τους. Η έκθεση αναφέρει επίσης ότι ο Ντόναλντ Τραμπ απέρριψε την επιβράδυνση της ανάπτυξης, επικαλούμενος τον ανταγωνισμό με την Κίνα.
Ο Guardian αναφέρει ότι η Amodei εξέδωσε μια πρόταση με τίτλο «Πρέπει να ρυθμίσουμε τα σύνορα» μετά από προειδοποιήσεις από ερευνητές του Anthropic σχετικά με πιθανούς καταστροφικούς κινδύνους τεχνητής νοημοσύνης. Οι τρεις κεντρικές του ιδέες είναι εξωτερικοί αξιολογητές με πρόσβαση σε επίπεδο εργαζομένων στην παρακολούθηση του κινδύνου, συμφωνίες μεταξύ δημοκρατικών κυβερνήσεων για τα πρότυπα ασφαλείας και παγκόσμιος συντονισμός με αυταρχικές κυβερνήσεις συμπεριλαμβανομένης της Κίνας για θέματα ασφάλειας.
Σύμφωνα με την έκθεση, ο Altman είπε ότι το OpenAI θα ανταποκρινόταν στη δέσμευση της Amodei σε ανεξάρτητους αξιολογητές, ενώ οι Hassabis και Musk εξέφρασαν επίσης την υποστήριξή τους. Η έκθεση δεν παρέχει το πλήρες κύριο κείμενο της πρότασης του Amodei ή ανεξάρτητες αποδείξεις ότι αυτές οι δηλώσεις έχουν δημιουργήσει επίσημες, εκτελεστές δεσμεύσεις.
Το άρθρο αναφέρει ουσιαστική αντίθεση από επικριτές κανονισμών AI και πρώην αξιωματούχους, οι οποίοι αμφισβήτησαν εάν οι αξιολογητές επιλεγμένοι από τον κλάδο και οι πιθανές εξαιρέσεις αντιμονοπωλιακών θα μπορούσαν να ισοδυναμούν με ρυθμιστική σύλληψη. Αναφέρει επίσης ότι ο Τραμπ απέρριψε τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης και ότι ο πρόεδρος της Βουλής των Αντιπροσώπων Μάικ Τζόνσον είπε ότι οι εταιρείες και όχι το Κογκρέσο θα πρέπει να ηγούνται στην ασφάλεια της τεχνητής νοημοσύνης.
Στοιχεία πηγής: theguardian.com ↗
Γιατί έχει σημασία
Το επεισόδιο υπογραμμίζει μια διευρυνόμενη σύγκρουση μεταξύ των δημόσιων προειδοποιήσεων των εταιρειών τεχνητής νοημοσύνης σχετικά με σοβαρούς κινδύνους και των εμπορικών και γεωπολιτικών κινήτρων τους για να συνεχίσουν να κυκλοφορούν πιο ικανά συστήματα. Οι εθελοντικές δεσμεύσεις θα μπορούσαν να βελτιώσουν την εποπτεία εάν οι αξιολογητές λάβουν πραγματική πρόσβαση και εξουσία, αλλά η παρεχόμενη έκθεση δεν επιβεβαιώνει ανεξάρτητα ότι κάποια εταιρεία έχει υιοθετήσει δεσμευτικά μέτρα. Η συζήτηση εγείρει επίσης ερωτήματα σχετικά με το εάν ο συντονισμός του κλάδου θα βελτιώσει την ασφάλεια ή θα εδραιώσει τους υφιστάμενους ηγέτες της αγοράς.
Η ανάπτυξη είναι επακόλουθη επειδή οι ηγέτες πολλών μεγάλων εταιρειών τεχνητής νοημοσύνης αναγνωρίζουν δημόσια ότι η ταχύτερη ανάπτυξη ικανοτήτων μπορεί να απαιτεί ισχυρότερους ελέγχους ασφαλείας. Αυτή η θέση θα μπορούσε να επηρεάσει τη μελλοντική ρύθμιση, την εταιρική διακυβέρνηση και τις διεθνείς διαπραγματεύσεις, αλλά η δημόσια υποστήριξη από μόνη της δεν αποδεικνύει ότι η ανάπτυξη έχει επιβραδυνθεί ή ότι οι πρακτικές ασφάλειας έχουν ουσιαστικά αλλάξει.
Η αναφορά του Guardian αποκαλύπτει επίσης μια διαρθρωτική ένταση: οι εταιρείες μπορεί να επιδιώξουν εθελοντικό συντονισμό ενώ αντιτίθενται σε κανόνες που θα μπορούσαν να περιορίσουν τα προϊόντα τους ή να προστατεύσουν τους ανταγωνιστές. Το πρακτικό αποτέλεσμα θα εξαρτηθεί από το εάν οι ανεξάρτητοι αξιολογητές μπορούν να έχουν πρόσβαση σε σχετικά συστήματα, να δημοσιεύουν αξιόπιστα πορίσματα και να λειτουργούν πέρα από τον έλεγχο της εταιρείας. Αυτές οι προϋποθέσεις παραμένουν ανεπίλυτες στην παρεχόμενη αναφορά.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
Which component of an AI application is the machine-learning model itself?
Τι να παρακολουθήσετε στη συνέχεια
Τα βασικά άγνωστα περιλαμβάνουν εάν οι εταιρείες θα επισημοποιήσουν τις δεσμεύσεις τους, ποιος θα επέλεγε και θα εξουσιοδοτήσει εξωτερικούς αξιολογητές και εάν οι αξιολογητές θα έχουν πρόσβαση σε επίπεδο εργαζομένων στην πράξη. Παρακολουθήστε οποιονδήποτε προτεινόμενο ομοσπονδιακό ρόλο, την αντιμετώπιση των αντιμονοπωλιακών ανησυχιών και εάν η κυβέρνηση Τραμπ αλλάζει την αντίθεσή της στην επιβράδυνση της ανάπτυξης. Δεν τεκμηριώνεται πρόσβαση, διαθεσιμότητα ή αλλαγή τιμής προϊόντος.
Η άμεση δοκιμή είναι η υλοποίηση. Η έκθεση δεν καθορίζει προθεσμίες, μηχανισμούς επιβολής, ταυτότητες αξιολογητών ή συνέπειες για εταιρείες που δεν συμμορφώνονται. Η περαιτέρω υποβολή εκθέσεων θα πρέπει να διακρίνει τις δημόσιες δηλώσεις από τις υπογεγραμμένες συμφωνίες, τις λειτουργικές παύσεις ή τις αλλαγές ασφάλειας που αξιολογούνται ανεξάρτητα.
Τα διεθνή και αντιμονοπωλιακά στοιχεία της πρότασης ενδέχεται να αντιμετωπίσουν πολιτική αντίσταση. Οι επικριτές που αναφέρονται στην έκθεση υποστηρίζουν ότι η συνεργασία θα μπορούσε να χρησιμοποιηθεί για τον περιορισμό του ανταγωνισμού, ενώ η αμερικανική κυβέρνηση συνεχίζει να πλαισιώνει την ηγεσία της τεχνητής νοημοσύνης ως διαγωνισμό με την Κίνα. Παραμένει άγνωστο εάν οι υπεύθυνοι χάραξης πολιτικής δημιουργούν εκτελεστή εποπτεία ή αφήνουν την ευθύνη κατά κύριο λόγο στις εταιρείες.