Τι έγινε
Ο Cohere υποστηρίζει ότι ένας οδικός χάρτης που αποδίδεται στον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei, ζητά ακατάλληλα κυβερνητική άδεια για τα μεγάλα εργαστήρια τεχνητής νοημοσύνης να συντονίζουν τα πρότυπα ασφαλείας και τα όρια ανάπτυξης. Η ανάρτηση προτείνει αναφορά συμβάντων, παρατηρησιμότητα, διασφαλίσεις ειδικά για την ανάπτυξη και ευρύτερη συμμετοχή στη θέσπιση κανόνων.
Στην πηγή, ο Cohere υποστηρίζει ότι σε μια μικρή ομάδα κυρίαρχων εταιρειών τεχνητής νοημοσύνης της Silicon Valley δεν θα πρέπει να επιτρέπεται να ορίζει πρότυπα ασφαλείας για την ευρύτερη βιομηχανία, καθορίζοντας ταυτόχρονα τον ρυθμό της τεχνολογικής ανάπτυξης. Χαρακτηρίζει έναν οδικό χάρτη Anthropic, που αποδίδεται στον Διευθύνοντα Σύμβουλο Dario Amodei και περιγράφεται όπως δημοσιεύτηκε εκείνη την εβδομάδα, ως επιδιώκοντας μια στενή παραίτηση από την αντιμονοπωλιακή νομοθεσία, ώστε τα ανταγωνιστικά εργαστήρια να μπορούν να συντονίζονται σε κοινά πρότυπα και όρια ανάπτυξης.
Η ανάρτηση λέει ότι το Cohere υποστηρίζει την ανεξάρτητη αναθεώρηση συστημάτων τεχνητής νοημοσύνης με υψηλή ικανότητα, αλλά αμφισβητεί ποιος θα συντάξει τα πρότυπα, θα επιβλέπει τους αναθεωρητές και θα αποφασίζει ποιοι προγραμματιστές και δημόσιοι ενδιαφερόμενοι συμμετέχουν. Υποστηρίζει ότι τα πλαίσια που επικεντρώνονται σε υπολογιστικά κατώφλια, μεγάλης κλίμακας μοντέλα και εργαστήρια συνόρων θα μπορούσαν να παραβλέψουν τους κινδύνους από μικρότερα συστήματα, πράκτορες που χρησιμοποιούν εργαλεία, συντονισμένες ομάδες πρακτόρων και μοντέλα που αναπτύσσονται σε ευαίσθητα περιβάλλοντα.
Το Cohere προτείνει μια προσέγγιση βάσει κινδύνου που επικεντρώνεται στην αναφορά σοβαρών συμβάντων, στη δοκιμή γνωστών τρόπων αστοχίας, στην παρατηρησιμότητα ή στην καταγραφή του χρόνου δοκιμής και στην απομόνωση συστημάτων που συνδέονται με υποδομές ζωτικής σημασίας. Υποστηρίζει επίσης ότι οι διασφαλίσεις πρέπει να εξαρτώνται από το τι μπορεί να κάνει ένα σύστημα και τι μπορεί να έχει πρόσβαση, και όχι μόνο από το μέγεθος της εταιρείας που το κατασκεύασε. Αυτές είναι προτάσεις στην πηγή, δεν έχουν αναφερθεί κυβερνητικές απαιτήσεις.
Η πηγή συνδέει επίσης το επιχείρημα πολιτικής με την εμπορική προτίμηση της Cohere για συστήματα που αναπτύσσονται σε υποδομές που ελέγχονται από πελάτες ή κυβερνήσεις. Λέει ότι η τεχνολογική ποικιλομορφία και η τοπική ανάπτυξη μπορούν να μειώσουν την εξάρτηση από έναν μεμονωμένο πάροχο, ενώ αναγνωρίζει ότι η ίδια η Cohere δεν πρέπει να είναι ο μοναδικός δημιουργός κανόνων.
Γιατί έχει σημασία
Η διαφωνία αφορά το ποιος θα καθόριζε δεσμευτικές διασφαλίσεις για ολοένα και πιο ικανά συστήματα τεχνητής νοημοσύνης και εάν οι κανόνες ασφαλείας θα μπορούσαν να ενισχύσουν την ισχύ των κατεστημένων εργαστηρίων στην αγορά. Η θέση του Cohere ενδιαφέρεται εμπορικά, αλλά εγείρει πρακτικά ερωτήματα σχετικά με τη λογοδοσία, τον ανταγωνισμό, την ανεξάρτητη αξιολόγηση και τις εγγυήσεις για την τεχνητή νοημοσύνη που αναπτύσσεται σε νοσοκομεία, οικονομικά δίκτυα, υποδομές ζωτικής σημασίας και κυβερνητικά συστήματα. Η πηγή δεν αποδεικνύει ότι έχει χορηγηθεί κάποια εξαίρεση ή ότι οι προτάσεις της έχουν εγκριθεί.
Εάν η περιγραφή της πηγής είναι ακριβής, η προτεινόμενη ρύθμιση θα δημιουργήσει ένταση μεταξύ του συντονισμού για την ασφάλεια και της νομοθεσίας περί ανταγωνισμού. Τα κοινά πρότυπα μπορούν να μειώσουν τις διπλές εργασίες και να κάνουν πιο εύκολο τη σύγκριση των κινδύνων, αλλά οι κανόνες που έχουν σχεδιαστεί κυρίως από κατεστημένους προγραμματιστές θα μπορούσαν επίσης να διατηρήσουν τα πλεονεκτήματά τους και να καταστήσουν τις εσωτερικές τους υποθέσεις ασφάλειας προεπιλογές του κλάδου.
Η πηγή υπογραμμίζει ένα επακόλουθο ερώτημα σχεδιασμού: εάν η επίβλεψη πρέπει να ενεργοποιείται από το μέγεθος ή τις απαιτήσεις υπολογισμού ενός μοντέλου ή από τις δυνατότητες του συστήματος, το πλαίσιο ανάπτυξης, τα εργαλεία και την πρόσβαση στην υποδομή του πραγματικού κόσμου. Αυτή η διάκριση έχει σημασία επειδή ένα λιγότερο ισχυρό σύστημα μπορεί να προκαλέσει σοβαρή βλάβη όταν συνδέεται με νοσοκομεία, δίκτυα πληρωμών, επιχειρήσεις κοινής ωφέλειας ή ευαίσθητα δεδομένα.
Το επιχείρημα δεν αποτελεί ανεξάρτητη απόδειξη ότι η πρόταση του Anthropic θα δημιουργούσε ένα καρτέλ, ότι τα υπάρχοντα συστήματα ασφαλείας απέτυχαν με τον τρόπο που περιγράφηκε ή ότι η τοπική ανάπτυξη είναι κατηγορηματικά ασφαλέστερη. Αυτοί είναι ισχυρισμοί και κρίσεις του Cohere. Η ανάρτηση δεν παρέχει καμία κυβερνητική απάντηση, νομική ανάλυση, ανεξάρτητη αξιολόγηση ή στοιχεία που να δείχνουν πώς οι υπεύθυνοι χάραξης πολιτικής θα εφάρμοζαν τις εναλλακτικές της.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
Why can ethical evaluation not be reduced to one model score?
Τι να παρακολουθήσετε στη συνέχεια
Οι βασικές εξελίξεις είναι εάν οι κυβερνήσεις εξετάζουν επίσημα την προτεινόμενη εξαίρεση κατά των μονοπωλίων, εάν το Anthropic ή άλλα εργαστήρια ανταποκρίνονται και εάν οι υπεύθυνοι χάραξης πολιτικής επιδιώκουν κατώτατα όρια μεγέθους εταιρείας ή υπολογισμού. Παρακολουθήστε επίσης συγκεκριμένους κανόνες σχετικά με την αναφορά περιστατικών, την καταγραφή, την απομόνωση ανάπτυξης, τις ανεξάρτητες δοκιμές και τη συμμετοχή μικρότερων προγραμματιστών, ερευνητών, της κοινωνίας των πολιτών και των επηρεαζόμενων κυβερνήσεων.
Στην πηγή δεν τεκμηριώνεται καμία παραίτηση από την αντιμονοπωλιακή νομοθεσία, δεσμευτικό πρότυπο, δημόσια διαβούλευση, χρονοδιάγραμμα υλοποίησης ή όροι τιμολόγησης και πρόσβασης. Δεν είναι επίσης σαφές ποιες κυβερνήσεις εξετάζουν την πρόταση, εάν η Anthropic την έχει υποβάλει επίσημα στις ρυθμιστικές αρχές και εάν την υποστηρίζουν άλλα μεγάλα εργαστήρια.
Η περαιτέρω υποβολή εκθέσεων θα πρέπει να επαληθεύει το κείμενο και την κατάσταση του οδικού χάρτη Anthropic, να προσδιορίζει τις εμπλεκόμενες εταιρείες και ρυθμιστικές αρχές και να συγκρίνει την πρόταση με τους υπάρχοντες κανόνες ανταγωνισμού, ασφάλειας και υποδομών ζωτικής σημασίας. Οι απαντήσεις από το Anthropic, τις αρχές ανταγωνισμού, τους ανεξάρτητους αξιολογητές και τις ομάδες της κοινωνίας των πολιτών θα διευκρινίσουν εάν η διαφωνία αφορά τον νομικό συντονισμό, τα τεχνικά όρια, τη διακυβέρνηση ή το προτιμώμενο μοντέλο ανάπτυξης της Cohere.
Το πρακτικό τεστ θα είναι εάν οποιοδήποτε πλαίσιο που προκύπτει απαιτεί μετρήσιμους ελέγχους: αποκάλυψη περιστατικών, ανεξαρτησία ελέγχου, καταγραφή, ανθρώπινη επίβλεψη, περιορισμοί πρόσβασης και απομόνωση από κρίσιμα συστήματα. Θα έχει επίσης σημασία εάν μικρότερα εργαστήρια, προγραμματιστές ανοιχτού κώδικα, ερευνητές και κοινότητες που επηρεάζονται μπορούν να συμμετάσχουν στον καθορισμό και την αμφισβήτηση αυτών των απαιτήσεων.