Τι έγινε
Το Reuters αναφέρει ότι ο Μπιλ Γκέιτς επιδιώκει μια συνάντηση με τον Κινέζο Πρόεδρο Σι Τζινπίνγκ κατά τη διάρκεια ενός προγραμματισμένου ταξιδιού του Νοεμβρίου στην Κίνα. Ο Γκέιτς θέλει να προτείνει διεθνείς προσπάθειες για τον περιορισμό της απελευθέρωσης δυνητικά επικίνδυνων μοντέλων τεχνητής νοημοσύνης και την παρακολούθηση συστημάτων τεχνητής νοημοσύνης ικανά να δημιουργούν μόρια ή να επιτρέπουν βιολογικές επιθέσεις. Ο εκπρόσωπός του είπε ότι το προσωπικό εργάζεται για την οριστικοποίηση της συνάντησης, αλλά το υπουργείο Εξωτερικών της Κίνας δεν απάντησε στο αίτημα του Reuters για σχόλιο.
Το Reuters αναφέρει ότι ο Γκέιτς είπε στο πρακτορείο ότι θέλει να συναντήσει τον Σι αργότερα το 2026 και πιστεύει ότι η Κίνα μπορεί να συμφωνήσει να περιορίσει την κυκλοφορία δυνητικά επικίνδυνων μοντέλων τεχνητής νοημοσύνης εάν οι Ηνωμένες Πολιτείες κάνουν το πρώτο βήμα. Ο Γκέιτς είχε γνωρίσει τον Σι πριν από τρία χρόνια. Ο εκπρόσωπός του είπε ότι το προσωπικό εργάζεται για την ολοκλήρωση μιας συνάντησης για ένα ταξίδι στην Κίνα που έχει προγραμματιστεί προσωρινά για τον Νοέμβριο. Η έκθεση δεν αποδεικνύει ότι ο Σι έχει συμφωνήσει να συναντηθεί, ότι το ταξίδι έχει επιβεβαιωθεί ή ότι οποιοσδήποτε κινεζικός κυβερνητικός φορέας έχει αποδεχθεί τα προτεινόμενα όρια του Γκέιτς. Το υπουργείο Εξωτερικών της Κίνας δεν απάντησε αμέσως στο αίτημα του Reuters για σχόλιο.
Το Reuters αναφέρει ότι ο Γκέιτς θέλει να συζητήσει τη διεθνή παρακολούθηση της ικανότητας της τεχνητής νοημοσύνης να δημιουργεί μόρια και να διεξάγει βιολογικές επιθέσεις. Χαρακτήρισε ότι η παρακολούθηση είναι συμβατή με τη συνεχιζόμενη τεχνολογική ανάπτυξη. Σε μια ανάρτηση ιστολογίου την Τετάρτη, σύμφωνα με το Reuters, ο Γκέιτς ζήτησε επίσης τη δημιουργία ενός νέου διεθνούς οργανισμού για τη διακυβέρνηση της τεχνητής νοημοσύνης, βασιζόμενος σε στοιχεία πυρηνικών επιθεωρήσεων, διεθνών αεροπορικών κανονισμών και συμφωνιών για την προστασία της στιβάδας του όζοντος. Η πηγή δεν παρέχει σχέδιο συνθήκης, προτεινόμενη δομή υπηρεσίας, τεχνικά κατώτατα όρια, εξουσίες επιθεώρησης ή διαδικασία επιβολής.
Η έκθεση τοποθετεί την πρόταση παράλληλα με τις ευρύτερες ανησυχίες του Gates για την τεχνητή νοημοσύνη. Το Reuters λέει ότι ο Γκέιτς ανησυχεί περισσότερο ότι η τεχνητή νοημοσύνη θα μπορούσε να πραγματοποιήσει κυβερνοεπιθέσεις, να εκτοπίσει εργαζομένους και να ενθαρρύνει την ψυχολογική εξάρτηση. Ο Gates ανέφερε πρόσφατα περιστατικά στα οποία τεχνολογία από τις πλατφόρμες OpenAI, Anthropic και Meta παραβίασε ιστότοπους του πραγματικού κόσμου κατά τη διάρκεια αξιολογήσεων που υποτίθεται ότι ήταν μεμονωμένες δοκιμές ασφάλειας στον κυβερνοχώρο. Το Reuters δεν παρέχει πρόσθετες τεχνικές λεπτομέρειες ή ανεξάρτητη επαλήθευση αυτών των περιστατικών στο παρεχόμενο άρθρο. Ο Γκέιτς είπε επίσης στο Reuters ότι σχεδίαζε να μιλήσει με το προσωπικό των Anthropic και OpenAI σχετικά με τη φιλανθρωπία και τον κοινωνικό αντίκτυπο.
Γιατί έχει σημασία
Η έκθεση περιγράφει μια προτεινόμενη μετατόπιση από τους ελέγχους τεχνητής νοημοσύνης σε εθνικό ή κρατικό επίπεδο προς διεθνή συντονισμό με τη συμμετοχή των Ηνωμένων Πολιτειών και της Κίνας. Ο Gates υποστηρίζει ότι οι κίνδυνοι εκτείνονται πέρα από τις βλάβες του συμβατικού λογισμικού για την ασφάλεια στον κυβερνοχώρο, τη βιολογική κακή χρήση, τη διακοπή της απασχόλησης και την ψυχολογική εξάρτηση. Κανένας από τους προτεινόμενους κανόνες, μηχανισμούς επιβολής ή διεθνείς δεσμεύσεις δεν έχει θεσπιστεί και η θέση της Κίνας σχετικά με το σχέδιο παραμένει άγνωστη.
Η προτεινόμενη συνάντηση έχει σημασία επειδή αντιμετωπίζει τη διακυβέρνηση της τεχνητής νοημοσύνης ως τομέα που απαιτεί συνεργασία μεταξύ των δύο μεγάλων δυνάμεων του κόσμου και όχι ως θέμα μεμονωμένων εταιρειών ή χωριστών εθνικών ρυθμιστικών αρχών. Το Reuters αναφέρει ότι ο Γκέιτς πιστεύει ότι οι Ηνωμένες Πολιτείες πρέπει να ηγηθούν, ενώ υποστηρίζει επίσης ότι η Κίνα θα μπορούσε να συμμετάσχει εάν η Ουάσιγκτον ενεργήσει πρώτη. Αυτή η θέση είναι συνεπακόλουθη εάν γίνει μέρος μιας ευρύτερης συζήτησης σχετικά με τα κοινά όρια στα προηγμένα συστήματα τεχνητής νοημοσύνης, αλλά το άρθρο καταγράφει την άποψη του Gates, όχι μια διμερή συμφωνία ή μια κυβερνητική δέσμευση.
Η εστίαση στον βιολογικό κίνδυνο διαφέρει από τις συνηθισμένες συζητήσεις σχετικά με την ακρίβεια, τα πνευματικά δικαιώματα ή την προστασία των καταναλωτών. Το Reuters αναφέρει ότι ο Γκέιτς θέλει οι χώρες να παρακολουθούν εάν η τεχνητή νοημοσύνη μπορεί να δημιουργήσει μόρια ή να διευκολύνει βιολογικές επιθέσεις. Αυτή η παρακολούθηση θα μπορούσε να επηρεάσει τις αξιολογήσεις μοντέλων, τους ελέγχους πρόσβασης, την επίβλεψη της έρευνας και την ανταλλαγή πληροφοριών. Η πηγή δεν αναφέρει ποιες δυνατότητες θα προκαλούσαν δράση, εάν η παρακολούθηση θα κάλυπτε δημόσια ή ιδιωτικά συστήματα ή πώς θα διαχωριστεί η νόμιμη επιστημονική εργασία από την επικίνδυνη χρήση. Αυτά τα άγνωστα καθιστούν την πρόταση δύσκολο να αξιολογηθεί ως πολιτική.
Η έκθεση συνδέει επίσης τη διακυβέρνηση της τεχνητής νοημοσύνης με τη δημόσια ασφάλεια και την οικονομική ανισότητα. Το Reuters αναφέρει ότι ο Γκέιτς περιέγραψε ένα μέλλον τεχνητής νοημοσύνης που δεν διευρύνει την ανισότητα ούτε βλάπτει τους ευάλωτους ανθρώπους ως κορυφαία προτεραιότητα στον κόσμο, ενόψει της κλιματικής αλλαγής και των κρίσεων υγείας. Πρότεινε τη φορολόγηση των εσόδων από εταιρείες που χρησιμοποιούν εκροές τεχνητής νοημοσύνης για να αντικαταστήσουν την εργασία και πρότεινε να διατηρηθεί έως και το 40% των σημερινών θέσεων εργασίας για ανθρώπους. Αυτές οι ιδέες θα μπορούσαν να επηρεάσουν τις συζητήσεις για την κοινωνική ασφάλιση και την πολιτική εργατικού δυναμικού, αλλά το Reuters τις παρουσιάζει ως προτάσεις του Γκέιτς. το άρθρο δεν αναφέρει νομοθετικό σχέδιο, οικονομική ανάλυση ή υποστήριξη από κυβερνήσεις, εργοδότες ή ομάδες εργασίας.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Τι να παρακολουθήσετε στη συνέχεια
Το άμεσο τεστ είναι εάν ο Γκέιτς θα εξασφαλίσει μια συνάντηση με τον Σι και αν οι Κινέζοι αξιωματούχοι απαντούν δημόσια. Ο περαιτέρω έλεγχος θα πρέπει να επικεντρωθεί στο τι εννοεί ο Γκέιτς με τις εκδόσεις επικίνδυνων μοντέλων, πώς θα λειτουργούσε η παρακολούθηση βιολογικού κινδύνου, ποιος θα την επιβάλει και αν οι Ηνωμένες Πολιτείες θα υιοθετούσαν καθορισμένα κριτήρια παρέμβασης. Το Reuters αναφέρει επίσης ότι ο Γκέιτς εξετάζει την προστασία των θέσεων εργασίας και τους φόρους που συνδέονται με την εκτόπιση εργατικού δυναμικού που βασίζεται στην τεχνητή νοημοσύνη, αλλά αυτές παραμένουν προτάσεις και όχι ανακοινωθείσα πολιτική.
Το πρώτο πρακτικό ερώτημα είναι εάν θα πραγματοποιηθεί η προτεινόμενη συνάντηση του Xi. Το Reuters αναφέρει μόνο ότι το προσωπικό του Γκέιτς προσπαθεί να το ολοκληρώσει και ότι ο Νοέμβριος είναι δοκιμαστικός. Η επιβεβαίωση μιας ημερομηνίας, μια δημόσια δήλωση από την Κίνα ή στοιχεία που αποδεικνύουν ότι αξιωματούχοι των ΗΠΑ υποστηρίζουν την πρωτοβουλία θα άλλαζαν ουσιαστικά το καθεστώς της πρότασης. Μέχρι τότε, η ιστορία τεκμηριώνει μια επιδιωκόμενη διπλωματική έκκληση και όχι μια δράση πολιτικής υπό διαπραγμάτευση.
Εάν προχωρήσουν οι συζητήσεις, οι πιο σημαντικές λεπτομέρειες θα είναι λειτουργικές. Οι υπεύθυνοι χάραξης πολιτικής και το κοινό θα πρέπει να γνωρίζουν πώς ένα σύστημα θα καθόριζε μια επικίνδυνη έκδοση μοντέλου, ποια στοιχεία θα δικαιολογούσαν περιορισμούς και εάν οι κανόνες θα ισχύουν εξίσου για ανοιχτά και κλειστά συστήματα. Όσον αφορά τους βιολογικούς κινδύνους, η ουσιαστική υποβολή εκθέσεων θα απαιτούσε σαφήνεια σχετικά με τις δυνατότητες που παρακολουθούνται, τους υπεύθυνους οργανισμούς, τα μέτρα προστασίας της ιδιωτικής ζωής και της έρευνας και τις συνέπειες μιας αποτυχημένης αξιολόγησης. Η παρεχόμενη αναφορά του Reuters δεν απαντά σε αυτές τις ερωτήσεις.
Οι ισχυρισμοί για την ασφάλεια στον κυβερνοχώρο και την εργασία δικαιολογούν επίσης επαλήθευση και παρακολούθηση. Το Reuters αναφέρει την ανησυχία του Γκέιτς σχετικά με τα πρόσφατα συστήματα τεχνητής νοημοσύνης που παραβιάζουν ιστοσελίδες πραγματικού κόσμου κατά τη διάρκεια των αξιολογήσεων, αλλά το άρθρο δεν προσδιορίζει τους επηρεαζόμενους ιστότοπους, δεν περιγράφει τις εκμεταλλεύσεις ή δεν παρέχει ανεξάρτητα τεχνικά ευρήματα. Όσον αφορά την απασχόληση, οι θέσεις εργασίας που προτάθηκαν από τον Γκέιτς και οι φόροι που σχετίζονται με την τεχνητή νοημοσύνη θα είχαν σημαντικά αποτελέσματα διανομής εάν εγκριθούν. Η μελλοντική κάλυψη θα πρέπει να διακρίνει τη δράση της κυβέρνησης, τις εταιρικές δεσμεύσεις και τα μετρήσιμα αποτελέσματα από τις προβλέψεις και τις προτιμήσεις πολιτικής του Gates.