Τι έγινε
Το Technology.org αναφέρει ότι ο πρωθυπουργός Andy Burnham και ο Πρόεδρος Volodymyr Zelenskiy υπέγραψαν μια συνεργασία Ηνωμένου Βασιλείου-Ουκρανίας στο Κίεβο που επικεντρώνεται στην ανάπτυξη εργαλείων τεχνητής νοημοσύνης για άμυνα και ασφάλεια. Η έκθεση αναφέρει ότι η Βρετανία είναι ο πρώτος διεθνής εταίρος που έχει πρόσβαση στα εργαστήρια AI της Ουκρανίας Avengers, τα οποία χρησιμοποιούν δεδομένα πεδίου μάχης που σχετίζονται με το σύστημα DELTA.
Το Technology.org αναφέρει ότι η Βρετανία και η Ουκρανία υπέγραψαν συνεργασία τη Δευτέρα για την από κοινού ανάπτυξη εργαλείων τεχνητής νοημοσύνης για την άμυνα και την ασφάλεια. Η έκθεση προσδιορίζει τους Andy Burnham και Volodymyr Zelenskiy ως τους υπογράφοντες και λέει ότι η συμφωνία παρέχει στους Βρετανούς ερευνητές πρόσβαση σε μια ουκρανική πλατφόρμα δεδομένων πεδίου μάχης που χρησιμοποιείται για την εκπαίδευση στρατιωτικών συστημάτων AI. Το Technology.org παρουσιάζει τη Βρετανία ως τον πρώτο διεθνή εταίρο που έχει πρόσβαση στα Avengers AI Labs. Αυτές οι λεπτομέρειες προέρχονται από τη δευτερεύουσα έκθεση και δεν επιβεβαιώνονται ανεξάρτητα στο υλικό που παρέχεται εδώ.
Η Technology.org λέει ότι το Avengers Labs είναι χτισμένο γύρω από ένα σχολιασμένο σύνολο δεδομένων περίπου 5 εκατομμυρίων εικόνων πεδίων μάχης, που προέρχονται σε μεγάλο βαθμό από το εγχώρια αναπτυγμένο σύστημα διαχείρισης πεδίου μάχης και επίγνωσης της κατάστασης DELTA της Ουκρανίας. Η έκθεση αναφέρει ότι η πλατφόρμα λαμβάνει υλικό από χιλιάδες κάμερες φωτός της ημέρας και αισθητήρες υπερύθρων που βρίσκονται στην πρώτη γραμμή. Τα αναφερόμενα αντικείμενα περιλαμβάνουν άρματα μάχης, πυροβολικό, συστήματα αεράμυνας, πεζικό και εναέριους στόχους όπως drones Shahed και αναγνωριστικά μη επανδρωμένα εναέρια οχήματα. Η αναφορά χαρακτηρίζει το σύνολο δεδομένων ως πραγματικό υλικό πεδίου μάχης και όχι ως προσομοιωμένα, αποξεσμένα ή συνθετικά δεδομένα.
Η έκθεση αναφέρει περαιτέρω ότι τα μοντέλα που έχουν εκπαιδευτεί στα δεδομένα λειτουργούν ήδη ένα αυτοματοποιημένο σύστημα ανίχνευσης στόχων που επεξεργάζεται περισσότερες από 100.000 ροές βίντεο με drone κάθε μήνα. Το Technology.org αναφέρει ότι το σύστημα εντοπίζει περίπου το 70% των εχθρικών στόχων σε πραγματικό χρόνο. Αυτή η διατύπωση δεν καθορίζει τι σημαίνει επιχειρησιακά το «προσδιορίζει», πώς υπολογίστηκε το ποσοστό, ποια είδη στόχων συμπεριλήφθηκαν ή αν ο αριθμός αντιπροσωπεύει ακρίβεια, ανάκληση ή άλλο μέτρο. Δεν παρέχονται ανεξάρτητα αποτελέσματα δοκιμών, μεθοδολογία ή αρχεία ανάπτυξης στην πηγή.
Σύμφωνα με το Technology.org, η συνεργασία ξεκινά με δύο πιλοτικά έργα. Κάποιος θα εξετάσει τα καλώδια οπτικών ινών ως αισθητήρες με δυνατότητα AI για την προστασία των στρατιωτικών εγκαταστάσεων. Το άλλο θα ερευνήσει τσιπ τεχνητής νοημοσύνης χαμηλής κατανάλωσης για drones και αυτόνομα συστήματα, αντιμετωπίζοντας τους υπολογιστικούς και ενεργειακούς περιορισμούς που περιορίζουν την αυτονομία του πλοίου. Η έκθεση τοποθετεί τη συμφωνία στο πλαίσιο της ευρύτερης 100χρονης εταιρικής σχέσης Ηνωμένου Βασιλείου-Ουκρανίας και αναφέρει ότι συγκεντρώνει πανεπιστήμια, ερευνητές, εταιρείες τεχνολογίας, μηχανικούς και στρατιωτικούς εμπειρογνώμονες. Περιγράφει επίσης μια ξεχωριστή βρετανική απόφαση να επιτραπεί στην MBDA να δημοσιεύει διαβαθμισμένες πληροφορίες σχετικά με εξαρτήματα που χρησιμοποιούνται στους πυραύλους κρουζ SCALP, ώστε να μπορούν να δημιουργηθούν γραμμές παραγωγής στην Ουκρανία.
Στοιχεία πηγής: technology.org ↗
Γιατί έχει σημασία
Εάν τα αναφερόμενα στοιχεία και η ρύθμιση πρόσβασης είναι ακριβή, η συμφωνία θα δώσει στους Βρετανούς ερευνητές ασυνήθιστα άμεση πρόσβαση σε επιχειρησιακά στρατιωτικά δεδομένα για την ανάπτυξη τεχνητής νοημοσύνης. Εγείρει επίσης πρακτικά ερωτήματα σχετικά με την αξιολόγηση μοντέλων, τον ανθρώπινο έλεγχο, τη διακυβέρνηση δεδομένων και τη χρήση συνόλων δεδομένων που προέρχονται από μάχη σε μελλοντικά αυτόνομα συστήματα.
Η αναφερόμενη ρύθμιση πρόσβασης έχει σημασία επειδή η χρήσιμη στρατιωτική τεχνητή νοημοσύνη εξαρτάται σε μεγάλο βαθμό από δεδομένα που αντικατοπτρίζουν πραγματικές συνθήκες λειτουργίας. Ένα σύνολο δεδομένων που συλλέγεται κατά τη διάρκεια ενός πολέμου υψηλής έντασης μπορεί να περιέχει δύσκολα παραδείγματα που απουσιάζουν από τα συνηθισμένα εργαστηριακά κριτήρια αξιολόγησης, όπως ποικίλες καιρικές συνθήκες, μεταβαλλόμενο έδαφος, καμουφλάζ, κατεστραμμένος εξοπλισμός και άγνωστα αντικείμενα. Εάν οι Βρετανοί ερευνητές μπορούν να εκπαιδεύσουν ή να αξιολογήσουν συστήματα σε αυτό το υλικό χωρίς να λάβουν τις υποκείμενες ευαίσθητες βάσεις δεδομένων, η συμφωνία θα μπορούσε να παρέχει ένα μοντέλο για ελεγχόμενη συνεργασία μεταξύ κυβερνήσεων και ερευνητικών ιδρυμάτων. Το Technology.org αναφέρει ότι η πλατφόρμα της Ουκρανίας σχεδιάστηκε για να υποστηρίζει ασφαλή εκπαίδευση μοντέλων χωρίς άμεση πρόσβαση στις υποκείμενες βάσεις δεδομένων, αλλά η πηγή δεν επαληθεύει ανεξάρτητα πώς λειτουργεί αυτή η προστασία.
Η συμφωνία δείχνει επίσης πώς η εμπειρία στο πεδίο της μάχης μπορεί να διαμορφώσει την ανάπτυξη της τεχνητής νοημοσύνης. Οι αναφερόμενοι πιλότοι συνδέουν δύο διαφορετικά μέρη της στοίβας τεχνολογίας: ανίχνευση και υπολογιστική. Η ανίχνευση οπτικών ινών θα μπορούσε να βοηθήσει στην ανίχνευση δραστηριότητας γύρω από στρατιωτικές εγκαταστάσεις, ενώ τα τσιπ χαμηλής ισχύος θα μπορούσαν να επιτρέψουν σε drones και αυτόνομα συστήματα να επεξεργάζονται πληροφορίες πιο κοντά στο σημείο που συλλέγονται. Αυτά είναι πρακτικά προβλήματα μηχανικής, όχι απλά ζητήματα ικανότητας μοντέλου. Περιλαμβάνουν τη χρήση ενέργειας, την αξιοπιστία των επικοινωνιών, την ανθεκτικότητα του υλικού, την καθυστέρηση, τη συντήρηση και τις συνέπειες λανθασμένων ταξινομήσεων.
Τα διακυβεύματα δημοσίου συμφέροντος είναι ασυνήθιστα υψηλά επειδή τα αναφερόμενα δεδομένα συνδέονται με στρατιωτική στόχευση. Ο Technology.org λέει ότι οι Ουκρανοί αξιωματούχοι έχουν περιγράψει τον στόχο ως ταχύτερο εντοπισμό και καλύτερα ενημερωμένες αποφάσεις αντί να απομακρύνουν τους ανθρώπους από τον βρόχο. Αυτή η δηλωμένη πρόθεση δεν δείχνει από μόνη της πώς χρησιμοποιούνται τα συστήματα στην πράξη. Ένα εργαλείο που προσδιορίζει αντικείμενα, δίνει προτεραιότητα σε ειδοποιήσεις ή προτείνει ενέργειες μπορεί να επηρεάσει θανατηφόρες αποφάσεις ακόμα και όταν ένας άνθρωπος διατηρεί επίσημα την εξουσία. Η πηγή δεν περιγράφει το απαιτούμενο επίπεδο ανθρώπινης επανεξέτασης, την αλυσίδα διοίκησης, τους κανόνες για τα αμφισβητούμενα αποτελέσματα ή τις διαδικασίες για τη διόρθωση λαθών.
Η αναφερόμενη συνεργασία μπορεί επίσης να επηρεάσει τη σχέση μεταξύ της έρευνας στον τομέα της άμυνας και της ανάπτυξης τεχνητής νοημοσύνης. Ο Technology.org υποστηρίζει ότι η ανίχνευση οπτικών ινών και η εξαγωγή συμπερασμάτων χαμηλής ισχύος θα μπορούσαν να έχουν εφαρμογές στην παρακολούθηση κρίσιμων υποδομών και στον υπολογισμό ακμών. Αυτές οι πιθανές διαρροές είναι εύλογες περιοχές για παρακολούθηση, αλλά η έκθεση δεν παρέχει μη στρατιωτικές αναπτύξεις, δοκιμές απόδοσης ή συμφωνίες εμπορευματοποίησης. Ως εκ τούτου, η άμεση σημασία είναι η μεταφορά επιχειρησιακών δεδομένων, εμπειρογνωμοσύνης και μηχανικής ικανότητας σε ένα κοινό πρόγραμμα αμυντικής τεχνολογίας και τεχνητής νοημοσύνης, αντί για ένα αποδεδειγμένο όφελος για πολίτες.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Τι να παρακολουθήσετε στη συνέχεια
Οι βασικές δοκιμές είναι εάν η συνεργασία παράγει πιλότους που περιγράφονται δημόσια, πώς διέπεται η πρόσβαση σε ευαίσθητα δεδομένα και εάν η αναφερόμενη απόδοση ανίχνευσης στόχου ισχύει εκτός των συνθηκών στις οποίες αναπτύχθηκαν τα μοντέλα. Η πηγή δεν καθορίζει τις πλήρεις διασφαλίσεις της συμφωνίας, τους κανόνες ανάπτυξης ή τα αποτελέσματα ανεξάρτητης αξιολόγησης.
Το πρώτο ζήτημα που πρέπει να προσέξουμε είναι εάν κάποια από τις δύο κυβερνήσεις δημοσιεύει μια σαφέστερη περιγραφή της διακυβέρνησης της συμφωνίας. Σημαντικά άγνωστα στοιχεία περιλαμβάνουν ποιος μπορεί να έχει πρόσβαση στην πλατφόρμα, εάν οι Βρετανοί ερευνητές μπορούν να αφαιρέσουν εκπαιδευμένα μοντέλα ή παράγωγα σύνολα δεδομένων, τον τρόπο επεξεργασίας των ευαίσθητων παραδειγμάτων και εάν η πρόσβαση περιορίζεται σε εγκεκριμένα ιδρύματα. Η πηγή λέει ότι το πλήρες κείμενο της συμφωνίας και το πιλοτικό πεδίο εφαρμογής είναι διαθέσιμα σε μια κυβερνητική ανακοίνωση, αλλά το κείμενο που παρέχεται εδώ δεν καθορίζει ανεξάρτητα αυτές τις διατάξεις.
Το δεύτερο ζήτημα είναι η τεχνική επικύρωση. Ο αναφερόμενος αριθμός περίπου 70% αναγνώρισης στόχου σε περισσότερες από 100.000 μηνιαίες ροές βίντεο είναι δυνητικά σημαντικός, αλλά δεν αρκεί για την αξιολόγηση της ασφάλειας ή της λειτουργικής χρησιμότητας. Οι αναφορές παρακολούθησης θα πρέπει να αναζητούν ορισμούς για τις κατηγορίες-στόχους, τα ποσοστά ψευδώς θετικών και ψευδώς αρνητικών, την απόδοση σε όλες τις καιρικές συνθήκες και το έδαφος, το μερίδιο των ζωοτροφών που εξετάζονται από ανθρώπους και εάν τα αποτελέσματα μετρήθηκαν προοπτικά ή αναδρομικά. Θα πρέπει επίσης να διευκρινίζει εάν το σχήμα ισχύει μόνο για ανίχνευση ή για μεγαλύτερη ροή εργασιών στόχευσης.
Το τρίτο ζήτημα είναι το όριο μεταξύ υποστήριξης αποφάσεων και αυτονομίας. Ο πιλότος χαμηλής κατανάλωσης τσιπ θα μπορούσε να διευκολύνει την εκτέλεση της τεχνητής νοημοσύνης απευθείας σε drones ή άλλα αυτόνομα συστήματα, μειώνοντας την εξάρτηση από απομακρυσμένες επικοινωνίες. Αυτό μπορεί να βελτιώσει την ανθεκτικότητα και τον χρόνο απόκρισης, αλλά μπορεί επίσης να αυξήσει την ταχύτητα και την κλίμακα των αποφάσεων που λαμβάνονται υπό αβεβαιότητα. Η πηγή δεν αναφέρει ότι η συνεργασία θα εγκρίνει αυτόνομα όπλα, ούτε περιγράφει κάποια συγκεκριμένη ανάπτυξη όπλων. Η αναφορά δεν πρέπει να συνάγει κανένα αποτέλεσμα από την ύπαρξη του πιλότου.
Τέλος, οι παρατηρητές θα πρέπει να παρακολουθούν για αποδείξεις ότι η εταιρική σχέση παράγει συγκεκριμένα αποτελέσματα αντί να παραμένει συμφωνία πλαίσιο. Χρήσιμες ενημερώσεις θα περιλαμβάνουν επώνυμα ιδρύματα, δημοσιευμένα πρωτόκολλα αξιολόγησης, αποφάσεις προμήθειας ή εγκατάστασης, τεκμηριωμένες αποτυχίες, ανεξάρτητους ελέγχους και εξηγήσεις για τον τρόπο με τον οποίο οι φορείς εκμετάλλευσης αμφισβητούν ή παρακάμπτουν τα αποτελέσματα του μοντέλου. Η πηγή αφήνει επίσης ασαφές εάν η αναφερόμενη πρόσβαση είναι ήδη λειτουργική για Βρετανούς ερευνητές ή εξαρτάται από μεταγενέστερες εγκρίσεις. Μέχρι να απαντηθούν αυτά τα ερωτήματα, η συμφωνία θεωρείται καλύτερα ως μια επακόλουθη συνεργασία με ουσιαστικό αναφερόμενο εύρος, όχι ως απόδειξη ότι τα συστήματα τεχνητής νοημοσύνης πεδίου μάχης είναι αξιόπιστα ή ασφαλή.