Τι έγινε
Η Chosunbiz ανέφερε ότι τα στελέχη της Cloudflare, μιλώντας σε μια συνεδρία εκπαίδευσης στα μέσα ενημέρωσης στη Σεούλ, προειδοποίησαν ότι οι πράκτορες τεχνητής νοημοσύνης δημιουργούν ραγδαία αυξανόμενη κίνηση δικτύου και επεκτείνουν τον αριθμό των υπηρεσιών που πρέπει να εξασφαλίσουν οι εταιρείες. Τα στελέχη προέτρεψαν τους οργανισμούς να εντοπίσουν εσωτερικά εργαλεία τεχνητής νοημοσύνης, να περιορίσουν την πρόσβαση βάσει ταυτότητας και άδειας, να ελέγξουν τις μη εγκεκριμένες συνδέσεις MCP και να προστατεύσουν ευαίσθητες πληροφορίες που αποστέλλονται με προτροπές. Το Cloudflare συζήτησε επίσης τις επιθέσεις στον κυβερνοχώρο που υποβοηθούνται από την τεχνητή νοημοσύνη και την προγραμματισμένη επέκταση της υποστήριξης μετα-κβαντικού ελέγχου ταυτότητας.
Ο Chosunbiz ανέφερε ότι ο Goran Risticsevich, εκτελεστικός αντιπρόεδρος και διευθύνων σύμβουλος της Cloudflare για την Ασία-Ειρηνικό, είπε ότι η επισκεψιμότητα πρακτόρων AI στο δίκτυο του Cloudflare είχε αυξηθεί κατά περισσότερο από 1.700% από πέρυσι και αντιπροσώπευε περίπου το 60% της συνολικής κίνησης δικτύου. Το άρθρο δεν παρείχε την υποκείμενη βασική γραμμή, την ακριβή περίοδο μέτρησης, το γεωγραφικό εύρος των αριθμών, τον ορισμό της επισκεψιμότητας πρακτόρων τεχνητής νοημοσύνης ή μια ανεξάρτητη πηγή για τις εκτιμήσεις. Αυτές οι παραλείψεις καθιστούν δύσκολη την αξιολόγηση της κλίμακας της αύξησης, παρόλο που οι ισχυρισμοί παρουσιάστηκαν ως το κεντρικό στοιχείο για την προειδοποίηση του Cloudflare.
Ο Chosunbiz ανέφερε ότι ο Risticsevich αντιπαραβάλλει τη συνηθισμένη ανθρώπινη περιήγηση με πράκτορες που μπορούν να συνδεθούν σε πολλούς ιστότοπους και διακομιστές ταυτόχρονα. Το άρθρο ανέφερε ότι αυτό δημιουργεί ένα μεγαλύτερο πρόβλημα διαχείρισης της ασφάλειας, επειδή οι εταιρείες πρέπει να γνωρίζουν ποιο σύστημα τεχνητής νοημοσύνης έχει πρόσβαση σε ποια δεδομένα και συστήματα και αν αυτή η πρόσβαση είναι απαραίτητη. Η έκθεση περιέγραψε επίσης τη σκιώδη τεχνητή νοημοσύνη, στην οποία οι εργαζόμενοι χρησιμοποιούν μη εγκεκριμένες υπηρεσίες τεχνητής νοημοσύνης και ενδέχεται να στέλνουν ευαίσθητες εσωτερικές πληροφορίες σε εξωτερικά μοντέλα. Προσδιόρισε το σκιερό MCP ως σχετικό κίνδυνο που περιλαμβάνει μη εγκεκριμένες συνδέσεις πρωτοκόλλου πλαισίου μοντέλου σε εξωτερικά εργαλεία ή εσωτερικά συστήματα.
Ο Cloudflare είπε στο Chosunbiz ότι οι εταιρείες πρέπει πρώτα να προσδιορίσουν τα εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούνται εσωτερικά και στη συνέχεια να ελέγξουν τα δεδομένα και την πρόσβασή τους στο δίκτυο. Η εταιρεία συνέστησε τον αποκλεισμό των μηνυμάτων που περιέχουν ευαίσθητες πληροφορίες και την εφαρμογή αρχών μηδενικής εμπιστοσύνης στην πρόσβαση σε διακομιστή MCP, έτσι ώστε οι χρήστες να μπορούν να προσεγγίζουν μόνο τις εφαρμογές που επιτρέπονται από την ταυτότητα και τις άδειές τους. Αυτές οι συστάσεις παρουσιάστηκαν ως καθοδήγηση του Cloudflare, όχι ως αποτέλεσμα ενός ανεξάρτητου αναφερόμενου ρυθμιστικού προτύπου, μελέτης πελατών ή ελεγχόμενης αξιολόγησης. Το άρθρο δεν προσδιόριζε συγκεκριμένους οργανισμούς που είχαν υποστεί ένα περιστατικό σκιώδους τεχνητής νοημοσύνης ή σκιώδους-MCP.
Η έκθεση κάλυψε επίσης τη συμμετοχή της Cloudflare στο Project Glasswing, μια κοινοπραξία ασφαλείας που διεξάγεται με την Anthropic. Η Chosunbiz ανέφερε ότι το Cloudflare έλαβε πρώιμη πρόσβαση στο μοντέλο Mythos AI του Anthropic για δοκιμή από την ομάδα εσωτερικής ασφάλειας και ότι η Cloudflare είπε ότι οι δοκιμές έδειξαν ότι η τεχνητή νοημοσύνη είχε γίνει πιο ικανή να αλυσοδένει πολλαπλά τρωτά σημεία και έβρισκε νέα τρωτά σημεία γρηγορότερα. Το άρθρο δεν παρείχε σχέδιο δοκιμής, ομάδα σύγκρισης, μετρημένα αποτελέσματα ή ανεξάρτητη επικύρωση. Τα στελέχη του Cloudflare υποστήριξαν ότι οι οργανισμοί δεν μπορούν να βασίζονται αποκλειστικά στην εφαρμογή ενημερώσεων κώδικα μίας ευπάθειας τη φορά και θα πρέπει να ενισχύσουν τους ευρύτερους ελέγχους ασφαλείας.
Στοιχεία πηγής: biz.chosun.com ↗
Γιατί έχει σημασία
Οι πράκτορες AI μπορούν να αλληλεπιδράσουν με πολλούς εξωτερικούς ιστότοπους, εργαλεία και εσωτερικά συστήματα για λογαριασμό ενός χρήστη, δημιουργώντας κινδύνους ασφάλειας και διακυβέρνησης δεδομένων που διαφέρουν από αυτούς των απλών χρηστών λογισμικού. Η έκθεση προσφέρει πρακτικές ανησυχίες σχετικά με τη σκιώδη τεχνητή νοημοσύνη, το σκιερό MCP και την αλυσίδα ευπάθειας, αλλά τα πιο σημαντικά στατιστικά στοιχεία και τα αποτελέσματα δοκιμών της είναι οι αξιώσεις Cloudflare που αναφέρθηκαν από την Chosunbiz και δεν επιβεβαιώθηκαν ανεξάρτητα.
Η πρακτική σημασία της έκθεσης είναι ότι οι πράκτορες τεχνητής νοημοσύνης μπορούν να επεκτείνουν τον αριθμό και την ταχύτητα των αλληλεπιδράσεων μεταξύ των εργαζομένων, των μοντέλων, των εργαλείων και των αποθηκών δεδομένων μιας εταιρείας. Μια συμβατική εφαρμογή μπορεί να έχει ένα καθορισμένο σύνολο αδειών και προορισμών, ενώ ένας πράκτορας μπορεί να επιλέξει εργαλεία ή υπηρεσίες δυναμικά εντός της αρχής που λαμβάνει. Εάν αυτά τα δικαιώματα είναι πολύ εκτεταμένα, ένας παραβιασμένος πράκτορας, κακόβουλη οδηγία ή κακώς ρυθμιζόμενη ενσωμάτωση θα μπορούσε να αποκαλύψει πληροφορίες ή να προκαλέσει ενέργειες πέρα από αυτό που ήθελε ο χρήστης. Ο λογαριασμός του Chosunbiz υποστηρίζει την ανάγκη για αυστηρότερη διακυβέρνηση, αλλά δεν καθορίζει πόσο συχνά συμβαίνουν αυτές οι αποτυχίες.
Το Shadow AI είναι ένα οικείο επιχειρηματικό πρόβλημα, αλλά η έκθεση προτείνει ότι το MCP μπορεί να το κάνει πιο σημαντικό λειτουργικά συνδέοντας μοντέλα σε συστήματα που μπορούν να ανακτήσουν πληροφορίες ή να εκτελέσουν ενέργειες. Μια μη εγκεκριμένη σύνδεση θα μπορούσε να δημιουργήσει κινδύνους ακόμη και όταν το ίδιο το μοντέλο δεν είναι η πηγή του προβλήματος. Η έμφαση που δίνει το άρθρο στην πρόσβαση βάσει ταυτότητας και τα λιγότερα προνόμια είναι επομένως σχετική με τις εταιρείες που υιοθετούν εργαλεία αντιπροσώπων. Ωστόσο, η Chosunbiz δεν ανέφερε ανεξάρτητα στοιχεία ότι το σκιερό MCP είναι ήδη ευρέως διαδεδομένο στη Νότια Κορέα ούτε ποσοτικοποίησε τις απώλειες που προκλήθηκαν από αυτό.
Οι ισχυρισμοί για την κυβερνοασφάλεια έχουν επίσης σημασία επειδή η τεχνητή νοημοσύνη μπορεί να επηρεάσει και τις δύο πλευρές του αμυντικού κύκλου. Ο λογαριασμός του Cloudflare, όπως αναφέρεται από το Chosunbiz, περιγράφει τα συστήματα τεχνητής νοημοσύνης ως καλύτερα στη σύνδεση των τρωτών σημείων σε μονοπάτια επίθεσης και στην ταχύτερη ανακάλυψη ευπάθειας. Εάν επιβεβαιωθεί ανεξάρτητα, αυτό θα αυξήσει την πίεση στους υπερασπιστές να αυτοματοποιήσουν την απογραφή, τον εντοπισμό, την ιεράρχηση προτεραιοτήτων και την απόκριση. Ωστόσο, η πηγή δεν παρέχει τεχνικές λεπτομέρειες σχετικά με τις δοκιμές Mythos και καμία απόδειξη ότι τα αναφερόμενα ευρήματα μεταφράζονται σε επιτυχημένες επιθέσεις εναντίον πραγματικών οργανισμών. Επομένως, η αξίωση θα πρέπει να αντιμετωπίζεται ως προειδοποίηση από εταιρεία ασφάλειας και όχι ως επαληθευμένο μέτρο της τρέχουσας εγκληματικής ικανότητας.
Το μετα-κβαντικό ζήτημα προσθέτει μια μακροπρόθεσμη ανησυχία για τις υποδομές. Η Chosunbiz ανέφερε ότι το Cloudflare υποστηρίζει κβαντική κρυπτογράφηση και αναμένει να παρέχει πλήρη έλεγχο ταυτότητας με κβαντική αντοχή έως το 2028, ενώ ένα στέλεχος είπε ότι ο κλάδος αναμένει μια πιθανή Ημέρα Q γύρω στο 2030. Η μετανάστευση από τα ευάλωτα κρυπτογραφικά συστήματα μπορεί να διαρκέσει χρόνια, επειδή τα πιστοποιητικά, οι συσκευές πρέπει να έχουν αναβαθμιστεί σε πρωτόκολλα. Η έκθεση δεν αποδεικνύει ότι αυτές οι ημερομηνίες αποτελούν συναινετικές προβλέψεις, ούτε εξηγεί το εύρος της τρέχουσας υποστήριξης του Cloudflare. Η δημόσια αξία έγκειται στην ανάδειξη του μεταναστευτικού σχεδιασμού, όχι στην αντιμετώπιση των ημερομηνιών ως προβλέψεων.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Τι να παρακολουθήσετε στη συνέχεια
Τα κύρια ερωτήματα είναι εάν οι εκτιμήσεις επισκεψιμότητας του Cloudflare μπορούν να τεκμηριωθούν ανεξάρτητα, πόσο από την αναφερόμενη δραστηριότητα αντιπροσωπεύει χρήσιμη εργασία αντιπροσώπου και όχι αυτοματοποιημένα αιτήματα και εάν οι συστάσεις ασφάλειας της εταιρείας προκαλούν μετρήσιμες μειώσεις στη μη εξουσιοδοτημένη πρόσβαση ή διαρροή δεδομένων. Το δηλωμένο σχέδιο του Cloudflare για την πλήρη υποστήριξη του κβαντικού ανθεκτικού ελέγχου ταυτότητας έως το 2028 είναι επίσης μια μελλοντική δέσμευση και όχι μια ολοκληρωμένη ανάπτυξη.
Πρώτον, απαιτείται ανεξάρτητη μέτρηση για τις αξιώσεις κυκλοφορίας του Cloudflare. Η χρήσιμη αναφορά παρακολούθησης θα προσδιορίσει τι μετράει ο Cloudflare ως πράκτορας τεχνητής νοημοσύνης, εάν η αύξηση 1.700% συγκρίνει ισοδύναμες περιόδους, εάν το ποσοστό 60% ισχύει παγκοσμίως ή για ένα συγκεκριμένο τμήμα και πώς διαχωρίζονται η επισκεψιμότητα ανιχνευτή, αναζήτησης, συμπερασμάτων και αυτόνομων πρακτόρων. Χωρίς αυτές τις πληροφορίες, τα στατιστικά στοιχεία δείχνουν την αξιολόγηση του Cloudflare, αλλά δεν μπορούν να περιγράψουν αξιόπιστα ολόκληρο το διαδίκτυο ή τα δίκτυα της Νότιας Κορέας.
Δεύτερον, οι εταιρείες που υιοθετούν συστήματα πράκτορα θα πρέπει να αποκαλύπτουν πώς χρησιμοποιούν το μοντέλο και το εργαλείο αποθέματος, να εγκρίνουν διακομιστές MCP, να περιορίζουν τις άδειες και να εμποδίζουν τα ευαίσθητα δεδομένα προτροπής να φύγουν από ελεγχόμενα περιβάλλοντα. Η έκθεση δεν παρέχει στοιχεία που να αποδεικνύουν ότι τα προτεινόμενα στοιχεία ελέγχου του Cloudflare έχουν δοκιμαστεί ανεξάρτητα. Τα αποδεικτικά στοιχεία παρακολούθησης θα πρέπει να περιλαμβάνουν πραγματικά αποτελέσματα ανάπτυξης, τεκμηριωμένα συμβάντα, ευρήματα ελέγχου ή συγκριτικές αξιολογήσεις που δείχνουν εάν οι έλεγχοι μηδενικής εμπιστοσύνης μειώνουν τις μη εξουσιοδοτημένες κλήσεις εργαλείων, την έκθεση δεδομένων ή τις επιβλαβείς ενέργειες.
Τρίτον, οι αξιώσεις του Project Glasswing δικαιολογούν τεχνικό έλεγχο. Η αναφορά του Chosunbiz δεν αναφέρει ποιες ευπάθειες αλυσοδέθηκαν, πώς προκλήθηκε το μοντέλο, εάν οι δοκιμές χρησιμοποίησαν ρεαλιστικά περιβάλλοντα, ποια απόδοση σε σύγκριση με υπάρχοντα εργαλεία ή εάν το Anthropic συμφωνούσε ανεξάρτητα με την ερμηνεία του Cloudflare. Ανεξάρτητοι ερευνητές και υπερασπιστές θα πρέπει να αναζητήσουν αναπαραγώγιμες μεθόδους και δημόσια περιγραφόμενα αποτελέσματα πριν καταλήξουν σε συμπεράσματα σχετικά με τον ρυθμό ανακάλυψης ευπάθειας με τη δυνατότητα AI.
Τέλος, το μετα-κβαντικό χρονοδιάγραμμα του Cloudflare θα πρέπει να παρακολουθείται ως δέσμευση προϊόντος και μετάβασης. Η αναφορά παρακολούθησης μπορεί να διευκρινίσει ποιες δυνατότητες κρυπτογράφησης είναι ήδη διαθέσιμες, τι θα καλύπτει ο πλήρης έλεγχος ταυτότητας με αντοχή σε κβαντικά και αν οι πελάτες πρέπει να αλλάξουν πιστοποιητικά, λογισμικό ή υλικό. Η πηγή αφήνει επίσης άλυτο εάν η αναφερόμενη αύξηση της κυκλοφορίας πρακτόρων AI συγκεντρώνεται σε έναν μικρό αριθμό μεγάλων υπηρεσιών ή αντανακλά την ευρεία υιοθέτηση. Αυτά τα άγνωστα είναι κεντρικά για την κρίση τόσο του επείγοντος όσο και του δημόσιου αντίκτυπου της προειδοποίησης του Cloudflare.