Το CREST εγκαινιάζει πρότυπο διαπίστευσης για εταιρείες που δοκιμάζουν συστήματα τεχνητής νοημοσύνης

Τι έγινε

Το SecurityBrief Asia αναφέρει ότι το CREST ξεκίνησε μια δοκιμή ασφαλείας προτύπου AI και διαπίστευση για παρόχους υπηρεσιών κυβερνοασφάλειας. Το πλαίσιο αξιολογεί εάν οι πάροχοι διαθέτουν την τεχνογνωσία, τις μεθόδους, τη διακυβέρνηση, τους ελέγχους και τα στοιχεία που απαιτούνται για τη δοκιμή συστημάτων με δυνατότητα τεχνητής νοημοσύνης.

Το SecurityBrief Asia αναφέρει ότι το CREST, ένας παγκόσμιος μη κερδοσκοπικός οργανισμός προτύπων και διαπίστευσης για την ασφάλεια στον κυβερνοχώρο, έχει ξεκινήσει μια δοκιμή ασφαλείας προτύπου AI και διαπίστευση για παρόχους υπηρεσιών κυβερνοασφάλειας. Ο δηλωμένος σκοπός είναι να δοθεί στους οργανισμούς ένα ανεξάρτητο σήμα διασφάλισης όταν επιλέγουν εταιρείες να δοκιμάσουν συστήματα που χρησιμοποιούν γενετικά μοντέλα τεχνητής νοημοσύνης ή μεγάλα γλωσσικά μοντέλα. Το άρθρο παρουσιάζει την κυκλοφορία ως απάντηση σε ένα κενό της αγοράς: οι οργανισμοί υιοθετούν εφαρμογές και ροές εργασιών με δυνατότητα AI, αλλά οι αγοραστές μπορεί να δυσκολεύονται να προσδιορίσουν εάν ένας πάροχος δοκιμών έχει τη σχετική τεχνική εξειδίκευση.

Σύμφωνα με το SecurityBrief Asia, η διαπίστευση θέτει αξιολογήσιμες απαιτήσεις σε τεχνική εμπειρογνωμοσύνη, επάρκεια επαγγελματιών, μεθοδολογίες δοκιμών, διακυβέρνηση, ποιοτικούς ελέγχους, εργαλεία, διαδικασίες για τον εντοπισμό ειδικών κινδύνων ασφαλείας για την τεχνητή νοημοσύνη και τα στοιχεία που χρησιμοποιούνται για την υποστήριξη συμπερασμάτων δοκιμών. Επομένως, το σύστημα αξιολογεί τόσο τη δυνατότητα δοκιμής ενός παρόχου όσο και τους ελέγχους που περιβάλλουν το έργο του. Η έκθεση αναφέρει ότι οι πάροχοι πρέπει ήδη να διαθέτουν τη διαπίστευση δοκιμών διείσδυσης του CREST ή να υποβάλουν αίτηση για αυτήν παράλληλα με τη νέα έγκριση δοκιμών AI. Αυτό συνδέει το νέο σύστημα με μια υπάρχουσα γραμμή βάσης CREST για υπηρεσίες δοκιμών διείσδυσης.

Η έκθεση λέει ότι το πρότυπο αντιμετωπίζει ένα σύστημα τεχνητής νοημοσύνης ως ολόκληρο σύστημα και όχι μόνο ως υποκείμενο μοντέλο. Το περιγραφόμενο πεδίο εφαρμογής του περιλαμβάνει εφαρμογές, προτροπές και οδηγίες συστήματος, μηχανισμούς ανάκτησης, πηγές δεδομένων, μνήμη, εργαλεία, πρόσθετα, API, επίπεδα ενορχήστρωσης και συστήματα κατάντη που επηρεάζονται από τις εξόδους AI. Αυτό έχει σημασία επειδή μπορεί να προκύψουν τρωτά σημεία σε σημεία ολοκλήρωσης ή στη γύρω υποδομή, συμπεριλαμβανομένου του τρόπου με τον οποίο ένα μοντέλο λαμβάνει πληροφορίες, επικαλείται εργαλεία ή μεταβιβάζει αποτελέσματα σε άλλα συστήματα. Το SecurityBrief Asia αναφέρει ότι το πρότυπο αναπτύχθηκε με τον τομέα μέσω της Ομάδας Εργασίας AI του CREST.

Ο διευθύνων σύμβουλος του CREST, Nick Benson, δήλωσε στο SecurityBrief Asia ότι τα μέλη και οι πελάτες ήθελαν περισσότερες πληροφορίες σχετικά με τα διαπιστευτήρια δοκιμής AI των παρόχων, καθώς οι πελάτες ανέπτυξαν τεχνολογία με δυνατότητα AI. Ο Benson έκανε διάκριση μεταξύ της χρήσης της φράσης «δοκιμές ασφαλείας συστημάτων AI» και της επίδειξης της τεχνογνωσίας και των μεθοδολογιών που απαιτούνται για την εκτέλεση αυτής της εργασίας. Το άρθρο αναφέρει επίσης τον τεχνικό διευθυντή της Sentrium Security, Tim Reed, και τον επικεφαλής των υπηρεσιών κυβερνοασφάλειας του ομίλου wizlynx, Yann Chalençon, οι οποίοι υποστηρίζουν το πλαίσιο. Τα σχόλιά τους είναι εγκρίσεις του κλάδου, όχι ανεξάρτητες αξιολογήσεις του προτύπου.

Το SecurityBrief Asia τοποθετεί την έναρξη στο ευρύτερο πρόγραμμα διασφάλισης τεχνητής νοημοσύνης του CREST. Το άρθρο αναφέρει ότι το CREST εισήγαγε ένα πρότυπο δοκιμών διείσδυσης με δυνατότητα AI τον Ιούλιο, επικεντρωμένο στον τρόπο με τον οποίο οι πάροχοι χρησιμοποιούν την τεχνητή νοημοσύνη κατά την παροχή υπηρεσιών δοκιμών. Η πρόσφατα αναφερθείσα διαπίστευση αντιμετωπίζει το διαφορετικό ερώτημα εάν οι πάροχοι μπορούν να δοκιμάσουν οι ίδιοι συστήματα τεχνητής νοημοσύνης. Η έκθεση αναφέρει επίσης ότι περισσότεροι από 100 ιδρυτικοί οργανισμοί κυβερνοασφάλειας έχουν υπογράψει τον Χάρτη και τις Αρχές Τεχνητής Νοημοσύνης του CREST, αντιπροσωπεύοντας περισσότερο από το 10% των μελών του παγκοσμίως. Αυτά τα στοιχεία και οι περιγραφές δεν επιβεβαιώθηκαν ανεξάρτητα για αυτήν την αξιολόγηση.

Στοιχεία πηγής: securitybrief.asia ↗

Γιατί έχει σημασία

Οι αξιολογήσεις ασφάλειας της τεχνητής νοημοσύνης περιλαμβάνουν όλο και περισσότερο περισσότερα από τη δοκιμή ενός μοντέλου μεμονωμένα. Μια επίσημη διαπίστευση θα μπορούσε να δώσει στους οργανισμούς ένα σαφέστερο μήνυμα προμήθειας και δέουσας επιμέλειας προμηθευτή, αν και η έκθεση δεν καθορίζει ανεξάρτητα πόσο ευρέως θα εγκριθεί το σύστημα ή εάν θα βελτιώσει τα αποτελέσματα των δοκιμών.

Η πρακτική σημασία είναι ότι η δοκιμή τεχνητής νοημοσύνης γίνεται πρόβλημα προμηθειών και διακυβέρνησης, όχι μόνο τεχνικό. Μια εταιρεία που αναθέτει μια αξιολόγηση μπορεί να χρειάζεται σιγουριά ότι ένας πωλητής κατανοεί την άμεση χειραγώγηση, τους κινδύνους ανάκτησης, την πρόσβαση στο εργαλείο, το χειρισμό δεδομένων, τη μνήμη, την ενορχήστρωση και τα κατάντη αποτελέσματα. Το SecurityBrief Asia αναφέρει ότι το πλαίσιο του CREST έχει σχεδιαστεί για να κάνει αυτές τις δυνατότητες αξιολογήσιμες. Εάν οι αγοραστές χρησιμοποιούν τη διαπίστευση ως μέρος της δέουσας επιμέλειας προμηθευτή, θα μπορούσε να καταστήσει ευκολότερη τη σύγκριση των αξιώσεων του παρόχου.

Η έμφαση στο σύνολο του συστήματος είναι επίσης επακόλουθη. Η δοκιμή μόνο των αποκρίσεων ενός μοντέλου μπορεί να χάσει αδυναμίες στην εφαρμογή γύρω από αυτό: μια ιεραρχία εντολών μπορεί να εκτεθεί, μια πηγή ανάκτησης μπορεί να δηλητηριαστεί, ένα συνδεδεμένο εργαλείο μπορεί να έχει υπερβολικά δικαιώματα ή μια έξοδος μπορεί να ενεργοποιήσει μια μη ασφαλή ενέργεια κατάντη. Η πηγή δεν αναφέρει κάποια συγκεκριμένη ευπάθεια ή αποτέλεσμα δοκιμής από το νέο σχήμα, επομένως δεν αποδεικνύει ότι το πλαίσιο εντόπισε ή απέτρεψε τέτοιες αποτυχίες. Αναφέρει το πεδίο εφαρμογής και την προβλεπόμενη λειτουργία διασφάλισης της διαπίστευσης.

Το πλαίσιο θα μπορούσε επίσης να επηρεάσει το έγγραφο των παρόχων. Η SecurityBrief Asia αναφέρει ότι το CREST θα αξιολογήσει τη διακυβέρνηση, τους ποιοτικούς ελέγχους, τις διαδικασίες και τα στοιχεία καθώς και τις τεχνικές δεξιότητες. Αυτή η έμφαση μπορεί να ενθαρρύνει τις εταιρείες να εξηγήσουν πώς επιλέγονται οι περιπτώσεις δοκιμής, πώς επικυρώνονται τα ευρήματα, πώς καταγράφονται οι περιορισμοί και πώς υποστηρίζονται τα συμπεράσματα. Για τους πελάτες, αυτό θα μπορούσε να είναι πιο χρήσιμο από έναν απλό ισχυρισμό ότι ένας πάροχος έχει εμπειρία με την τεχνητή νοημοσύνη. Η έκθεση δεν αναφέρει τη μέθοδο βαθμολόγησης, το όριο επιτυχίας, τον κύκλο επαναξιολόγησης ή τη δημόσια διαθεσιμότητα των εκθέσεων αξιολόγησης.

Η διάκριση μεταξύ του προτύπου δοκιμών διείσδυσης με δυνατότητα AI-Enabled Ιουλίου και αυτής της νέας διαπίστευσης είναι σημαντική. Το ένα αφορά τη χρήση της τεχνητής νοημοσύνης από έναν πάροχο δοκιμών. το άλλο αφορά την ικανότητα του παρόχου να δοκιμάζει συστήματα AI. Αυτές οι δραστηριότητες μπορεί να περιλαμβάνουν διαφορετικούς κινδύνους και ικανότητες. Μια εταιρεία μπορεί να χρησιμοποιήσει τεχνητή νοημοσύνη για να επιταχύνει τις συμβατικές εργασίες ασφάλειας χωρίς να διαθέτει τα προσόντα αξιολόγησης της συμπεριφοράς μοντέλων, αγωγών ανάκτησης ή ενσωματώσεων εργαλείων που μοιάζουν με πράκτορες. Αντίθετα, μια διαπίστευση δοκιμής AI δεν θα αποδείκνυε από μόνη της ότι κάθε δέσμευση έχει ικανοποιητικό πεδίο εφαρμογής ή ότι μια συγκεκριμένη ανάπτυξη είναι ασφαλής.

Ο δημόσιος αντίκτυπος παραμένει αβέβαιος επειδή η πηγή δεν περιέχει ανεξάρτητο αγοραστή, ρυθμιστή ή ακαδημαϊκή αξιολόγηση. Η αναφερόμενη υποστήριξη από τα μέλη του CREST δείχνει ότι οι συμμετέχοντες πάροχοι βλέπουν αξία στο σύστημα, αλλά δεν αποδεικνύει την αποδοχή της αγοράς. Ούτε το άρθρο δείχνει ότι η διαπίστευση μειώνει τα περιστατικά, βελτιώνει την ανακάλυψη ευπάθειας ή παράγει συνεπή αποτελέσματα μεταξύ των παρόχων. Αυτά τα άγνωστα θα πρέπει να μετριάσουν κάθε ισχυρισμό ότι η κυκλοφορία δημιουργεί μια νέα γραμμή ποιότητας σε ολόκληρη τη βιομηχανία.

Τι να παρακολουθήσετε στη συνέχεια

Τα βασικά ερωτήματα είναι εάν οι αγοραστές απαιτούν τη διαπίστευση, πώς η CREST αξιολογεί τους παρόχους στην πράξη και εάν το πρότυπο παράγει συγκρίσιμη ποιότητα δοκιμών μεταξύ των προμηθευτών. Η έκθεση δεν παρέχει το πλήρες πρότυπο, τα αποτελέσματα αξιολόγησης, το χρονοδιάγραμμα υλοποίησης ή ανεξάρτητες απαντήσεις από αγοραστές και ρυθμιστικές αρχές.

Το πρώτο θέμα που πρέπει να παρακολουθήσετε είναι η υιοθεσία από τους αγοραστές. Το SecurityBrief Asia προσδιορίζει τις προμήθειες και τη δέουσα επιμέλεια προμηθευτών ως κεντρικούς στόχους, αλλά δεν αναφέρει εάν οι μεγάλοι οργανισμοί απαιτούν τη διαπίστευση σε διαγωνισμούς ή συμβάσεις. Τα στοιχεία που αποδεικνύουν ότι οι αγοραστές το χρησιμοποιούν για να διακρίνουν τους παρόχους θα έδειχναν ότι το σύστημα έχει γίνει κάτι περισσότερο από ένα εθελοντικό επαγγελματικό διαπιστευτήριο. Χωρίς την αποδοχή από τον αγοραστή, η διαπίστευση μπορεί να χρησιμεύσει κυρίως ως σήμα στην αγορά υπηρεσιών κυβερνοασφάλειας.

Το δεύτερο ζήτημα είναι η διαφάνεια σχετικά με την αξιολόγηση. Η έκθεση ονομάζει ευρείες περιοχές αξιολόγησης, αλλά δεν παρέχει τους λεπτομερείς ελέγχους, τις διαδικασίες δοκιμών, τις απαιτήσεις αποδεικτικών στοιχείων ή τα κριτήρια επιτυχίας του προτύπου. Οι παρατηρητές θα πρέπει να αναζητήσουν πληροφορίες σχετικά με τον τρόπο με τον οποίο το CREST εξετάζει την ικανότητα του παρόχου, πόσο συχνά ανανεώνεται η διαπίστευση, πώς αντιμετωπίζονται οι συγκρούσεις συμφερόντων και εάν αποκαλύπτονται αποτυχημένες ή περιορισμένες αξιολογήσεις. Αυτές οι λεπτομέρειες θα βοηθούσαν στον προσδιορισμό της εμπιστοσύνης που μπορεί εύλογα να υποστηρίξει η διαπίστευση.

Το τρίτο θέμα είναι η τεχνική κάλυψη. Οι αναπτύξεις τεχνητής νοημοσύνης ποικίλλουν ευρέως, από απλές λειτουργίες μοντέλου γλώσσας έως συστήματα με ανάκτηση, μνήμη, εξωτερικά εργαλεία, API και αυτοματοποιημένες ενέργειες κατάντη. Το αναφερόμενο πεδίο εφαρμογής ολόκληρου του συστήματος του CREST είναι ευρύ, αλλά το άρθρο δεν εξηγεί πώς οι αξιολογήσεις θα χειριστούν διαφορές στην αρχιτεκτονική, την πρόσβαση στο μοντέλο, την ευαισθησία δεδομένων ή τον λειτουργικό αντίκτυπο. Μελλοντικές οδηγίες ή δημοσιευμένες περιπτωσιολογικές μελέτες θα μπορούσαν να δείξουν εάν το πρότυπο είναι πρακτικό σε αυτές τις ρυθμίσεις και όχι απλώς περιεκτικό στην περιγραφή.

Το τέταρτο ζήτημα είναι τα αποδεικτικά αποτελέσματα. Τα μέλη του CREST που αναφέρονται στην έκθεση λένε ότι το πλαίσιο θα μπορούσε να δημιουργήσει συνέπεια και να ενισχύσει την εμπιστοσύνη, αλλά αυτές είναι προσδοκίες και όχι μετρημένα ευρήματα. Χρήσιμα αποδεικτικά στοιχεία παρακολούθησης θα περιλαμβάνουν ανώνυμα αποτελέσματα αξιολόγησης, παραδείγματα αδυναμιών ειδικά για την τεχνητή νοημοσύνη που ανακαλύφθηκαν μέσω διαπιστευμένων δοκιμών ή συγκρίσεις που δείχνουν ότι οι διαπιστευμένοι πάροχοι παράγουν πιο αξιόπιστα ευρήματα. Κανένα από αυτά τα στοιχεία δεν υπάρχει στην πηγή και η εκτόξευση δεν θα πρέπει να αντιμετωπίζεται ως απόδειξη βελτιωμένης ασφάλειας.

Τέλος, η σχέση με άλλα πλαίσια ασφαλείας AI θα έχει σημασία. Το άρθρο περιγράφει το πρόγραμμα διασφάλισης τεχνητής νοημοσύνης του ίδιου του CREST, αλλά δεν εξετάζει τον τρόπο με τον οποίο η διαπίστευσή του ευθυγραμμίζεται με την κυβερνητική καθοδήγηση, τους συγκεκριμένους κανόνες ανά τομέα ή άλλα πρότυπα δοκιμών. Οι αγοραστές μπορεί να χρειαστεί να το συνδυάσουν με εκτιμήσεις κινδύνου, ασφαλείς πρακτικές ανάπτυξης, ελέγχους πρόσβασης, παρακολούθηση και ανθρώπινη επανεξέταση. Το SecurityBrief Asia αναφέρει την κυκλοφορία και τον προβλεπόμενο ρόλο του. δεν επιβεβαιώνει ανεξάρτητα την ενδεχόμενη εμβέλεια, την αποτελεσματικότητα, την κανονιστική αναγνώριση ή το χρονοδιάγραμμα για τις αξιολογήσεις των παρόχων του προγράμματος.

Σχετικοί οδηγοί και κουίζ