Τι έγινε
Το έγγραφο Granite.Trust εισάγει ένα σχήμα Actionable Policy, μια μορφή βασισμένη στο YAML για τον καθορισμό του τι μπορεί και τι όχι να περιέχουν οι γεννητικές απαντήσεις AI. Περιγράφει επίσης μια διοχέτευση συνθετικών δεδομένων για την παραγωγή εκπαιδευτικών δεδομένων ευθυγραμμισμένων με την πολιτική, καθώς και εργαλεία για τον καθορισμό και την επιβολή αυτών των πολιτικών σε όλο τον κύκλο ζωής μιας εφαρμογής.
Το έγγραφο, που υποβλήθηκε στο arXiv στις 24 Αυγούστου, παρουσιάζει το Granite.Trust Policy Tools ως απάντηση σε μια αναντιστοιχία μεταξύ των συμβατικών συστημάτων ελέγχου πρόσβασης και των γενετικών εφαρμογών τεχνητής νοημοσύνης. Σύμφωνα με την περίληψη, οι παραδοσιακές προσεγγίσεις δεν έχουν σχεδιαστεί για να εκφράζουν περιορισμούς που βασίζονται στο περιεχόμενο: κανόνες σχετικά με το τι μπορεί ή δεν μπορεί να περιέχει η απάντηση ενός μοντέλου. Οι συγγραφείς υποστηρίζουν ότι οι απαιτήσεις πολιτικής ποικίλλουν ανάλογα με το πλαίσιο εφαρμογής, το ρυθμιστικό περιβάλλον, τις οργανωτικές αξίες και τα χαρακτηριστικά των χρηστών. Η πηγή το παρουσιάζει ως πρόβλημα σχεδιασμού για οργανισμούς που κατασκευάζουν ή λειτουργούν εφαρμογές παραγωγής τεχνητής νοημοσύνης, παρά ως ισχυρισμός για ένα συγκεκριμένο μοντέλο ή προϊόν.
Η κεντρική συνεισφορά του είναι ένα σχήμα Actionable Policy που περιγράφεται ως μορφή που βασίζεται στο YAML. Η περίληψη λέει ότι το σχήμα προορίζεται να προσδιορίσει επιτρεπόμενο και απαγορευμένο περιεχόμενο σε αποκρίσεις μοντέλων. Προτείνει επίσης διακυβέρνηση πολιτικής βάσει εξαιρέσεων, στην οποία χρησιμοποιούνται εξαιρέσεις για την παρακολούθηση παραβιάσεων πολιτικής. Η πηγή δεν παρέχει την πλήρη σύνταξη του σχήματος, ένα επεξεργασμένο παράδειγμα πολιτικής ή μια επίδειξη που δείχνει πώς θα ταξινομηθεί μια συγκεκριμένη απάντηση. Επομένως, καθορίζει την ύπαρξη και τον επιδιωκόμενο σκοπό της μορφής, αλλά δεν καθορίζει πόσο ευρεία είναι η κάλυψη ή πόσο δύσκολη είναι η χρήση της στην πράξη.
Το έγγραφο περιγράφει δύο επιπλέον στοιχεία γύρω από το σχήμα. Πρώτον, παρουσιάζει έναν αγωγό παραγωγής συνθετικών δεδομένων που παράγει δεδομένα εκπαίδευσης ευθυγραμμισμένα με την πολιτική για ευθυγράμμιση και δοκιμή μοντέλων. Δεύτερον, περιγράφει ένα σύνολο εργαλείων που βοηθούν τους οργανισμούς να καθορίσουν το σχήμα και να επιβάλουν την πολιτική. Η περίληψη λέει ότι αυτά τα στοιχεία προορίζονται να αφήσουν έναν οργανισμό να καθορίσει πολιτικές μία φορά και να τις εφαρμόσει από την ευθυγράμμιση του μοντέλου μέχρι την παρακολούθηση χρόνου εκτέλεσης. Λέει επίσης ότι το σχήμα, τα παραδείγματα πολιτικών και εργαλείων είναι διαθέσιμα ως ανοιχτού κώδικα. Η πηγή δεν προσδιορίζει το χώρο αποθήκευσης στο παρεχόμενο κείμενο, δεν καθορίζει μια άδεια χρήσης λογισμικού, δεν ονομάζει υποστηριζόμενα μοντέλα ή πλαίσια, ούτε αναφέρει πόσο ώριμη είναι η υλοποίηση.
Το έγγραφο είναι μια έκδοση πρότασης και εργαλείου που περιγράφεται σε μια περίληψη arXiv, όχι μια ανεξάρτητη επαληθευμένη αναφορά της απόδοσης παραγωγής. Η πηγή δεν αναφέρει ότι τα εργαλεία έχουν υιοθετηθεί από οργανισμούς, έχουν δοκιμαστεί σε ζωντανά συστήματα, έχουν ελεγχθεί από εξωτερικούς ερευνητές ή έχουν αξιολογηθεί με βάση ένα σημείο αναφοράς. Επίσης, δεν περιγράφει τα είδη επιβλαβούς ή περιορισμένου περιεχομένου που καλύπτονται από τα παραδείγματα πολιτικών. Αυτές οι παραλείψεις έχουν σημασία επειδή η χρησιμότητα ενός πλαισίου πολιτικής εξαρτάται από λεπτομέρειες όπως ο τρόπος με τον οποίο χειρίζεται την ασάφεια, τους αντικρουόμενους κανόνες, την αλλαγή κανονισμών και τις περιπτώσεις όπου μια απάντηση είναι τεχνικά συμβατή αλλά εξακολουθεί να είναι παραπλανητική ή επιβλαβής.
Γιατί έχει σημασία
Η πρόταση αντιμετωπίζει ένα πρακτικό πρόβλημα διακυβέρνησης: διαφορετικοί οργανισμοί και εφαρμογές αντιμετωπίζουν διαφορετικούς κινδύνους, αλλά η πηγή λέει ότι οι υπάρχουσες προσεγγίσεις ελέγχου πρόσβασης δεν καταγράφουν περιορισμούς που βασίζονται στο περιεχόμενο στη γενετική τεχνητή νοημοσύνη. Εάν τα εργαλεία λειτουργούν όπως περιγράφεται, θα μπορούσαν να δώσουν στις ομάδες έναν πιο συνεπή τρόπο να μεταφράσουν τους εσωτερικούς κανόνες σε ελέγχους εκπαίδευσης μοντέλων και χρόνου εκτέλεσης.
Η διακυβέρνηση πρέπει συχνά να λειτουργεί σε δύο επίπεδα: να αποφασίζει εάν ένας χρήστης ή μια εφαρμογή μπορεί να έχει πρόσβαση σε ένα σύστημα και να αποφασίζει τι μπορεί να παράγει το σύστημα σε ένα συγκεκριμένο πλαίσιο. Η συμβολή της πηγής εστιάζεται στο δεύτερο επίπεδο. Ο ισχυρισμός του είναι ότι οι κανόνες περιεχομένου χρειάζονται μια αναπαράσταση σχεδιασμένη για εφαρμογές παραγωγής, αντί να εξαναγκάζονται σε παραδοσιακές δομές αδειών. Αυτή είναι μια συγκεκριμένη και πρακτικά σχετική διάκριση για οργανισμούς που πρέπει να εκφράσουν διαφορετικές απαιτήσεις για διαφορετικούς χρήστες, εφαρμογές ή περιβάλλοντα.
Η προτεινόμενη προσέγγιση θα μπορούσε να καταστήσει ευκολότερη τη μεταφορά των αλλαγών πολιτικής στον κύκλο ζωής μιας εφαρμογής τεχνητής νοημοσύνης. Η περίληψη περιγράφει μια ενιαία προδιαγραφή πολιτικής που χρησιμοποιείται για την ευθυγράμμιση μοντέλων, τη δημιουργία δεδομένων εκπαίδευσης, τη δοκιμή και την παρακολούθηση χρόνου εκτέλεσης. Κατ' αρχήν, αυτό θα μπορούσε να μειώσει τις αποκλίσεις μεταξύ του κανόνα που χρησιμοποιείται για την εκπαίδευση ενός συστήματος και του κανόνα που χρησιμοποιείται για την παρακολούθηση του μετά την ανάπτυξη. Ωστόσο, η πηγή δεν αποδεικνύει ότι αυτή η συνέπεια επιτυγχάνεται. Περιγράφει την επιδιωκόμενη ροή εργασίας και τα εργαλεία που κατασκευάστηκαν για την υποστήριξή της, αλλά δεν παρέχει μετρημένες αποδείξεις σχετικά με το εάν μια πολιτική που γράφτηκε μία φορά εφαρμόζεται με τον ίδιο τρόπο σε κάθε στάδιο.
Ο σχεδιασμός που βασίζεται σε εξαιρέσεις είναι επίσης δυνητικά σημαντικός. Η περίληψη λέει ότι οι εξαιρέσεις μπορούν να χρησιμοποιηθούν για την παρακολούθηση παραβιάσεων πολιτικής, προτείνοντας μια διαδικασία διακυβέρνησης που καταγράφει περιπτώσεις όπου το αποτέλεσμα του συστήματος έρχεται σε σύγκρουση με έναν δηλωμένο κανόνα αντί να αντιμετωπίζει την πολιτική ως στατική λίστα ελέγχου. Τέτοιες εγγραφές θα μπορούσαν να είναι χρήσιμες για την αναθεώρηση πολιτικών, τη δοκιμή μοντέλων και τον εντοπισμό επαναλαμβανόμενων αστοχιών. Αυτό είναι μια συνέπεια του περιγραφόμενου σχεδίου, όχι ένα αποτέλεσμα που προκύπτει από την περίληψη της εργασίας. Η πηγή δεν αναφέρει εάν οι εξαιρέσεις εξετάζονται από άτομα, ενσωματώνονται αυτόματα σε μετέπειτα εκπαίδευση ή συνδέονται με διαδικασίες λογοδοσίας και αποκατάστασης.
Η πρακτική αξία θα εξαρτηθεί από παράγοντες που η πηγή αφήνει άλυτα. Μια γλώσσα πολιτικής πρέπει να είναι αρκετά συγκεκριμένη ώστε να παράγει συνεπείς αποφάσεις, αλλά αρκετά ευέλικτη ώστε να περιγράφει απαιτήσεις που εξαρτώνται από το πλαίσιο. Τα συνθετικά δεδομένα μπορεί να βοηθήσουν στη δημιουργία παραδειγμάτων εκπαίδευσης και δοκιμής, αλλά η πηγή δεν καθορίζει εάν αυτά τα παραδείγματα αντιπροσωπεύουν πραγματική συμπεριφορά χρήστη ή δύσκολες περιπτώσεις αιχμής. Ούτε δείχνει εάν η προσέγγιση λειτουργεί σε διαφορετικούς παρόχους μοντέλων, τρόπους, γλώσσες ή τύπους εφαρμογών. Ως εκ τούτου, η σημασία του εγγράφου για το δημόσιο συμφέρον είναι πιο ξεκάθαρη ως μια προσπάθεια να γίνουν οι κανόνες παραγωγής τεχνητής νοημοσύνης πιο λειτουργικοί, όχι ως απόδειξη ότι το πρόβλημα διακυβέρνησης έχει λυθεί.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Τι να παρακολουθήσετε στη συνέχεια
Η πηγή δεν αναφέρει αποτελέσματα αξιολόγησης, αποδεικτικά στοιχεία ανάπτυξης, ακρίβεια επιβολής πολιτικής, ψευδώς θετικά ποσοστά ή συγκρίσεις με υπάρχοντα εργαλεία διακυβέρνησης. Η επόμενη σημαντική απόδειξη θα είναι εάν το σχήμα ανοιχτού κώδικα μπορεί να εκφράσει αξιόπιστα πολύπλοκες πολιτικές και εάν οι πολιτικές παραμένουν συνεπείς σε όλη την εκπαίδευση, τη δοκιμή και τη χρήση ζωντανών μοντέλων.
Το πρώτο θέμα που πρέπει να παρακολουθήσετε είναι η αξιολόγηση. Η παρεχόμενη πηγή δεν αναφέρει μετρήσεις ακρίβειας, κάλυψης, καθυστέρησης, κόστους ή αξιοπιστίας για το σχήμα πολιτικής, τη διοχέτευση συνθετικών δεδομένων ή τα εργαλεία επιβολής. Χρήσιμα αποδεικτικά στοιχεία παρακολούθησης θα περιλαμβάνουν δοκιμές ενάντια σε ανθρώπινες γραπτές πολιτικές, αντίθετες ή διφορούμενες προτροπές και ρεαλιστικά αποτελέσματα εφαρμογών. Θα ήταν επίσης σημαντικό να γνωρίζετε πόσο συχνά το σύστημα αποκλείει το επιτρεπόμενο περιεχόμενο, επιτρέπει το μη επιτρεπόμενο περιεχόμενο ή απαιτεί μη αυτόματο έλεγχο. Χωρίς αυτές τις μετρήσεις, οι πρακτικοί ισχυρισμοί του χαρτιού παραμένουν προοπτικοί.
Ένα δεύτερο ζήτημα είναι η συνέπεια του κύκλου ζωής. Οι συγγραφείς λένε ότι οι πολιτικές μπορούν να καθοριστούν μία φορά και να επιβληθούν κατά την ευθυγράμμιση του μοντέλου, τη δοκιμή και την παρακολούθηση χρόνου εκτέλεσης. Η μελλοντική τεκμηρίωση ή πειράματα θα πρέπει να δείξει εάν ο ίδιος κανόνας παράγει συγκρίσιμα αποτελέσματα σε κάθε ρύθμιση, ειδικά όταν αλλάζει το υποκείμενο μοντέλο, η δομή προτροπής ή η περιβάλλουσα εφαρμογή. Η πηγή δεν αναφέρει πώς εκδίδονται οι ενημερώσεις πολιτικής, πώς ελέγχονται οι αλλαγές ή πώς οι οργανισμοί μπορούν να εντοπίσουν περιπτώσεις όπου η συμπεριφορά χρόνου εκπαίδευσης αποκλίνει από τη συμπεριφορά χρόνου εκτέλεσης.
Η έκδοση ανοιχτού κώδικα απαιτεί επίσης έλεγχο. Η πηγή λέει ότι το σχήμα, τα παραδείγματα πολιτικών και τα εργαλεία είναι διαθέσιμα ως ανοιχτού κώδικα, αλλά το παρεχόμενο κείμενο δεν περιλαμβάνει τη διεύθυνση αποθετηρίου, την άδεια, τα υποστηριζόμενα περιβάλλοντα ή τη διαδικασία συνεισφοράς. Αυτές οι λεπτομέρειες θα καθορίσουν εάν η πρόταση είναι πραγματικά επαναχρησιμοποιήσιμη πέρα από τις επιδείξεις των συντακτών της. Οι πρακτικοί χρήστες θα πρέπει να γνωρίζουν εάν μπορεί να ενσωματωθεί με υπάρχοντα συστήματα ανάπτυξης μοντέλων και παρακολούθησης και εάν οι πολιτικές του μπορούν να αναθεωρηθούν από άτομα που δεν είναι ειδικοί στη μηχανική μάθηση.
Τέλος, οι αναγνώστες θα πρέπει να προσέχουν για στοιχεία σχετικά με το εύρος και τους περιορισμούς. Η περίληψη δεν δηλώνει εάν το Granite.Trust χειρίζεται μόνο αποκρίσεις κειμένου ή μπορεί να διέπει πολυτροπικές εφαρμογές, ούτε περιγράφει υποστήριξη για πολλές γλώσσες ή ρυθμιστικά καθεστώτα. Επίσης, δεν εξηγεί πώς το σύστημα επιλύει τις συγκρούσεις μεταξύ οργανωτικών αξιών, προσώπων χρηστών και νομικών απαιτήσεων. Έως ότου απαντηθούν αυτά τα ερωτήματα μέσω του πλήρους χαρτιού, της επιθεώρησης κώδικα ή της ανεξάρτητης δοκιμής, το υπεύθυνο συμπέρασμα είναι ότι το Granite.Trust προσφέρει μια συγκεκριμένη πρόταση πολιτικής ανοιχτού κώδικα, της οποίας η αποτελεσματικότητα και το εύρος παραμένουν άγνωστα.