Ευθυγράμμιση AI

Η ευθυγράμμιση δεν είναι η ίδια με την «ηθική τεχνητής νοημοσύνης» με την ευρεία έννοια. Η ηθική ρωτά ποιες αξίες πρέπει να επιδιώκει μια κοινωνία. Η ευθυγράμμιση ρωτά εάν ένα ισχυρό σύστημα τεχνητής νοημοσύνης θα επιδιώξει πραγματικά τους στόχους που καθορίζουμε — και εάν αυτοί οι στόχοι παραμένουν σταθεροί καθώς αυξάνεται η ικανότητα. Οι κλασικές λειτουργίες αποτυχίας περιλαμβάνουν το παιχνίδι προδιαγραφών (βελτιστοποίηση μιας μέτρησης διακομιστή μεσολάβησης), την εσφαλμένη προδιαγραφή στόχου (γράψαμε λάθος στόχο) και τη σύγκλιση οργάνων (συστήματα που αναζητούν ισχύ, πόρους ή αυτοσυντήρηση, επειδή αυτά βοηθούν σχεδόν κάθε τελικό στόχο). Τα σύγχρονα εργαστήρια έχουν ήδη χτυπήσει πιο ήπιες εκδόσεις αυτών των αποτυχιών: chatbots που συμφωνούν με τους χρήστες, πράκτορες που εκμεταλλεύονται τα κενά στις λειτουργίες βαθμολόγησης και μοντέλα που σημαδεύουν το παιχνίδι. Το ανοιχτό ερώτημα είναι εάν οι σημερινές μέθοδοι ευθυγράμμισης (RLHF, συνταγματική τεχνητή νοημοσύνη, συζήτηση, ερμηνευτικότητα, τεχνικές ελέγχου) κλιμακώνονται σε συστήματα που μπορούν να σχεδιάσουν, να εξαπατήσουν ή να δράσουν με λιγότερη ανθρώπινη επίβλεψη. Αυτός είναι ο λόγος για τον οποίο η έρευνα ευθυγράμμισης βρίσκεται στο επίκεντρο των συζητήσεων για τους υπαρξιακούς κινδύνους τεχνητής νοημοσύνης: εάν τα συστήματα υψηλής ικανότητας δεν ευθυγραμμιστούν σωστά, οι συνήθεις διαδικασίες ασφάλειας προϊόντων μπορεί να μην είναι αρκετές.