Τι έγινε
Το gHacks αναφέρει ότι το OpenAI κυκλοφόρησε το ChatGPT για εφήβους, μια έκδοση του chatbot του που προορίζεται για χρήστες ηλικίας 13 έως 17 ετών. Η αναφερόμενη εμπειρία περιλαμβάνει Λειτουργία μελέτης, υπενθυμίσεις εργασίας, κουίζ, οπτικοποιήσεις, προγραμματισμένες ώρες μελέτης, φίλτρα περιεχομένου κατάλληλα για την ηλικία και επιπλέον γονικούς ελέγχους. Το gHacks λέει ότι οι χρήστες που προσδιορίζονται ως έφηβοι ή τους οποίους το σύστημα εκτιμά ότι είναι κάτω των 18 ετών, τοποθετούνται αυτόματα στην εμπειρία του εφήβου. Ο OpenAI αναφέρεται επίσης ότι συνεργάζεται με το CodeAI σε πόρους τεχνητής νοημοσύνης για μαθητές και δασκάλους. Η διάθεση, οι διασφαλίσεις και τα αποτελέσματα δοκιμών που αναφέρθηκαν από την εταιρεία δεν έχουν επιβεβαιωθεί ανεξάρτητα από την πηγή.
Σύμφωνα με το gHacks, το OpenAI παρουσίασε το ChatGPT για εφήβους για χρήστες μεταξύ 13 και 17 ετών. Η αναφορά λέει ότι το σύστημα τοποθετεί τους ανθρώπους σε αυτήν την έκδοση όταν δηλώνουν ότι βρίσκονται σε αυτό το εύρος ηλικίας ή όταν η τεχνολογία πρόβλεψης ηλικίας του OpenAI εκτιμά ότι είναι μάλλον κάτω των 18 ετών. χειροκίνητα. Το gHacks περιγράφει την κυκλοφορία ως επέκταση των προηγούμενων προσπαθειών OpenAI που περιλαμβάνουν γονικούς ελέγχους, προδιαγραφές μοντέλου κάτω των 18 ετών και δυνατότητες πρόβλεψης ηλικίας. Το άρθρο δεν επαληθεύει ανεξάρτητα την κυκλοφορία, δεν εξηγεί την υποκείμενη μέθοδο εκτίμησης ηλικίας ή δεν λέει πώς οι χρήστες μπορούν να αμφισβητήσουν μια εσφαλμένη ταξινόμηση.
Το gHacks αναφέρει ότι η εμπειρία των εφήβων έχει σχεδιαστεί για να ενθαρρύνει την ενεργό μελέτη αντί να παρέχει μια άμεση απάντηση σε κάθε ερώτηση. Σύμφωνα με πληροφορίες, η λειτουργία μελέτης χρησιμοποιεί ερωτήσεις και βοήθεια βήμα προς βήμα. Οι υπενθυμίσεις εργασίας για το σπίτι μπορούν να προσδιορίσουν τις προσπάθειες συντόμευσης μιας εργασίας και να ανακατευθύνουν τον χρήστη προς τη Λειτουργία μελέτης, ενώ τα κουίζ και οι απεικονίσεις έχουν σκοπό να υποστηρίξουν την εξάσκηση και την αναθεώρηση. Σύμφωνα με πληροφορίες, μια ρύθμιση Ώρες μελέτης μπορεί να διαμορφωθεί από εφήβους ή γονείς, ώστε η Λειτουργία μελέτης να παραμένει ενεργή κατά τη διάρκεια επιλεγμένων περιόδων. Η πηγή λέει ότι ο OpenAI συνεργάστηκε με δασκάλους, επιστήμονες και ειδικούς στην εκπαίδευση και βασίστηκε στην έρευνα σχετικά με την ενεργητική μάθηση και την αυτοεξήγηση. Λέει επίσης ότι οι πρώτες δοκιμές της εταιρείας έδειξαν βελτιωμένη απόδοση των μαθητών, αλλά δεν παρέχει καμία μεθοδολογία ή αποτελέσματα που αναπαράγονται ανεξάρτητα.
Η έκθεση περιγράφει επίσης μια συνεργασία AI-literacy μεταξύ OpenAI και CodeAI για μαθητές και δασκάλους. Το gHacks λέει ότι οι πόροι προορίζονται να εξηγήσουν πώς λειτουργεί η τεχνητή νοημοσύνη, πώς να τη χρησιμοποιήσετε και πώς να αμφισβητήσετε τις απαντήσεις της, με τους δασκάλους να καθοδηγούν τη χρήση στην τάξη. Το άρθρο αναφέρει τον Διευθύνοντα Σύμβουλο της CodeAI, Karim Meghji, ότι οι μαθητές θα πρέπει να είναι σε θέση να εντοπίζουν τα λάθη και να γνωρίζουν πότε να σταματήσουν να εμπιστεύονται την τεχνολογία. Το gHacks αναφέρει περαιτέρω ότι οι προεπιλεγμένες προστασίες εφήβων του OpenAI καλύπτουν τομείς όπως ο αυτοτραυματισμός, η βία, οι διατροφικές διαταραχές, οι επικίνδυνες δραστηριότητες και το ρητό περιεχόμενο. Σύμφωνα με πληροφορίες, οι γονείς με συνδεδεμένους λογαριασμούς μπορούν να ορίσουν Ώρες ησυχίας, να αλλάξουν ορισμένες ρυθμίσεις και να λαμβάνουν ειδοποιήσεις ασφαλείας σε ορισμένες καταστάσεις υψηλού κινδύνου. Η έκθεση αναφέρει ότι ειδοποιήσεις σχετικά με διατροφικές διαταραχές προστίθενται με περιορισμένη κοινή χρήση εστιασμένη σε περιπτώσεις όπου η υποστήριξη εκτός σύνδεσης μπορεί να έχει σημασία.
Γιατί έχει σημασία
Το λανσάρισμα τοποθετεί την ασφάλεια και τη συμπεριφορά μάθησης για συγκεκριμένη ηλικία απευθείας μέσα σε ένα σημαντικό καταναλωτικό προϊόν τεχνητής νοημοσύνης. Εάν οι αναφερόμενες λειτουργίες λειτουργούν όπως προβλέπεται, θα μπορούσαν να αλλάξουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT για κατ' οίκον εργασία, αναθεώρηση και γενική μάθηση, δίνοντας παράλληλα στους γονείς περισσότερο έλεγχο στις ρυθμίσεις λογαριασμού και σε ορισμένες ειδοποιήσεις υψηλού κινδύνου. Η προσέγγιση εγείρει επίσης πρακτικά ερωτήματα σχετικά με την εκτίμηση ηλικίας, το απόρρητο, τις λανθασμένες ταξινομήσεις, την τοπική διαθεσιμότητα και εάν τα φίλτρα ασφαλείας μπορούν να χειριστούν αξιόπιστα ευαίσθητες συνομιλίες. Το gHacks αναφέρει ότι ο OpenAI λέει ότι οι πρώιμες δοκιμές λειτουργίας μελέτης βελτίωσαν την απόδοση των μαθητών, αλλά το άρθρο δεν παρέχει το σχεδιασμό της μελέτης, τα δεδομένα, το μέγεθος του εφέ ή την ανεξάρτητη επικύρωση.
Το προϊόν είναι επακόλουθο επειδή αντιμετωπίζει τους ανηλίκους ως μια ξεχωριστή ομάδα χρηστών με διαφορετικές προεπιλογές, μοτίβα αλληλεπίδρασης και εργαλεία επίβλεψης. Ένα γενικό chatbot μπορεί να απαντήσει σε ερωτήσεις σε πολλά θέματα, αλλά μια διαμόρφωση προσανατολισμένη στους εφήβους επιχειρεί να διαμορφώσει τόσο το τι θα συζητήσει το σύστημα όσο και τον τρόπο με τον οποίο ανταποκρίνεται στις σχολικές εργασίες. Αυτό θα μπορούσε να είναι χρήσιμο για οικογένειες και εκπαιδευτικούς που θέλουν βοήθεια χωρίς να κάνουν την αντικατάσταση απαντήσεων ως προεπιλογή. Δίνει επίσης στον OpenAI μια πιο ορατή ευθύνη για αποφάσεις σχετικά με την ταξινόμηση ηλικίας, τον χειρισμό ευαίσθητου περιεχομένου και το όριο μεταξύ της εκπαιδευτικής καθοδήγησης και της άμεσης ολοκλήρωσης των εργασιών.
Ο αναφερόμενος σχεδιασμός ασφάλειας αντιμετωπίζει κινδύνους που είναι ιδιαίτερα σημαντικοί όταν ένα chatbot χρησιμοποιείται από νεότερους. Η gHacks λέει ότι η ενημερωμένη καθοδήγηση κάτω των 18 ετών ξεπερνά το μπλοκάρισμα του σεξουαλικού ή ρομαντικού παιχνιδιού ρόλων: το σύστημα επίσης δεν υποτίθεται ότι χρησιμοποιεί ρομαντική γλώσσα, ενθαρρύνει τη συναισθηματική εξάρτηση ή υποδηλώνει ότι έχει συναισθήματα ή συνείδηση. Αυτά τα όρια είναι σχετικά επειδή ένα σύστημα συνομιλίας μπορεί να φαίνεται προσωπικό ακόμα και όταν είναι μόνο λογισμικό. Η αναφορά λέει ότι το OpenAI προσθέτει υπενθυμίσεις σχετικά με τις μεταφορτώσεις ευαίσθητων εικόνων, την ενσωμάτωση για εφήβους και την προσαρμογή, όπως χρώματα έμφασης και επιλογές φωνής. Αυτές οι λεπτομέρειες υποδηλώνουν μια προσπάθεια εξατομίκευσης του προϊόντος διατηρώντας παράλληλα τη διάκριση μεταξύ ενός εργαλείου και ενός ατόμου, αν και η πηγή δεν παρέχει καμία ανεξάρτητη δοκιμή αυτής της διάκρισης στην πράξη.
Οι εκπαιδευτικοί ισχυρισμοί απαιτούν προσεκτικό έλεγχο. Το gHacks αναφέρει ότι οι πρώτες δοκιμές του OpenAI βρήκαν βελτιώσεις στην απόδοση των μαθητών, αλλά το άρθρο δεν προσδιορίζει συμμετέχοντες, ομάδες σύγκρισης, εργασίες, διάρκεια ή αποτελέσματα. Χωρίς αυτές τις λεπτομέρειες, οι αναγνώστες δεν μπορούν να προσδιορίσουν εάν τα αναφερόμενα κέρδη αντικατοπτρίζουν καλύτερη κατανόηση, μεγαλύτερη επιμονή, εξοικείωση με το τεστ ή άλλους παράγοντες. Ο ίδιος περιορισμός ισχύει και για τους ισχυρισμούς ασφαλείας: η πηγή λέει ότι το OpenAI μοιράζεται αξιολογήσεις κάτω των 18 ετών σε κάρτες συστήματος, αλλά δεν παρέχει τα αποτελέσματα αξιολόγησης. Η δημόσια αξία της κυκλοφορίας θα εξαρτηθεί όχι μόνο από την ύπαρξη φίλτρων και ελέγχων, αλλά από διαφανή στοιχεία σχετικά με το πόσο συχνά αποτυγχάνουν, πώς αντιμετωπίζονται τα σφάλματα και εάν οι οικογένειες μπορούν να κατανοήσουν τις αποφάσεις του συστήματος.
Διαδραστικός Μηχανισμός: Πώς λειτουργεί στην πραγματικότητα
Εξερευνήστε την υποκείμενη τεχνολογία πίσω από αυτήν την εξέλιξη διαδραστικά.
What is a common training objective for an autoregressive language model?
Τι να παρακολουθήσετε στη συνέχεια
Τα βασικά ζητήματα είναι το εύρος της διάθεσης, η ακρίβεια διασφάλισης ηλικίας, οι προστασίες απορρήτου και τα στοιχεία ότι τα χαρακτηριστικά της μελέτης βελτιώνουν τη μάθηση και όχι απλώς επιβραδύνουν τις απαντήσεις. Παρακολουθήστε τις αξιολογήσεις της κάρτας συστήματος του OpenAI ειδικά για εφήβους, σαφέστερες επεξηγήσεις των γονικών ειδοποιήσεων και πληροφορίες σχετικά με το πώς μπορούν να διορθωθούν εσφαλμένες εκτιμήσεις ηλικίας. Θα είναι επίσης σημαντικό να δούμε εάν οι δάσκαλοι και οι γονείς μπορούν να διαμορφώσουν ουσιαστικά την εμπειρία, πώς λειτουργούν οι διασφαλίσεις σε πραγματικές συνομιλίες που περιλαμβάνουν αυτοτραυματισμό ή διατροφικές διαταραχές και εάν οι εκπαιδευτικοί πόροι του CodeAI είναι ευρέως διαθέσιμοι. Η αναφορά δεν καθορίζει το χρονοδιάγραμμα εκκίνησης για συγκεκριμένες περιοχές ή το πλήρες σύνολο ελέγχων που διατίθενται για οικογένειες.
Η πρώτη πρακτική ερώτηση είναι η διαθεσιμότητα. Το gHacks αναφέρει ότι το OpenAI δεν έχει πει πότε η διάθεση θα φτάσει σε συγκεκριμένες περιοχές. Αυτό αφήνει ασαφές ποιοι έφηβοι μπορούν να χρησιμοποιήσουν το προϊόν τώρα, εάν η πρόσβαση διαφέρει ανά χώρα και εάν ορισμένες λειτουργίες εξαρτώνται από τοπικούς κανόνες ή διαμορφώσεις λογαριασμού. Η αναφορά δεν εξηγεί επίσης πώς η υπηρεσία αντιμετωπίζει τους χρήστες των οποίων η ηλικία είναι άγνωστη, αμφισβητείται ή εκτιμάται λανθασμένα. Επειδή η αυτόματη τοποθέτηση αποτελεί μέρος του αναφερόμενου σχεδιασμού, οι διαδικασίες διόρθωσης και ένστασης θα είναι σημαντικές τόσο για ανηλίκους όσο και για ενήλικες που τοποθετούνται κατά λάθος στην εμπειρία του εφήβου.
Το επόμενο ζήτημα είναι αν η γονική επίβλεψη έχει νόημα χωρίς να γίνεται υπερβολική επιτήρηση. Η gHacks λέει ότι οι συνδεδεμένοι γονείς μπορούν να προσαρμόσουν ορισμένες ρυθμίσεις και να λαμβάνουν ειδοποιήσεις σε ορισμένες περιπτώσεις υψηλού κινδύνου, ενώ το OpenAI περιορίζει τα κοινά στοιχεία σε σχέση με τις διατροφικές διαταραχές. Η πηγή δεν διευκρινίζει ποια συμβάντα ενεργοποιούν τις ειδοποιήσεις, ποιες πληροφορίες λαμβάνουν οι γονείς, πόσο καιρό διατηρούνται ή αν ενημερώνονται οι έφηβοι πότε αποστέλλεται μια ειδοποίηση. Αυτές οι λεπτομέρειες θα καθορίσουν εάν τα εργαλεία υποστηρίζουν την έγκαιρη βοήθεια εκτός σύνδεσης με σεβασμό του απορρήτου ενός νεαρού ατόμου. Η ανεξάρτητη αναθεώρηση θα πρέπει να εξετάζει τα ψευδώς θετικά στοιχεία, τους χαμένους κινδύνους και την επίδραση των ειδοποιήσεων στην εμπιστοσύνη μεταξύ των εφήβων και των φροντιστών.
Τέλος, παρακολουθήστε για στοιχεία από τις αξιολογήσεις καρτών συστήματος κάτω των 18 ετών και για ανεξάρτητες αξιολογήσεις από εκπαιδευτικούς, ειδικούς στην ανάπτυξη παιδιών και ερευνητές ασφάλειας. Η gHacks λέει ότι η OpenAI σχεδιάζει να μοιραστεί περισσότερα σχετικά με τις αξιολογήσεις που αφορούν αυτοτραυματισμό, διατροφικές διαταραχές, βία, προϊόντα περιορισμένης ηλικίας και σεξουαλικό περιεχόμενο, αλλά η έκθεση δεν περιλαμβάνει τα αποτελέσματα. Οι μελλοντικές αναφορές θα πρέπει να ελέγχουν εάν η λειτουργία μελέτης προωθεί με συνέπεια τη συλλογιστική, εάν οι υπενθυμίσεις εργασίας διακρίνουν σωστά τη νόμιμη βοήθεια από την απόπειρα συντόμευσης και εάν τα κουίζ ή οι απεικονίσεις βελτιώνουν τη διατήρηση. Η εταιρική σχέση CodeAI θα πρέπει επίσης να αξιολογηθεί βάσει της προσβασιμότητας και της χρησιμότητας των πόρων της και όχι μόνο από την ανακοίνωση της συνεργασίας. Μέχρι να είναι διαθέσιμα αυτά τα στοιχεία, η κυκλοφορία θα πρέπει να θεωρείται ως μια σημαντική αλλαγή προϊόντος με σημαντικά ανεπίλυτα ερωτήματα.