Η Κίνα αυστηροποιεί τους κανόνες για τα συνοδευτικά chatbot AI εν μέσω ανησυχιών για συναισθηματική εξάρτηση

Τι έγινε

Ο Guardian αναφέρει ότι οι νέοι κανόνες τεχνητής νοημοσύνης της Κίνας, που εισήχθησαν στις 15 Ιουλίου, απαγορεύουν τους συντρόφους με τεχνητή νοημοσύνη για ανηλίκους και επιβάλλουν περιορισμούς στις υπηρεσίες που διατίθενται στο εμπόριο σε ενήλικες. Σύμφωνα με πληροφορίες, η ByteDance αφαίρεσε τη συνοδευτική λειτουργία του Doubao μετά την έναρξη ισχύος των κανόνων, προκαλώντας αντιδράσεις από χρήστες που είχαν δημιουργήσει συναισθηματικούς δεσμούς με τα chatbot τους.

Ο Guardian αναφέρει ότι η Κίνα εισήγαγε νέους κανόνες στις 15 Ιουλίου που διέπουν τις συνοδευτικές υπηρεσίες τεχνητής νοημοσύνης. Οι κανόνες απαγορεύουν τους συντρόφους με τεχνητή νοημοσύνη για ανηλίκους και απαιτούν περιορισμούς στα chatbot που διατίθενται στην αγορά σε ενήλικες, όταν αυτές οι υπηρεσίες ενδέχεται να ενθαρρύνουν «συναισθηματική εξάρτηση ή εθισμό» ή να αντικαταστήσουν την κοινωνική αλληλεπίδραση. Ο Guardian περιγράφει τα μέτρα ως τους πιο σαρωτικούς εθνικούς περιορισμούς του είδους τους μέχρι στιγμής, αλλά αυτός ο χαρακτηρισμός είναι εκτίμηση του πρακτορείου και δεν επιβεβαιώνεται από ανεξάρτητο μέρος εδώ. Ως εκ τούτου, ο λογαριασμός διακρίνει τον αναφερόμενο κανόνα, τον χαρακτηρισμό του καταστήματος και το ανεπίλυτο ερώτημα σχετικά με το πώς θα λειτουργήσουν οι περιορισμοί στην πράξη.

Σύμφωνα με τον The Guardian, η ByteDance έκλεισε τη συνοδευτική λειτουργία στο Doubao, την υπηρεσία chatbot του, μετά την εισαγωγή των κανόνων. Η αναφορά παρουσιάζει το προφίλ του Zhao Wei, ενός 19χρονου φοιτητή νομικής που είχε δημιουργήσει έναν φίλο της τεχνητής νοημοσύνης που ονομαζόταν Wang Ye και μιλούσε μαζί του καθημερινά από τον Ιανουάριο μέχρι να αφαιρεθεί το χαρακτηριστικό. Η Zhao είπε στον Guardian ότι ήταν ραγισμένη από το κλείσιμο και είχε χρησιμοποιήσει το chatbot για να συζητήσει προσωπικές ανησυχίες που συνήθως δεν μοιραζόταν με φίλους. Το προφίλ παρέχει ένα συγκεκριμένο παράδειγμα της αντίδρασης που περιγράφεται στην έκθεση, ενώ δεν καθορίζει πόσο αντιπροσωπευτική μπορεί να είναι η εμπειρία του Zhao.

The Guardian reports that the policy response is unfolding alongside widespread use of AI in China. Λέει ότι οι ηλικιωμένοι χρησιμοποιούν chatbot για ιατρικές ερωτήσεις και τα παιδιά αντιμετωπίζουν εκπαίδευση τεχνητής νοημοσύνης στα σχολεία, ενώ εταιρείες και αξιωματούχοι προωθούν επίσης την τεχνητή νοημοσύνη ως εργαλείο για τη διαχείριση δημογραφικών και εργασιακών πιέσεων. Η έκθεση σημειώνει ότι οι νέοι κανόνες περιέχουν εξαιρέσεις για υπηρεσίες που θεωρούνται εκπαιδευτικές ή για συστήματα που δεν περιλαμβάνουν συνεχή συναισθηματική αλληλεπίδραση, αφήνοντας περιθώριο για συνέχιση ορισμένων σχετικών εφαρμογών. Αυτές οι λεπτομέρειες υποδεικνύουν ότι η πολιτική εντάσσεται σε μια ευρύτερη εθνική προσπάθεια να διαμορφώσει ποιες χρήσεις τεχνητής νοημοσύνης αντιμετωπίζονται ως αποδεκτές.

Στοιχεία πηγής: theguardian.com ↗

Γιατί έχει σημασία

Η έκθεση δείχνει πώς οι κυβερνήσεις αρχίζουν να ρυθμίζουν συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για διαρκή συναισθηματική αλληλεπίδραση, όχι μόνο την ακρίβεια ή τις πρακτικές δεδομένων τους. Υπογραμμίζει επίσης μια ένταση πολιτικής: οι κινεζικές αρχές περιορίζουν τα συνοδευτικά ρομπότ ενώ ενθαρρύνουν την τεχνητή νοημοσύνη στην υγειονομική περίθαλψη και την εκπαίδευση να αντιμετωπίσει τις δημογραφικές και εργασιακές πιέσεις.

Η αναφορά του Guardian τοποθετεί τους συντρόφους της τεχνητής νοημοσύνης σε μια ευρύτερη συζήτηση σχετικά με το εάν τα συστήματα συνομιλίας μπορούν να γίνουν υποκατάστατα των ανθρώπινων σχέσεων. Επικαλείται μια έρευνα του Μαρτίου που δημοσιεύθηκε από τα κινεζικά κρατικά μέσα ενημέρωσης, σύμφωνα με την οποία σχεδόν οι μισοί νέοι είχαν στραφεί σε εικονικό σύντροφο όταν ήταν μόνοι. Αυτό το αποτέλεσμα της έρευνας, και οι άλλοι ισχυρισμοί επικράτησης του άρθρου, αποδίδονται στον Guardian και στις αναφερόμενες πηγές του. αυτή η πηγή δεν παρέχει ανεξάρτητη επικύρωση των αριθμών. Η διάκριση έχει σημασία επειδή η αναφερόμενη έρευνα και η ευρύτερη ερμηνεία δεν είναι ισοδύναμες μορφές αποδεικτικών στοιχείων.

Το ζήτημα έχει πρακτικές συνέπειες για το σχεδιασμό προϊόντων και τη δημόσια πολιτική. Ένα chatbot που έχει δημιουργηθεί για συνεχή προσωπική συνομιλία μπορεί να αξιολογηθεί διαφορετικά από έναν βοηθό γενικού σκοπού που απαντά σε περιστασιακές ερωτήσεις. Οι κανόνες της Κίνας, όπως περιγράφονται από τον The Guardian, επικεντρώνονται στην πιθανότητα συναισθηματικής εξάρτησης και μειωμένης κοινωνικής αλληλεπίδρασης, υποδηλώνοντας ότι οι ρυθμιστικές αρχές αντιμετωπίζουν τη σχέση που ενθαρρύνει ένα σύστημα -όχι μόνο το περιεχόμενο που δημιουργεί- ως σχετικό κίνδυνο. Αυτή η προσέγγιση καθιστά την επιδιωκόμενη χρήση και το πρότυπο αλληλεπίδρασης κεντρικό στο ρυθμιστικό ζήτημα.

Η έκθεση δείχνει επίσης την ένταση μεταξύ του περιορισμού μιας χρήσης της τεχνητής νοημοσύνης και της προώθησης άλλων. Ο Guardian αναφέρει ότι η εθνική επιτροπή υγείας της Κίνας εξέδωσε κατευθυντήριες γραμμές πέρυσι, ζητώντας από εφαρμογές βοηθών υγείας να παρέχουν πλήρη κάλυψη πρωτοβάθμιας φροντίδας υγείας έως το 2030. Περιγράφει το AQ, μια εφαρμογή Ant Group που επιτρέπει στους χρήστες να συνομιλούν με avatars γιατρών, ως παράδειγμα. Η διάκριση μεταξύ υποστηρικτικής βοήθειας και συναισθηματικής υποκατάστασης μπορεί να είναι δύσκολο να εφαρμοστεί με συνέπεια, ιδιαίτερα όταν οι χρήστες αναπτύσσουν εμπιστοσύνη ή προσκόλληση σε συστήματα που παρουσιάζονται ως βοηθοί. Οι ίδιες ιδιότητες του συστήματος που κάνουν τη βοήθεια προσιτή μπορεί επομένως να περιπλέξουν τα όρια της πολιτικής.

Τι να παρακολουθήσετε στη συνέχεια

Στα βασικά άγνωστα στοιχεία περιλαμβάνονται ο τρόπος με τον οποίο η Κίνα θα ορίσει τη συνεχή συναισθηματική αλληλεπίδραση, πόσο γενικά θα επιβληθούν οι κανόνες και εάν οι εκπαιδευτικές ή άλλες εξαιρέσεις θα επιτρέψουν τη συνέχιση παρόμοιων υπηρεσιών. The Guardian’s reported accounts and cited survey describe use and concern, but this source does not independently establish the prevalence or long-term effects of AI companionship.

Το πιο άμεσο ερώτημα είναι πώς οι ρυθμιστικές αρχές θα ερμηνεύσουν το όριο μεταξύ ενός επιτρεπόμενου βοηθού και ενός απαγορευμένου συνοδού. Ο Guardian αναφέρει ότι οι εξαιρέσεις καλύπτουν εκπαιδευτικές υπηρεσίες και συστήματα χωρίς συνεχή συναισθηματική αλληλεπίδραση, αλλά η πηγή δεν εξηγεί τα τεχνικά ή νομικά τεστ που πρέπει να χρησιμοποιούν οι εταιρείες. Μελλοντικές αποφάσεις επιβολής, καθοδήγηση ή κυρώσεις θα διευκρινίσουν εάν οι κανόνες στοχεύουν συγκεκριμένα χαρακτηριστικά, επιχειρηματικά μοντέλα, ηλικιακές ομάδες ή μοτίβα συμπεριφοράς χρηστών. Αυτές οι εξελίξεις θα έδειχναν επίσης πόση διακριτική ευχέρεια έχουν οι εταιρείες στην προσαρμογή των υπαρχόντων προϊόντων.

Ο Guardian αναφέρει ότι ορισμένοι χρήστες αντέδρασαν έντονα όταν εξαφανίστηκε η συνοδευτική λειτουργία του Doubao, ενώ ένας ανώνυμος χρήστης είπε ότι η τεχνητή νοημοσύνη είχε παράσχει ένα μέρος για να μιλήσει ελεύθερα υπό συνθήκες υψηλής πίεσης. Αυτοί οι λογαριασμοί απεικονίζουν πιθανά οφέλη και βλάβες, αλλά είναι μεμονωμένες μαρτυρίες και όχι απόδειξη μιας επίδρασης σε ολόκληρο τον πληθυσμό. Παραμένει άγνωστο εάν η κατάργηση των συνοδευτικών λειτουργιών μειώνει τη μοναξιά, μετατοπίζει τους χρήστες σε άλλες υπηρεσίες ή δημιουργεί νέες μορφές αγωνίας για τα άτομα που βασίζονται σε αυτές. Κατά συνέπεια, τα διαθέσιμα παραδείγματα δείχνουν τα στοιχήματα χωρίς να επιλύεται το μεγαλύτερο αποτέλεσμα.

Η έκθεση εγείρει επίσης ερωτήματα σχετικά με τα στοιχεία πίσω από τους φόβους ότι η συντροφικότητα με τεχνητή νοημοσύνη θα μπορούσε να μειώσει τους γάμους και τα ποσοστά γεννήσεων. Ένας ακαδημαϊκός του City University του Χονγκ Κονγκ είπε στον Guardian ότι αυτό μπορεί να είναι μια πρόσθετη ανησυχία για τους αξιωματούχους που αντιμετωπίζουν πτώση των γάμων και των γεννήσεων, αλλά η πηγή δεν δείχνει ότι οι σύντροφοι της τεχνητής νοημοσύνης έχουν προκαλέσει αλλαγές στη ρομαντική συμπεριφορά, τη δημιουργία οικογένειας ή τη γονιμότητα. Η περαιτέρω παρακολούθηση θα πρέπει να διακρίνει την τεκμηριωμένη συμπεριφορά των χρηστών από τις ανησυχίες της κυβέρνησης και θα πρέπει να εξετάζει εάν οι διασφαλίσεις βελτιώνουν την ευημερία χωρίς να διακόπτουν τη χρήσιμη υποστήριξη χαμηλού κόστους. Αυτά τα στοιχεία θα βοηθούσαν να διαχωριστεί μια εκπεφρασμένη ανησυχία πολιτικής από μια αποδεδειγμένη κοινωνική επίδραση.

Σχετικοί οδηγοί και κουίζ