Co się stało
gHacks donosi, że OpenAI uruchomił ChatGPT for Teens, wersję swojego chatbota przeznaczoną dla użytkowników w wieku od 13 do 17 lat. Zgłoszone doświadczenie obejmuje tryb nauki, przypomnienia o zadaniach domowych, quizy, wizualizacje, zaplanowane godziny nauki, filtry treści dostosowane do wieku i dodatkową kontrolę rodzicielską. gHacks twierdzi, że użytkownicy identyfikujący się jako nastolatki lub których system szacuje, że mają mniej niż 18 lat, są automatycznie umieszczani w środowisku nastolatków. Według doniesień OpenAI współpracuje z CodeAI nad zasobami w zakresie umiejętności korzystania z sztucznej inteligencji dla uczniów i nauczycieli. Wdrożenie, zabezpieczenia i wyniki testów zgłoszone przez firmę nie zostały niezależnie potwierdzone przez źródło.
Według gHacks firma OpenAI wprowadziła ChatGPT dla nastolatków dla użytkowników w wieku od 13 do 17 lat. Z raportu wynika, że system umieszcza ludzi w tej wersji, gdy oświadczą, że są w tym przedziale wiekowym lub gdy technologia przewidywania wieku OpenAI szacuje, że mają mniej niż 18 lat. To sprawia, że klasyfikacja wiekowa stanowi centralny element korzystania z produktu, a nie opcjonalne ustawienie, które rodziny muszą aktywować ręcznie. gHacks opisuje tę wersję jako kontynuację wcześniejszych wysiłków OpenAI obejmujących kontrolę rodzicielską, specyfikację modelu poniżej 18 lat i funkcje przewidywania wieku. Artykuł nie weryfikuje niezależnie wprowadzenia na rynek, nie wyjaśnia podstawowej metody szacowania wieku ani nie mówi, w jaki sposób użytkownicy mogą kwestionować nieprawidłową klasyfikację.
gHacks podaje, że doświadczenie nastolatków ma zachęcać do aktywnej nauki, a nie zapewniać natychmiastową odpowiedź na każde pytanie. Według doniesień tryb nauki wykorzystuje pytania i pomoc krok po kroku. Przypomnienia o zadaniach domowych mogą identyfikować próby skrócenia zadania i przekierować użytkownika do trybu nauki, natomiast quizy i wizualizacje mają na celu wspieranie ćwiczeń i powtórek. Według doniesień nastolatki lub rodzice mogą skonfigurować ustawienie godzin nauki, tak aby tryb nauki pozostawał aktywny w wybranych okresach. Źródło twierdzi, że OpenAI współpracował z nauczycielami, naukowcami i ekspertami w dziedzinie edukacji i opierał się na badaniach dotyczących aktywnego uczenia się i samodzielnego wyjaśniania. Mówi również, że wczesne testy firmowe wykazały poprawę wyników uczniów, ale nie dostarczają żadnej metodologii ani niezależnie odtworzonych wyników.
W raporcie opisano również partnerstwo w zakresie umiejętności korzystania z sztucznej inteligencji pomiędzy OpenAI i CodeAI dla uczniów i nauczycieli. gHacks twierdzi, że zasoby mają na celu wyjaśnienie, jak działa sztuczna inteligencja, jak z niej korzystać i jak kwestionować jej odpowiedzi, a nauczyciele kierują jej wykorzystaniem w klasie. W artykule cytuje dyrektora generalnego CodeAI, Karima Meghjiego, który stwierdził, że uczniowie powinni potrafić identyfikować błędy i wiedzieć, kiedy przestać ufać technologii. gHacks informuje ponadto, że domyślne zabezpieczenia nastolatków w OpenAI obejmują obszary obejmujące samookaleczenie, przemoc, zaburzenia odżywiania, niebezpieczne działania i treści dla dorosłych. Według doniesień rodzice posiadający połączone konta mogą ustawiać ciche godziny, zmieniać niektóre ustawienia i otrzymywać powiadomienia dotyczące bezpieczeństwa w określonych sytuacjach wysokiego ryzyka. Z raportu wynika, że dodawane są powiadomienia dotyczące zaburzeń odżywiania, a ich udostępnianie jest ograniczone i koncentruje się na przypadkach, w których wsparcie offline może mieć znaczenie.
Szczegóły źródła: ghacks.net ↗
Dlaczego to ma znaczenie
Wprowadzenie na rynek umieszcza specyficzne dla wieku zachowania związane z bezpieczeństwem i nauką bezpośrednio w głównym produkcie AI dla konsumentów. Jeśli zgłoszone funkcje będą działać zgodnie z oczekiwaniami, mogą zmienić sposób, w jaki nastolatki korzystają z ChatGPT do odrabiania zadań domowych, powtórek i ogólnej nauki, zapewniając jednocześnie rodzicom większą kontrolę nad ustawieniami konta i niektórymi powiadomieniami wysokiego ryzyka. Podejście to rodzi również praktyczne pytania dotyczące szacowania wieku, prywatności, fałszywych klasyfikacji, dostępności regionalnej oraz tego, czy filtry bezpieczeństwa mogą niezawodnie obsługiwać wrażliwe rozmowy. gHacks donosi, że OpenAI twierdzi, że wczesne testy w trybie nauki poprawiły wyniki uczniów, ale w artykule nie przedstawiono projektu badania, danych, wielkości efektu ani niezależnej walidacji.
Produkt ma istotne znaczenie, ponieważ traktuje nieletnich jako odrębną grupę użytkowników z różnymi ustawieniami domyślnymi, wzorcami interakcji i narzędziami nadzoru. Ogólny chatbot może odpowiadać na pytania z wielu tematów, ale konfiguracja zorientowana na nastolatków próbuje kształtować zarówno to, co będzie omawiane w systemie, jak i to, jak reaguje na zadania szkolne. Może to być przydatne dla rodzin i nauczycieli, którzy potrzebują pomocy bez ustawiania zastępowania odpowiedzi jako domyślnego. Daje także OpenAI bardziej widoczną odpowiedzialność za decyzje dotyczące klasyfikacji wiekowej, postępowania z wrażliwymi treściami i granicy pomiędzy poradnictwem edukacyjnym a bezpośrednim wykonywaniem zadań.
Zgłoszony projekt bezpieczeństwa uwzględnia zagrożenia, które są szczególnie istotne, gdy z chatbota korzystają młodsze osoby. gHacks twierdzi, że zaktualizowane wytyczne dla osób poniżej 18 roku życia wykraczają poza blokowanie seksualnych lub romantycznych odgrywania ról: system nie powinien także używać romantycznego języka, zachęcać do uzależnienia emocjonalnego ani sugerować, że ma uczucia lub świadomość. Ograniczenia te są istotne, ponieważ system konwersacyjny może sprawiać wrażenie osobistego, nawet jeśli jest jedynie oprogramowaniem. Z raportu wynika, że OpenAI dodaje przypomnienia o przesyłaniu poufnych zdjęć, wprowadzaniu dla nastolatków i dostosowywaniu, np. kolorów akcentów i wyboru głosu. Szczegóły te sugerują próbę personalizacji produktu przy jednoczesnym zachowaniu rozróżnienia między narzędziem a osobą, chociaż źródło nie dostarcza niezależnych testów tego rozróżnienia w praktyce.
Twierdzenia edukacyjne wymagają dokładnej analizy. gHacks podaje, że wczesne testy OpenAI wykazały poprawę wyników uczniów, ale artykuł nie identyfikuje uczestników, grup porównawczych, zadań, czasu trwania ani wyników. Bez tych szczegółów czytelnicy nie będą w stanie określić, czy zgłoszone korzyści odzwierciedlają lepsze zrozumienie, większą wytrwałość, znajomość testu lub inne czynniki. To samo ograniczenie dotyczy twierdzeń dotyczących bezpieczeństwa: źródło twierdzi, że OpenAI udostępnia oceny osób poniżej 18 roku życia na kartach systemowych, ale nie podaje wyników ocen. Wartość publiczna wprowadzenia na rynek będzie zależeć nie tylko od istnienia filtrów i kontroli, ale także od przejrzystych dowodów na temat częstotliwości ich niepowodzenia, sposobu obsługi błędów i tego, czy rodziny rozumieją decyzje systemu.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
What is a common training objective for an autoregressive language model?
Co obejrzeć dalej
Kluczowymi kwestiami są zakres wdrożenia, dokładność zapewnienia wieku, ochrona prywatności oraz dowody na to, że funkcje badania poprawiają proces uczenia się, a nie tylko spowalniają udzielanie odpowiedzi. Obejrzyj oceny kart systemowych OpenAI dla nastolatków, jaśniejsze objaśnienia powiadomień dla rodziców oraz informacje o tym, jak można skorygować błędne szacunki wieku. Ważne będzie również sprawdzenie, czy nauczyciele i rodzice potrafią w znaczący sposób skonfigurować doświadczenie, jak zabezpieczenia sprawdzają się w rzeczywistych rozmowach dotyczących samookaleczenia lub zaburzeń odżywiania oraz czy zasoby edukacyjne CodeAI są szeroko dostępne. Raport nie określa harmonogramu uruchomienia dla konkretnych regionów ani pełnego zestawu kontroli dostępnych dla rodzin.
Pierwszym praktycznym pytaniem jest dostępność. gHacks informuje, że OpenAI nie powiedział, kiedy wdrożenie dotrze do określonych regionów. Nie jest jasne, którzy nastolatkowie mogą teraz korzystać z produktu, czy dostęp różni się w zależności od kraju i czy niektóre funkcje zależą od lokalnych przepisów lub konfiguracji kont. Raport nie wyjaśnia również, w jaki sposób serwis traktuje użytkowników, których wiek jest nieznany, kwestionowany lub błędnie oszacowany. Ponieważ automatyczne umieszczanie jest częścią zgłaszanego projektu, procedury poprawiania i odwołań będą ważne zarówno dla nieletnich, jak i dorosłych, którzy błędnie zostali umieszczeni w środowisku nastolatków.
Następną kwestią jest to, czy nadzór rodzicielski ma sens i nie przeradza się w nadmierną inwigilację. gHacks twierdzi, że połączeni rodzice mogą dostosować niektóre ustawienia i otrzymywać powiadomienia w niektórych przypadkach wysokiego ryzyka, podczas gdy OpenAI ogranicza udostępnianie informacji w związku z zaburzeniami odżywiania. Źródło nie określa, które zdarzenia wyzwalają powiadomienia, jakie informacje otrzymują rodzice, jak długo są one przechowywane ani czy nastolatki są informowane o wysłaniu powiadomienia. Od tych szczegółów zależy, czy narzędzia będą w odpowiednim czasie zapewniać pomoc offline, szanując jednocześnie prywatność młodej osoby. Niezależny przegląd powinien zbadać fałszywe alarmy, pominięte ryzyko i wpływ powiadomień na zaufanie między nastolatkami a opiekunami.
Na koniec należy zwrócić uwagę na dowody pochodzące z ocen kart systemowych dla dzieci poniżej 18 roku życia oraz z niezależnych ocen przeprowadzonych przez pedagogów, specjalistów ds. rozwoju dzieci i badaczy bezpieczeństwa. gHacks twierdzi, że OpenAI planuje udostępnić więcej informacji na temat ocen dotyczących samookaleczeń, zaburzeń odżywiania, przemocy, towarów objętych ograniczeniami wiekowymi i treści seksualnych, ale raport nie zawiera wyników. W przyszłych raportach należy sprawdzić, czy tryb nauki konsekwentnie sprzyja rozumowaniu, czy przypomnienia o zadaniach domowych prawidłowo odróżniają uzasadnioną pomoc od prób korzystania ze skrótów i czy quizy lub wizualizacje poprawiają zapamiętywanie. Partnerstwo CodeAI należy także oceniać pod kątem dostępności i przydatności jego zasobów, a nie samego ogłoszenia o partnerstwie. Dopóki dowody nie będą dostępne, wprowadzenie na rynek należy rozumieć jako znaczącą zmianę produktu powodującą nierozwiązane ważne pytania.