Konstytucyjna sztuczna inteligencja
Konstytucyjna sztuczna inteligencja to metoda Anthropic służąca do dopasowywania modeli przy użyciu pisemnego zestawu zasad – „konstytucji” – dlatego sztuczna inteligencja krytykuje i koryguje własne odpowiedzi, zamiast polegać wyłącznie na ludziach w zakresie oznaczania szkodliwych treści.
Przegląd
It aims to make models helpful and harmless with far less human labor.
Głębokie nurkowanie
Tradycyjne dopasowanie opiera się na uczeniu się przez wzmacnianie na podstawie informacji zwrotnych od ludzi (RLHF), podczas których ludzie oceniają wiele wyników modelu, w tym te niepokojące, aby nauczyć model, czego ma unikać. Konstytucyjna sztuczna inteligencja zmniejsza to obciążenie, nadając modelowi wyraźną listę spisanych zasad zaczerpniętych ze źródeł takich jak Deklaracja praw człowieka ONZ oraz najlepsze praktyki w zakresie zaufania i bezpieczeństwa. Szkolenie ma dwa etapy. Najpierw etap nadzorowany: model generuje reakcję, następnie krytykuje ją pod kątem zasady konstytucyjnej i przepisuje ją na lepszą; te samodoskonalące się odpowiedzi służą do jego udoskonalenia. Po drugie, etap uczenia się przez wzmacnianie, RLAIF, w którym sam model szereguje pary odpowiedzi zgodnie z konstytucją, a dane dotyczące preferencji wygenerowane przez sztuczną inteligencję trenują model nagrody. Zasady są przejrzyste i edytowalne, dzięki czemu wartości sterujące modelem można sprawdzić, a nie ukryć w nieprzejrzystych, ludzkich etykietach.
Wgląd techniczny
Te dwie fazy są często nazywane SL-CAI i RL-CAI. W uczeniu się nadzorowanym pętla „krytykuj i poprawiaj” skłania model do znalezienia miejsc, w których jego własna odpowiedź narusza próbkowaną zasadę, i przepisania jej, generując dane szkoleniowe bez etykietowania szkód dla ludzi. W fazie RL drugi model ocenia, która z dwóch reakcji jest lepiej zgodna z konstytucją, tworząc etykiety preferencji AI (RLAIF), które szkolą model nagrody stosowany w standardowym RL. Struktura to wskazówki w postaci zwykłego tekstu wstawiane do podpowiedzi, więc zmiana zachowania modelu może być tak bezpośrednia, jak edycja zasad.
Wpływ strategiczny
Szybkość i skala
Przepływy pracy związane z językiem mogą przebiegać szybciej bez utraty spójności.
Dostęp i zasięg
Rozszerza dostęp w różnych językach i stylach komunikacji.
Jaśniejsze decyzje
Zespoły mogą spędzać więcej czasu na ocenie, podczas gdy automatyzacja radzi sobie z powtarzalnością.
Przyszłość konstytucyjnej sztucznej inteligencji
Konstytucyjna sztuczna inteligencja wskazuje na „skalowalny nadzór”, w ramach którego sztuczna inteligencja pomaga nadzorować sztuczną inteligencję w miarę, jak modele stają się zbyt zdolne, aby ludzie mogli sprawdzić każdy wynik. Spodziewaj się bogatszych, bardziej zróżnicowanych konstytucji, publicznego i partycypacyjnego wkładu w wybór zasad (Anthropic przeprowadził eksperymenty dotyczące „zbiorowej konstytucyjnej sztucznej inteligencji”) oraz podejść hybrydowych łączących opinie ludzkie z samokrytyką sztucznej inteligencji. Przejrzystość spisanych zasad czyni je atrakcyjnymi dla organów regulacyjnych i audytorów, którzy chcą zobaczyć wartości kodowane przez system. W miarę rozwoju modeli pionierskich metody, które pozwalają modelom na wiarygodną krytykę i doskonalenie się w oparciu o wyraźne zasady, prawdopodobnie staną się kluczowe dla bezpieczeństwa.
Implementacja w świecie rzeczywistym
Szkolenie chatbota, aby odmówił pomocy w budowie broni, poprzez poproszenie go o krytykę własnego projektu odpowiedzi pod kątem zasady unikania szkód i przepisanie go
Zastąpienie kosztownego oznaczania toksycznych produktów przez czerwony zespół danymi preferencji generowanymi przez sztuczną inteligencję (RLAIF) zgodnie z konstytucją
Edytowanie pisemnej zasady w celu dostosowania ostrożności modelu, a następnie obserwowanie zmiany zachowania bez ponownego etykietowania tysięcy przykładów
Prowadzenie wspólnych ćwiczeń polegających na wkładaniu opinii publicznej, podczas których społeczeństwo proponuje zasady kształtujące konstytucję modelu
Zagrożenia i poręcze
Halucynacyjne fakty mogą po cichu trafiać do raportów, strumieni wsparcia lub wyników badań.
Szybka czułość może spowodować niespójne wyniki w przypadku podobnych żądań.
Wrażliwe dane tekstowe mogą zostać ujawnione, jeśli kontrola dostępu jest słaba.
Plan wdrożenia
Zdefiniuj format wyjściowy, ton i standardy jakości przed wdrożeniem.
Zawsze, gdy liczy się dokładność, korzystaj z zaufanych źródeł.
Utrzymuj punkt kontrolny weryfikacji ręcznej w przypadku wyników o wysokiej stawce.
Śledź wzorce niepowodzeń i regularnie powtarzaj monity lub przepływy pracy.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Instrukcja strojenia
Często zadawane pytania
What is Constitutional AI?
Konstytucyjna sztuczna inteligencja to metoda Anthropic służąca do dopasowywania modeli przy użyciu pisemnego zestawu zasad – „konstytucji” – dlatego sztuczna inteligencja krytykuje i koryguje własne odpowiedzi, zamiast polegać wyłącznie na ludziach w zakresie oznaczania szkodliwych treści. Ma na celu uczynienie modeli przydatnymi i nieszkodliwymi przy znacznie mniejszym nakładzie pracy ludzkiej.
Jaka jest „konstytucja” w konstytucyjnej sztucznej inteligencji?
Konstytucja to przejrzysty zbiór spisanych zasad, zaczerpniętych ze źródeł takich jak dokumenty dotyczące praw człowieka, które model wykorzystuje do oceny i udoskonalenia swoich rozwiązań.
Jaki kluczowy problem ze standardowym RLHF ma na celu zmniejszenie konstytucyjnej sztucznej inteligencji?
Zmuszając model do krytyki samego siebie w stosunku do zasad, konstytucyjna sztuczna inteligencja ogranicza ludzką pracę polegającą na przeglądaniu i etykietowaniu niepokojących lub szkodliwych wyników.
Co model robi z własnymi wynikami na nadzorowanym etapie konstytucyjnej sztucznej inteligencji?
Model wykorzystuje pętlę krytyki i rewizji: identyfikuje miejsca, w których jego wersja narusza próbkowaną zasadę, a następnie przepisuje odpowiedź, tworząc samodoskonalące się dane szkoleniowe.
Co oznacza RLAIF na etapie uczenia się przez wzmacnianie?
RLAIF oznacza uczenie się przez wzmacnianie na podstawie informacji zwrotnych AI: model szereguje odpowiedzi zgodnie z konstytucją, generując dane dotyczące preferencji generowane przez sztuczną inteligencję zamiast ludzkich etykiet.
Dlaczego stosowanie pisemnych zasad uważa się za zaletę przejrzystości?
Ponieważ wartości przewodnie są zapisane, można je bezpośrednio przeglądać, audytować i edytować, w przeciwieństwie do preferencji ukrytych w rozproszonych ocenach ludzkich.