Kvíz spojený s průvodcem · Střední úroveň
Ústavní kvíz AI
Projděte si původní fáze školení AI podle ústavy s písemnými principy, kritikou a revizí, preferencemi AI a zachovanými údaji o lidské pomoci.
Otázka 1 z 8
Co je to „ústava“ v ústavní AI?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co je to „ústava“ v ústavní AI?
- Právní smlouva mezi uživatelem a společností
- Architektura neuronové sítě modelu
- Explicitní písemný soubor principů, které model používá ke kritice a vedení svých vlastních reakcí
- Seznam zakázaných slovíček
- Jakou anotační zátěž má původní ústavní studie AI snížit?
- Všechny možné zdroje lidského posouzení nebo trénovacích dat
- Veškerá paměť modelu během inference
- Nutnost vyhodnocovat jakékoli chování modelu
- Závislost na lidských označeních identifikujících Å¡kodlivé výstupy
- Co dělá model v kontrolované fázi ústavní umělé inteligence se svým vlastním výstupem?
- Smaže to bez vysvětlení
- Kritizuje to proti principu a pak to reviduje, aby bylo lepší
- Přeloží to do jiného jazyka
- Pro jistotu to zašifruje
- Co znamená RLAIF ve fázi posilování-učení?
- Posílení Učení ze zpětné vazby AI
- Rekurzivní učení mezi vnitřními funkcemi
- Rámec umělé inteligence se sníženou latencí
- Náhodné přiřazení štítků v jemném ladění
- Jaké výhody transparentnosti mohou poskytnout psané ústavní zásady?
- Úplné zobrazení každé naučené vnitřní preference
- Důkaz, že každá budoucí odpověď dodržuje všechny principy
- Automatické odstranění preferenčního modelu
- Kontrolovatelné prohlášení o zamýšleném vedení použitém v procesu
- Kterou vūtší výzkumnou myšlenku podporuje využití dozoru generovaného umělou inteligencí?
- Eliminace každého vyhodnocení z definice
- Prozkoumání toho, jak může AI pomoci dohlížet na jiné systémy AI
- Zajištění nulovéch nákladů pro veškerý budoucí trénink
- Automatické zvýšení slovní zásoby každého modelu
- Mění samotné upravení dokumentu s ústavou zpětně váhy již uloženého natrénovaného modelu?
- Ne; trénovací proces nebo běh musí použít zmněněné pokyny
- Ano; všechny uložené kontrolní body se okamžitě přepíšou
- Ano; psaná slova se přímo stanou novými neurónovými váhami bez provedení
- Žádný proces modelu nemůže nikdy zpracovávat psané principy
- Která lidská srovnávací data si původní experimenty s ústavní AI RL ponechala vedle preferencí neškodnosti AI?
- Pouze měření teploty GPU lidmi
- Žádná lidská srovnávací data jakéhokoliv druhu
- Lidská srovnání užitečnosti
- Povinné lidské označení pro každý pár neškodnosti