Umělá obecná inteligence
Umělá všeobecná inteligence (AGI) označuje systémy umělé inteligence se širokou kompetencí na lidské úrovni (nebo vyšší) pro většinu kognitivních úkolů – nejen s jednou úzkou dovedností, jako je překlad nebo označování obrázků.
Přehled
Umělá všeobecná inteligence (AGI) označuje systémy umělé inteligence se širokou kompetencí na lidské úrovni (nebo vyšší) pro většinu kognitivních úkolů – nejen s jednou úzkou dovedností, jako je překlad nebo označování obrázků.
Umělá všeobecná inteligence stojí na průsečíku schopností, moci a veřejné volby – kde bezpečnost, řízení a legitimita rozhodují o tom, zda pokročilá umělá inteligence ve velkém pomůže nebo škodí.
Hluboký ponor
Neexistuje žádná jednotná dohodnutá definice AGI. Někteří lidé míní „odpovídá mediánu lidských profesionálů ve většině znalostní práce“, jiní znamenají „dokážou automatizovat většinu ekonomicky cenných úkolů“ a jiní si tento termín vyhrazují pro systémy, které se mohou samy zlepšit nebo předběhnout lidstvo napříč vědou a strategií. Na definici záleží, protože politika, investice a bezpečnostní plánování závisí na tom, kdy si myslíte, že takové systémy dorazí a co dokážou udělat. Současné velké jazykové modely nejsou podle přísných definic AGI, ale již vykazují širokou kompetenci a rychlé zlepšení – proto jsou časové osy sporné a proč výzkumníci existenciálních rizik považují AGI (a systémy za ním) za problém živého plánování spíše než sci-fi. Pokud mohou systémy na úrovni AGI jednat s omezeným dohledem, problémy se zarovnáním a kontrolou přestanou být akademické.
Technický přehled
Pokrok směrem k širší kompetenci přišel z velké části ze škálování dat, výpočtů a algoritmů; z následného školení, díky kterému jsou modely použitelnější; a od nástrojů/agentů, které umožňují modelům jednat ve světě. Mezery zůstávají ve spolehlivé agentuře s dlouhým horizontem, ukotvených světových modelech a konzistentní pravdivosti. Otázky související s bezpečností zahrnují: které schopnosti se objeví náhle, zda je hodnocení detekují a zda mohou laboratoře pozastavit nebo uhradit nasazení, když riziko vzroste.
Zvládnutí umělé obecné inteligence
Chcete-li vybudovat hluboké porozumění, zacházejte s umělou obecnou inteligencí jako s provozním modelem, nikoli s jedinou funkcí. Definujte požadované výsledky, vyjasněte předpoklady a oddělte to, co systém dokáže spolehlivě, od toho, co stále vyžaduje odborný úsudek.
V praxi silné týmy využívající umělou obecnou inteligenci spojují růst schopností se strukturami správy, bezpečnosti a jasné odpovědnosti. Dokumentují explicitní kritéria úspěšnosti, testují s realistickými daty a pracovními postupy a opakují se na základě pozorovaných vzorců selhání spíše než jednorázových výher v benchmarku. Zde se teoretické porozumění mění v trvalé schopnosti napříč produktem, politikou a provozem.
Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat. Ve stejné době, zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti sloučeniny. Nejodolnějším přístupem je kombinovat rychlost experimentování s disciplínou správy: spouštějte pilotní projekty, zachycujte důkazy, publikujte protokoly rozhodnutí a průběžně aktualizujte zabezpečení podle toho, jak se vyvíjí chování modelu, očekávání uživatelů a regulační požadavky.
Strategický dopad
Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat. Ve vysoce kvalitních nasazeních se to promítá do měřitelných provozních pravidel, hranic vlastnictví a opakujících se rituálů kontroly, takže týmy mohou škálovat důvěru namísto škálování nejednoznačnosti.
Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná. Ve vysoce kvalitních nasazeních se to promítá do měřitelných provozních pravidel, hranic vlastnictví a opakujících se rituálů kontroly, takže týmy mohou škálovat důvěru namísto škálování nejednoznačnosti.
Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.
Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo. Ve vysoce kvalitních nasazeních se to promítá do měřitelných provozních pravidel, hranic vlastnictví a opakujících se rituálů kontroly, takže týmy mohou škálovat důvěru namísto škálování nejednoznačnosti.
Real-World Implementace
Sledování toho, jak se hraniční modely rozšiřují z chatu na kódování, pomoc při výzkumu a vícestupňové používání nástrojů.
Porovnání veřejných definic AGI v laboratořích a prahových hodnot, které uvádějí, jsou důležité pro bezpečnostní politiku.
Plánování ekonomických a bezpečnostních dopadů, pokud systémy mohou nahradit velké třídy vzdálené kognitivní práce.
Budování opakovatelného pracovního postupu umělé obecné inteligence s explicitními kritérii úspěchu a kontrolními body lidské kontroly.
Implementační vzory
Umělá obecná inteligence v praxi
Sledování toho, jak se hraniční modely rozšiřují z chatu na kódování, pomoc při výzkumu a vícestupňové používání nástrojů.
Týmy obvykle dosahují lepších výsledků, když předem definují prahové hodnoty kvality, udržují cestu lidské eskalace pro okrajové případy a sledují jak nárůsty produktivity, tak náklady na chyby v průběhu času.
Umělá obecná inteligence v praxi
Porovnání veřejných definic AGI v laboratořích a prahových hodnot, které uvádějí, jsou důležité pro bezpečnostní politiku.
Týmy obvykle dosahují lepších výsledků, když předem definují prahové hodnoty kvality, udržují cestu lidské eskalace pro okrajové případy a sledují jak nárůsty produktivity, tak náklady na chyby v průběhu času.
Umělá obecná inteligence v praxi
Plánování ekonomických a bezpečnostních dopadů, pokud systémy mohou nahradit velké třídy vzdálené kognitivní práce.
Týmy obvykle dosahují lepších výsledků, když předem definují prahové hodnoty kvality, udržují cestu lidské eskalace pro okrajové případy a sledují jak nárůsty produktivity, tak náklady na chyby v průběhu času.
Umělá obecná inteligence v praxi
Budování opakovatelného pracovního postupu umělé obecné inteligence s explicitními kritérii úspěchu a kontrolními body lidské kontroly.
Týmy obvykle dosahují lepších výsledků, když předem definují prahové hodnoty kvality, udržují cestu lidské eskalace pro okrajové případy a sledují jak nárůsty produktivity, tak náklady na chyby v průběhu času.
Rizika a zábradlí
Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.
Plán implementace
Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
Považujte to za důkazní bránu: pokud nejsou splněna kritéria, pozastavte zavádění, zavřete mezeru a teprve poté rozšiřte využití.
Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
Považujte to za důkazní bránu: pokud nejsou splněna kritéria, pozastavte zavádění, zavřete mezeru a teprve poté rozšiřte využití.
Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
Považujte to za důkazní bránu: pokud nejsou splněna kritéria, pozastavte zavádění, zavřete mezeru a teprve poté rozšiřte využití.
Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.
Považujte to za důkazní bránu: pokud nejsou splněna kritéria, pozastavte zavádění, zavřete mezeru a teprve poté rozšiřte využití.
Pokračujte v objevování
Check your understanding
Test yourself: take the Artificial General Intelligence quiz