Sztuczna inteligencja ogólna
Sztuczna inteligencja ogólna (AGI) odnosi się do systemów sztucznej inteligencji posiadających szerokie kompetencje na poziomie ludzkim (lub wyższym) w zakresie większości zadań poznawczych – a nie tylko jedną wąską umiejętność, taką jak tłumaczenie lub etykietowanie obrazów.
Głębokie nurkowanie
Nie ma jednej uzgodnionej definicji AGI. Niektórzy mają na myśli „dopasowuje się do średniej liczby profesjonalistów w większości prac związanych z wiedzą”, inni mają na myśli „mogą zautomatyzować większość ekonomicznie wartościowych zadań”, a jeszcze inni rezerwują ten termin dla systemów, które mogą same się udoskonalić lub wyprzedzić ludzkość w nauce i strategii. Definicja ma znaczenie, ponieważ polityka, inwestycje i planowanie bezpieczeństwa zależą od tego, kiedy według ciebie takie systemy zostaną dostarczone i co mogą zrobić. Obecne modele dużych języków nie są AGI według ścisłych definicji, ale już wykazują szerokie kompetencje i szybką poprawę — dlatego kwestionuje się ramy czasowe i dlatego badacze ryzyka egzystencjalnego traktują AGI (i systemy poza nim) jako problem planowania na żywo, a nie science fiction. Jeśli systemy na poziomie AGI mogą działać pod ograniczonym nadzorem, problemy z dopasowaniem i kontrolą przestają być akademickie.
Wgląd techniczny
Postęp w kierunku szerszych kompetencji nastąpił w dużej mierze dzięki skalowaniu danych, obliczeń i algorytmów; z postszkolenia, które czyni modele bardziej użytecznymi; oraz od narzędzi/agentów, które pozwalają modelom działać w świecie. Pozostają luki w zakresie niezawodnej, długoterminowej agencji, ugruntowanych modeli świata i konsekwentnej prawdomówności. Pytania związane z bezpieczeństwem obejmują: jakie możliwości pojawiają się nagle, czy oceny je wykrywają i czy laboratoria mogą wstrzymać lub wznowić wdrażanie, gdy wzrasta ryzyko.
Wpływ strategiczny
Ryzyko i bezpieczeństwo
Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
Jaśniejsze decyzje
Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
Przebijanie się przez szum
Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Przyszłość sztucznej inteligencji ogólnej
Można się spodziewać ciągłej debaty na temat harmonogramów, większego zainteresowania rządu odgranicznymi szkoleniami i presji na zdefiniowanie mierzalnych progów zdolności. Dla opinii publicznej użytecznym wnioskiem nie jest dokładny rok – chodzi o to, że kierunek podróży zmierza w stronę bardziej ogólnych, bardziej autonomicznych systemów i że prace nad bezpieczeństwem muszą wyprzedzać ten trend.
Implementacja w świecie rzeczywistym
Śledzenie, jak modele pionierskie rozwijają się od czatu do kodowania, pomocy badawczej i wieloetapowego użycia narzędzi.
Porównanie publicznych definicji AGI stosowanych przez laboratoria i wartości progowych, które według nich mają znaczenie dla polityki bezpieczeństwa.
Planowanie wpływu na gospodarkę i bezpieczeństwo, jeśli systemy będą w stanie zastąpić duże klasy zdalnej pracy poznawczej.
Zagrożenia i poręcze
Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Plan wdrożenia
Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Inteligencja Apple
Często zadawane pytania
What is Artificial General Intelligence?
Sztuczna inteligencja ogólna (AGI) odnosi się do systemów sztucznej inteligencji posiadających szerokie kompetencje na poziomie ludzkim (lub wyższym) w zakresie większości zadań poznawczych – a nie tylko jedną wąską umiejętność, taką jak tłumaczenie lub etykietowanie obrazów.
Jakie podejście jest najbardziej przydatne, porównując sztuczną inteligencję ogólną z alternatywami?
Twoje prawdziwe zadania są sprawiedliwym testem — popularność i nowość to słabe sygnały przy podejmowaniu decyzji, czy sztuczna inteligencja ogólna pasuje.
Jaka jest najlepsza reakcja, gdy sztuczna inteligencja ogólna popełni błąd w produkcji?
Traktowanie każdej awarii sztucznej inteligencji ogólnej jako szansy na wzmocnienie zabezpieczeń jest sposobem na poprawę niezawodności.
Co ma największe znaczenie w miarę zwiększania się wykorzystania sztucznej inteligencji ogólnej w całej organizacji?
Na dużą skalę sztuczna inteligencja ogólna wymaga ciągłego monitorowania i zarządzania, ponieważ warunki i ryzyko ewoluują.
Kiedy po raz pierwszy zaczynasz uczyć się o sztucznej inteligencji ogólnej, jaki jest najbardziej przydatny sposób myślenia?
Prawdziwe zrozumienie sztucznej inteligencji ogólnej oznacza znajomość jej mocnych stron, trybów awarii i sposobów weryfikacji wyników – a nie tylko jednowierszową definicję.
Jak najdokładniej opisać, co może dziś zrobić sztuczna inteligencja ogólna?
Zrównoważony pogląd uznaje, że sztuczna inteligencja ogólna jest cenna do odpowiednich zadań, ale nadal wymaga opieki.