Inteligența generală artificială
Inteligența generală artificială (AGI) se referă la sistemele AI cu competențe largi, la nivel uman (sau mai mare) în majoritatea sarcinilor cognitive - nu doar la o abilitate restrânsă, cum ar fi traducerea sau etichetarea imaginilor.
Scufundare în profunzime
Nu există o definiție unică a AGI. Unii oameni înseamnă „se potrivește cu profesioniștii umani medii în majoritatea activităților de cunoaștere”, alții înseamnă „pot automatiza majoritatea sarcinilor valoroase din punct de vedere economic”, iar alții își rezervă termenul pentru sistemele care se pot îmbunătăți sau depășesc umanitatea în știință și strategie. Definiția contează, deoarece politica, investițiile și planificarea siguranței depind toate de momentul în care crezi că astfel de sisteme ajung și de ce pot face. Modelele lingvistice mari actuale nu sunt AGI după definiții stricte, dar ele arată deja o competență largă și o îmbunătățire rapidă - motiv pentru care cronologia este contestată și de ce cercetătorii de risc existențial tratează AGI (și sistemele dincolo de acesta) ca o problemă de planificare reală, mai degrabă decât știință ficțiune. Dacă sistemele la nivel AGI pot acționa cu o supraveghere limitată, problemele de aliniere și control încetează să fie academice.
Perspectivă tehnică
Progresul către o competență mai largă a venit în mare parte din scalarea datelor, calculului și algoritmilor; de la post-antrenament care face modelele mai utilizabile; și de la instrumente/agenți care lasă modelele să acționeze în lume. Rămân lacune în agenția de încredere pe orizont lung, modelele lumii bazate și veridicitatea consecventă. Întrebările relevante pentru siguranță includ: ce capabilități apar brusc, dacă evaluările le detectează și dacă laboratoarele pot întrerupe sau pot opri implementarea atunci când riscul crește.
Impact strategic
Risc și siguranță
Daunele catastrofale și cotidiene ale IA depind de cine înțelege riscurile și cine poate acționa.
Decizii mai clare
Educația publică și profesională influențează dacă o politică puternică de siguranță este posibilă din punct de vedere politic.
Tăierea hype-ului
Explicațiile clare reduc captarea de hype, PR de laborator și teatrul vag de etică.
Viitorul inteligenței generale artificiale
Așteptați-vă la o dezbatere continuă cu privire la termene, un interes sporit al guvernului pentru cursele de antrenament de frontieră și presiunea de a defini praguri de capacitate măsurabile. Pentru public, rezultatul util nu este un an precis - este că direcția de deplasare este către sisteme mai generale, mai autonome și că munca de siguranță trebuie să rămână în fruntea acestei curbe.
Implementare în lumea reală
Urmărirea modului în care modelele de frontieră se extind de la chat la codificare, asistență pentru cercetare și utilizarea instrumentelor în mai mulți pași.
Comparând definițiile publice ale AGI ale laboratoarelor și pragurile pe care acestea susțin că contează pentru politica de siguranță.
Planificarea pentru impactul economic și de securitate dacă sistemele pot înlocui clase mari de muncă cognitivă la distanță.
Riscuri și balustrade
Tratarea riscului existențial ca SF în timp ce capacitatea se agravează.
Confuză siguranța produsului de suprafață cu alinierea sub autonomie ridicată.
Lăsând audiențe non-engleze și neexperte doar surse de calitate scăzută.
Foaia de parcurs de implementare
Separați riscurile de deteriorare a produsului, utilizare greșită și pierderea controlului / dezaliniere.
Întrebați ce dovezi v-ar schimba punctul de vedere cu privire la termene și severitate.
Preferați sursele primare și evaluările concrete față de afirmațiile de marketing.
Identificați o singură cale de acțiune: carieră, politică, finanțare sau abilități - nu numai conștientizare.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Următorul ghid
Apple Informații
Întrebări frecvente
What is Artificial General Intelligence?
Inteligența generală artificială (AGI) se referă la sistemele AI cu competențe largi, la nivel uman (sau mai mare) în majoritatea sarcinilor cognitive - nu doar la o abilitate restrânsă, cum ar fi traducerea sau etichetarea imaginilor.
Când comparăm inteligența generală artificială cu alternative, care este cea mai utilă abordare?
Adevăratele dvs. sarcini sunt testul corect - popularitatea și noutatea sunt semnale slabe atunci când alegeți dacă Inteligența Generală Artificială se potrivește.
Care este cel mai bun răspuns când Inteligența Generală Artificială face o greșeală în producție?
Tratând fiecare eșec al Inteligenței generale artificiale ca pe o șansă de a consolida garanțiile este modul în care se îmbunătățește fiabilitatea.
Pe măsură ce utilizarea inteligenței generale artificiale se extinde în cadrul unei organizații, ce tinde să conteze cel mai mult?
La scară, Inteligența Generală Artificială are nevoie de monitorizare și guvernare continuă, deoarece condițiile și riscurile evoluează.
Când începeți să învățați despre Inteligența Generală Artificială, care este cea mai utilă mentalitate?
Înțelegerea reală a inteligenței generale artificiale înseamnă cunoașterea punctelor sale forte, a modurilor de eșec și a modului de verificare a rezultatelor - nu doar o definiție pe o singură linie.
Care este cel mai precis mod de a descrie ceea ce poate face Inteligența Generală Artificială astăzi?
O viziune echilibrată recunoaște că inteligența generală artificială este valoroasă pentru sarcini adecvate, dar necesită totuși îngrijire.