Inteligența generală artificială
Inteligența generală artificială (AGI) se referă la sistemele AI cu competențe largi, la nivel uman (sau mai mare) în majoritatea sarcinilor cognitive - nu doar la o abilitate restrânsă, cum ar fi traducerea sau etichetarea imaginilor.
Prezentare generală
Inteligența generală artificială (AGI) se referă la sistemele AI cu competențe largi, la nivel uman (sau mai mare) în majoritatea sarcinilor cognitive - nu doar la o abilitate restrânsă, cum ar fi traducerea sau etichetarea imaginilor.
Inteligența generală artificială se află la intersecția capacității, puterii și alegerii publice – unde siguranța, guvernanța și legitimitatea decid dacă AI avansată ajută sau dăunează la scară.
Deep Dive
Nu există o definiție unică a AGI. Unii oameni înseamnă „se potrivește cu profesioniștii umani medii în majoritatea activităților de cunoaștere”, alții înseamnă „pot automatiza majoritatea sarcinilor valoroase din punct de vedere economic”, iar alții își rezervă termenul pentru sistemele care se pot îmbunătăți sau depășesc umanitatea în știință și strategie. Definiția contează, deoarece politica, investițiile și planificarea siguranței depind toate de momentul în care crezi că astfel de sisteme ajung și de ce pot face. Modelele lingvistice mari actuale nu sunt AGI după definiții stricte, dar ele arată deja o competență largă și o îmbunătățire rapidă - motiv pentru care cronologia este contestată și de ce cercetătorii de risc existențial tratează AGI (și sistemele dincolo de acesta) ca o problemă de planificare reală, mai degrabă decât știință ficțiune. Dacă sistemele la nivel AGI pot acționa cu o supraveghere limitată, problemele de aliniere și control încetează să fie academice.
Perspectivă tehnică
Progresul către o competență mai largă a venit în mare parte din scalarea datelor, calculului și algoritmilor; de la post-antrenament care face modelele mai utilizabile; și de la instrumente/agenți care lasă modelele să acționeze în lume. Rămân lacune în agenția de încredere pe orizont lung, modelele lumii bazate și veridicitatea consecventă. Întrebările relevante pentru siguranță includ: ce capabilități apar brusc, dacă evaluările le detectează și dacă laboratoarele pot întrerupe sau pot opri implementarea atunci când riscul crește.
Stăpânirea Inteligenței Generale Artificiale
Pentru a construi o înțelegere profundă, tratați Inteligența Generală Artificială ca un model de operare, nu o singură caracteristică. Definiți rezultatele dorite, clarificați ipotezele și separați ceea ce poate face sistemul în mod fiabil de ceea ce necesită încă o judecată expertă.
În practică, echipele puternice care utilizează inteligența generală artificială îmbină creșterea capacităților cu guvernanța, siguranța și structurile clare de responsabilitate. Aceștia documentează criteriile de succes explicite, testează în funcție de date și fluxuri de lucru realiste și repetă pe baza modelelor de eșec observate, mai degrabă decât a câștigurilor de referință unice. Aici înțelegerea teoretică se transformă în capacitate durabilă pentru produse, politici și operațiuni.
Daunele catastrofale și cotidiene ale IA depind de cine înțelege riscurile și cine poate acționa. În același timp, tratarea riscului existențial ca SF în timp ce capacitatea crește. Cea mai rezistentă abordare este combinarea vitezei de experimentare cu disciplina de guvernare: desfășurați pilot, capturați dovezi, publicați jurnalele de decizie și actualizați continuu măsurile de protecție pe măsură ce comportamentul modelului, așteptările utilizatorilor și cerințele de reglementare evoluează.
Impact strategic
Daunele catastrofale și cotidiene ale IA depind de cine înțelege riscurile și cine poate acționa.
Daunele catastrofale și cotidiene ale IA depind de cine înțelege riscurile și cine poate acționa. În implementările de înaltă calitate, acest lucru se traduce în reguli de operare măsurabile, limite de proprietate și ritualuri de revizuire recurente, astfel încât echipele să poată mări încrederea în loc să crească ambiguitatea.
Educația publică și profesională influențează dacă o politică puternică de siguranță este posibilă din punct de vedere politic.
Educația publică și profesională influențează dacă o politică puternică de siguranță este posibilă din punct de vedere politic. În implementările de înaltă calitate, acest lucru se traduce în reguli de operare măsurabile, limite de proprietate și ritualuri de revizuire recurente, astfel încât echipele să poată mări încrederea în loc să crească ambiguitatea.
Explicațiile clare reduc captarea de hype, PR de laborator și teatrul vag de etică.
Explicațiile clare reduc captarea de hype, PR de laborator și teatrul vag de etică. În implementările de înaltă calitate, acest lucru se traduce în reguli de operare măsurabile, limite de proprietate și ritualuri de revizuire recurente, astfel încât echipele să poată mări încrederea în loc să crească ambiguitatea.
Implementare în lumea reală
Urmărirea modului în care modelele de frontieră se extind de la chat la codificare, asistență pentru cercetare și utilizarea instrumentelor în mai mulți pași.
Comparând definițiile publice ale AGI ale laboratoarelor și pragurile pe care acestea susțin că contează pentru politica de siguranță.
Planificarea pentru impactul economic și de securitate dacă sistemele pot înlocui clase mari de muncă cognitivă la distanță.
Crearea unui flux de lucru repetabil de inteligență generală artificială, cu criterii de succes explicite și puncte de control umane.
Modele de implementare
Inteligența generală artificială în practică
Urmărirea modului în care modelele de frontieră se extind de la chat la codificare, asistență pentru cercetare și utilizarea instrumentelor în mai mulți pași.
Echipele obțin de obicei rezultate mai bune atunci când definesc pragurile de calitate în avans, păstrează o cale de escaladare umană pentru cazurile marginale și urmăresc atât câștigurile de productivitate, cât și costurile de eroare în timp.
Inteligența generală artificială în practică
Comparând definițiile publice ale AGI ale laboratoarelor și pragurile pe care acestea susțin că contează pentru politica de siguranță.
Echipele obțin de obicei rezultate mai bune atunci când definesc pragurile de calitate în avans, păstrează o cale de escaladare umană pentru cazurile marginale și urmăresc atât câștigurile de productivitate, cât și costurile de eroare în timp.
Inteligența generală artificială în practică
Planificarea pentru impactul economic și de securitate dacă sistemele pot înlocui clase mari de muncă cognitivă la distanță.
Echipele obțin de obicei rezultate mai bune atunci când definesc pragurile de calitate în avans, păstrează o cale de escaladare umană pentru cazurile marginale și urmăresc atât câștigurile de productivitate, cât și costurile de eroare în timp.
Inteligența generală artificială în practică
Crearea unui flux de lucru repetabil de inteligență generală artificială, cu criterii de succes explicite și puncte de control umane.
Echipele obțin de obicei rezultate mai bune atunci când definesc pragurile de calitate în avans, păstrează o cale de escaladare umană pentru cazurile marginale și urmăresc atât câștigurile de productivitate, cât și costurile de eroare în timp.
Riscuri și balustrade
Tratarea riscului existențial ca SF în timp ce capacitatea se agravează.
Confuză siguranța produsului de suprafață cu alinierea sub autonomie ridicată.
Lăsând audiențe non-engleze și neexperte doar surse de calitate scăzută.
Foaia de parcurs de implementare
Separați riscurile de deteriorare a produsului, utilizare greșită și pierderea controlului / dezaliniere.
Tratați acest lucru ca pe o poartă de dovezi: dacă criteriile nu sunt îndeplinite, întrerupeți lansarea, închideți decalajul și abia apoi extindeți utilizarea.
Întrebați ce dovezi v-ar schimba punctul de vedere cu privire la termene și severitate.
Tratați acest lucru ca pe o poartă de dovezi: dacă criteriile nu sunt îndeplinite, întrerupeți lansarea, închideți decalajul și abia apoi extindeți utilizarea.
Preferați sursele primare și evaluările concrete față de afirmațiile de marketing.
Tratați acest lucru ca pe o poartă de dovezi: dacă criteriile nu sunt îndeplinite, întrerupeți lansarea, închideți decalajul și abia apoi extindeți utilizarea.
Identificați o singură cale de acțiune: carieră, politică, finanțare sau abilități - nu numai conștientizare.
Tratați acest lucru ca pe o poartă de dovezi: dacă criteriile nu sunt îndeplinite, întrerupeți lansarea, închideți decalajul și abia apoi extindeți utilizarea.
Continuați să explorați
Check your understanding
Test yourself: take the Artificial General Intelligence quiz