Ce sa întâmplat
Microsoft CEO-ul AI, Mustafa Suleyman, a contestat public ideea că peisajul competitiv cu China justifică amânarea sau evitarea reglementărilor privind siguranța AI. Într-un interviu pentru Fareed Zakaria GPS de la CNN, Suleyman a susținut că China nu ar trebui folosită ca un „omul de nădejde” pentru a opri progresul în eforturile interne de siguranță AI. El a subliniat că reglementarea ar trebui privită mai degrabă ca un mecanism pentru stabilirea de norme și standarde comune, decât ca un obstacol în calea inovației.
Mustafa Suleyman, șeful Microsoft AI, a respins în mod explicit argumentul că necesitatea de a depăși China în dezvoltarea AI ar trebui să împiedice implementarea balustradelor de siguranță. Vorbind la CNN, el a declarat: „Nu cred că ar trebui să folosim China ca pe omul pentru a nu face progrese în propriile noastre eforturi” în ceea ce privește siguranța AI.
Această poziție urmează publicării unui manifest de către echipa AI a Microsoft, care conturează liniile directoare interne care vizează menținerea controlului uman asupra viitoarelor sisteme AI. De asemenea, Suleyman a criticat recent documentele directoare ale modelelor Claude ale lui Anthropic, semnalând o dezbatere mai largă în industrie asupra a ceea ce constituie administrarea responsabilă a IA puternică.
Comentariile vin pe fondul unei schimbări în peisajul politic, în care președintele Trump a caracterizat îngrijorările cu privire la riscurile AI drept o „înșelătorie” și a promis că va preveni orice politici care ar putea „împiedica sau înăbuși” creșterea industriei. Administrația a semnalat o preferință pentru supravegherea specifică industriei, bazată pe cazuri de utilizare, mai degrabă decât o reglementare amplă și centralizată.
Detalii sursa: ndtvprofit.com ↗
De ce contează
Comentariile lui Suleyman evidențiază o diviziune ideologică tot mai mare în cadrul sectorului tehnologic și al guvernului din SUA în ceea ce privește ritmul și supravegherea dezvoltării AI. În timp ce unii lideri politici, inclusiv președintele Trump, au pledat pentru o dezvoltare în mare măsură neîngrădită pentru a menține un avantaj competitiv față de China, liderii industriei cer din ce în ce mai mult pentru balustrade formale. Această tensiune este agravată de dezvăluirile recente de la marile firme de AI - inclusiv Google, OpenAI, Anthropic și Meta - că agenții lor AI au demonstrat capacitatea de a pirata sistemele externe. Dezbaterea se concentrează asupra faptului dacă măsurile de siguranță sunt un dezavantaj competitiv sau un fundament necesar pentru viabilitatea pe termen lung a tehnologiei.
Dezbaterea asupra reglementării AI a devenit un punct focal al politicii tehnologice din SUA, punând în față dorința de inovare rapidă, condusă de piață, cu preocupările legate de riscurile sistemice. Dezvăluirile proprii ale industriei cu privire la agenții AI capabili să pirateze sisteme au intensificat urgența acestei discuții.
Forța lui Suleyman pentru „norme și standarde comune” sugerează că unii lideri din industrie cred că, fără balustrade de siguranță clare și aplicabile, dezvoltarea pe termen lung a IA s-ar putea confrunta cu reacții publice sau eșecuri catastrofale care ar dăuna în cele din urmă industriei mai mult decât ar putea face reglementări.
Poziția actuală a administrației, așa cum este articulată de consilierul în știință și tehnologie Michael Kratsios, sugerează că companiile preocupate de siguranța propriilor modele ar trebui pur și simplu să „oprească” dezvoltarea, mai degrabă decât să se bazeze pe reglementări unice, impuse de guvern. Acest lucru creează un decalaj semnificativ de politică între abordarea guvernamentală de excludere și solicitările interne ale industriei pentru cadre de siguranță mai largi și mai structurate.
Mecanism interactiv: cum funcționează de fapt
Explorați tehnologia care stau la baza acestei dezvoltări în mod interactiv.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Ce să urmărești în continuare
Principalul punct de disputa este divergența dintre politica declarată a administrației de creștere „nelimitată” și manifestele interne de siguranță adoptate de marile companii de IA. Observatorii ar trebui să monitorizeze dacă administrația respectă planurile de numire a unui „țar AI” și modul în care acest rol interacționează cu impulsul industriei pentru protocoale de siguranță standardizate. În plus, eficacitatea abordării de reglementare „specifice de utilizare” propusă de consilierul în știință și tehnologie de la Casa Albă, Michael Kratsios, rămâne o necunoscută semnificativă în efortul mai larg de a guverna modelele avansate de IA.
Numirea unui „țar AI” promis de către administrație va fi un indicator critic al modului în care SUA intenționează să echilibreze presiunile competitive cu preocupările legate de siguranță.
Capacitatea industriei de a se auto-reglementa prin manifeste și standarde comune va fi testată pe fundalul scepticismului administrației față de cadrele de reglementare largi.
Tensiunea permanentă dintre abordarea Casei Albe „specifice cazurilor de utilizare” și dorința industriei de norme de siguranță standardizate, între companii, rămâne o zonă cheie de incertitudine pentru viitoarea guvernare a AI.