Hva skjedde
I følge WIRED undersøker OpenAI den juridiske muligheten for å koordinere med andre AI-laboratorier for å bremse utviklingen, en strategi foreslått av sjefforskeren for å sikre sikkerhet. Mens et lovforslag fra to partier som ble introdusert i juli tar sikte på å gi antitrust-immunitet for slike samarbeid, er det ennå ikke vedtatt, noe som etterlater industrien i en tilstand av juridisk usikkerhet.
WIRED rapporterer at OpenAI for tiden evaluerer om en koordinert nedgang i AI-utvikling vil være lovlig under amerikanske antitrustlover. Denne forespørselen følger et blogginnlegg av OpenAI sjefforsker Jakub Pachocki, som hevdet at koordinering for å bremse fremtidig utvikling er avgjørende for å sikre sikkerheten til selvforbedrende AI-systemer. Pachocki foreslo at frivillige nedbremsninger bør bli vanlig inntil delte sikkerhetsstandarder er etablert.
Juridiske eksperter sitert av WIRED, inkludert Nicholas Felstead, bemerker at slik koordinering potensielt kan bryte med Sherman Antitrust Act ved å begrense produksjonen. Selv om lovligheten vil avhenge av de spesifikke detaljene i enhver avtale, fungerer den resulterende juridiske usikkerheten som en kraftig avskrekkende for selskaper som vurderer sikkerhetssamarbeid. OpenAI svarte ikke på WIREDs forespørsel om kommentar til denne saken.
Som svar på disse bekymringene, introduserte en topartisk gruppe lovgivere loven om "samarbeid om kontradiktoriske trusler og sikkerhetsrisikoer" i juli. Dette lovforslaget vil eksplisitt tillate AI-laboratorier å koordinere sikkerhets- og sikkerhetsarbeid uten å møte antitrustrisiko. Husversjonen av lovforslaget har imidlertid blitt henvist til justiskomiteen og er ennå ikke tatt opp for videre handling.
Caleb Knapp fra AI Policy Network, som støttet lovforslaget, uttalte at kongressen har en økende appetitt på AI-sikkerhetslovgivning, men at vedtakelsen kan bli forsinket til etter det kommende midtveisvalget. I mellomtiden hevder noen AI-ledere, inkludert John Schulman, at antitrustproblemer er en praktisk unnskyldning for selskaper for å unngå å ta opp dypere konkurransemessige og filosofiske uenigheter om AI-sikkerhet.
Hvorfor det betyr noe
Denne juridiske tvetydigheten skaper en betydelig hindring for kollektiv handling på AI-sikkerhet. Uten klar juridisk beskyttelse kan store teknologiselskaper unngå å koordinere sikkerhetstiltak på grunn av risikoen for antitrustsøksmål, noe som potensielt lar det konkurransedyktige kappløpet om kraftigere modeller fortsette ukontrollert til tross for økende bekymring for sikkerhet og samfunnsrisiko.
Potensialet for antitrustansvar skaper en betydelig barriere for bransjedekkende sikkerhetskoordinering. Etter hvert som AI-kapasiteten vokser, øker risikoen for sikkerhetshendelser og samfunnsskader, men det juridiske rammeverket fraråder for øyeblikket selve samarbeidet som trengs for å redusere disse risikoene.
Denne juridiske usikkerheten kan tillate at konkurransen om frontmodeller fortsetter uten meningsfulle sikkerhetskontroller. Bedrifter kan prioritere hastighet og markedsandel fremfor kollektiv sikkerhetsinnsats, spesielt hvis de tror at koordinering med rivaler kan utsette dem for juridiske utfordringer.
Situasjonen synliggjør et kritisk gap i dagens amerikanske politikk. Selv om det er bipartisk interesse for AI-sikkerhet, etterlater mangelen på vedtatt lovgivning AI-laboratorier i en prekær posisjon, ute av stand til å engasjere seg i den typen koordinering som eksperter hevder er nødvendig for sikker utvikling.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Overvåk fremdriften til 'Collaboration on Adversarial Threats and Security Risks Act' i House Judiciary Committee og se etter eventuelle offentlige uttalelser fra OpenAI eller andre store laboratorier angående deres vilje til å engasjere seg i sikkerhetskoordinering når juridisk klarhet er etablert.
De neste trinnene for 'Collaboration on Adversarial Threats and Security Risks Act' i House Judiciary Committee vil være en nøkkelindikator på kongressens forpliktelse til å løse den juridiske tvetydigheten rundt AI-sikkerhetskoordinering.
Offentlige uttalelser fra OpenAI og andre store AI-laboratorier angående deres holdning til sikkerhetskoordinering vil bli fulgt nøye, spesielt ettersom det juridiske landskapet utvikler seg og konkurransepresset for å lansere nye modeller øker.
Eventuelle ytterligere sikkerhetshendelser som involverer AI-modeller, som det nylige Hugging Face-bruddet, kan øke presset på lovgivere til å handle raskt og gi klar juridisk veiledning for industrien.