Hva skjedde
BBC rapporterer at Jacob Coxon, en tidligere Anthropic- og OpenAI-forsker, advarte om at AI-forskere frykter utviklingstempoet og dens mulige effekter på menneskeheten. Han støttet oppfordringer om langsommere utvikling, regulering og uavhengig overvåking, mens Anthropic forsvarte sitt sikkerhetsarbeid. Rapporten legger til nye reaksjoner på Anthropic CEO Dario Amodeys eksisterende oppfordring til større forsiktighet.
BBC rapporterer at Coxon, 27, sa at AI-forskere er "genuint redde" for det nåværende fremskrittstempoet og hevdet at menneskeheten kan stå overfor en svært høy risiko for å dø i nær fremtid hvis utviklingen ikke bremses. Han ønsket velkommen til Amodeys forslag om tilbakeholdenhet i hele bransjen, men sa at Kina må involveres for å unngå et internasjonalt kappløp. Dette er Coxons synspunkter som rapportert av BBC, ikke uavhengig etablerte prognoser.
Rapporten kobler Coxons kommentarer til et essay av Anthropic CEO Dario Amodey, publisert den 12. ifølge kilden, som hevdet at AI-utvikling i seg selv ikke er problemet, men at selskaper og myndigheter trenger tid til å ta opp alvorlige risikoer. BBC rapporterer også støtte for å bremse utvikling, regulering eller uavhengig overvåking fra OpenAI CEO Sam Altman og xAI CEO Elon Musk.
Anthropic fortalte BBC News at de konsekvent har erkjent både store fordeler og enestående risikoer fra AI. Talsmannen sa at selskapet utvikler sterke sikkerhetstiltak, undersøker hvordan modeller fungerer, tester modeller for feiljusteringsrisiko og publiserer resultater. Kilden gir ingen uavhengig vurdering av disse sikkerhetstiltakene.
BBC rapporterer ytterligere advarsler fra Anthropic-forsker Evan Hubinger og dataforsker Geoffrey Hinton, som hver ga personlige estimater om muligheten for menneskelig utryddelse. Den rapporterer også kritikk fra Hugging Face administrerende direktør Clément Delangue og fakultetssjef Marc Warner, som sa at slike sannsynligheter er vanskelige å fastslå. Kilden inneholder ingen tekniske bevis som validerer noen av disse estimatene.
Hvorfor det betyr noe
Rapporten er viktig fordi den dokumenterer en økende offentlig uenighet i og rundt ledende AI-selskaper om hvorvidt utviklingen går raskere enn sikkerhetsarbeid og statlig tilsyn. De praktiske forslagene som beskrives er langsommere utplassering av kraftige modeller, uavhengig overvåking og internasjonal koordinering, inkludert med Kina. Imidlertid er de mest alvorlige påstandene prognoser eller personlige estimater, ikke uavhengig demonstrerte funn. Kilden fastslår ikke at utryddelse er nært forestående, kvantifiserer en verifisert risiko, eller viser at noen regjering eller selskap har vedtatt nye restriksjoner.
Dette er en meningsfull AI-sikkerhetsutvikling fordi en tidligere ansatts offentlige konto presenteres sammen med en bedriftsleders oppfordring om langsommere utvikling og sikkerhetstiltak. Sammen viser uttalelsene at bekymringene ikke er begrenset til kritikere utenfor, selv om rapporten ikke måler hvor representative disse synspunktene er blant AI-forskere.
Den praktiske implikasjonen er at sikkerhetsargumenter i økende grad kan påvirke utslippsstyring, regulering og internasjonal koordinering. Disse konsekvensene forblir prospektive: Kilden rapporterer ikke en ny lov, avtale, distribusjonspause eller uavhengig bekreftet hendelse. Ingen produkttilgangsbetingelser eller priser er relevante eller dokumenterte.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Se etter konkrete retningslinjer eller selskapshandlinger etter oppfordringene om tilbakeholdenhet: formelle overvåkingskrav, distribusjonsgrenser, internasjonale avtaler eller endringer i prosesser for modellutgivelse. Kilden dokumenterer ikke nytt produkt, tilgangsendring, pris, sikkerhetstestresultat eller bindende policy. Den bekrefter heller ikke uavhengig av utryddelsessannsynlighetene sitert av intervjuobjektene eller fastslår tidspunktet for de rapporterte intervjuene i forhold til gjeldende 96-timersvindu.
Om Anthropic eller andre AI-selskaper gjør krav om tilbakeholdenhet til verifiserbare praksiser, for eksempel uavhengig modellovervåking, publiserte evalueringsterskler eller langsommere utgivelser.
Om regjeringer reagerer med spesifikke regler eller internasjonale diskusjoner i stedet for generelle uttalelser om AI-konkurranse og risiko.
Enten uavhengig teknisk forskning støtter, begrenser eller utfordrer de alvorlige risikoestimatene som er sitert i rapporten. Kilden gir ikke bevis nok til å løse denne tvisten.
Kildeteksten inkluderer ikke en publiseringsdato, så nyligheten av de underliggende intervjuene kan ikke bekreftes uavhengig av det leverte materialet.