Wat is er gebeurd
De BBC meldt dat Jacob Coxon, een voormalig Anthropic- en OpenAI-onderzoeker, waarschuwde dat AI-onderzoekers bang zijn voor het tempo van de ontwikkeling en de mogelijke effecten ervan op de mensheid. Hij steunde de oproepen tot langzamere ontwikkeling, regulering en onafhankelijk toezicht, terwijl Anthropic zijn veiligheidswerk verdedigde. Het rapport voegt nieuwe reacties toe aan de bestaande oproep van Anthropic CEO Dario Amodey tot grotere voorzichtigheid.
De BBC meldt dat Coxon, 27, zei dat AI-onderzoekers “oprecht bang” zijn voor het huidige tempo van de vooruitgang en voerde aan dat de mensheid in de nabije toekomst een zeer groot risico zou lopen om te sterven als de ontwikkeling niet wordt vertraagd. Hij verwelkomde het voorstel van Amodey voor terughoudendheid in de hele sector, maar zei dat China erbij betrokken zou moeten worden om een internationale race te voorkomen. Dit zijn de standpunten van Coxon zoals gerapporteerd door de BBC, en geen onafhankelijk opgestelde voorspellingen.
Het rapport verbindt de opmerkingen van Coxon met een essay van Anthropic CEO Dario Amodey, gepubliceerd op de 12e volgens de bron, waarin werd betoogd dat de ontwikkeling van AI zelf niet het probleem is, maar dat bedrijven en overheden tijd nodig hebben om ernstige risico’s aan te pakken. De BBC meldt ook steun voor het vertragen van de ontwikkeling, regulering of onafhankelijk toezicht van OpenAI CEO Sam Altman en xAI CEO Elon Musk.
Anthropic vertelde BBC News dat het consequent zowel de grote voordelen als de ongekende risico's van AI heeft erkend. De woordvoerder zei dat het bedrijf sterke waarborgen ontwikkelt, onderzoekt hoe modellen werken, modellen test op risico's van verkeerde uitlijning en resultaten publiceert. De bron geeft geen onafhankelijke beoordeling van die waarborgen.
De BBC meldt aanvullende waarschuwingen van Anthropic-wetenschapper Evan Hubinger en computerwetenschapper Geoffrey Hinton, die elk persoonlijke schattingen gaven over de mogelijkheid van het uitsterven van de mens. Het rapporteert ook kritiek van Clément Delangue, CEO van Hugging Face, en Marc Warner, CEO van de faculteit, die zeiden dat dergelijke waarschijnlijkheden moeilijk vast te stellen zijn. De bron bevat geen technisch bewijs dat deze schattingen valideert.
Waarom het ertoe doet
Het rapport is belangrijk omdat het een groeiende publieke onenigheid documenteert binnen en rond toonaangevende AI-bedrijven over de vraag of de ontwikkeling sneller gaat dan veiligheidswerk en overheidstoezicht. De beschreven praktische voorstellen zijn een langzamere inzet van krachtige modellen, onafhankelijk toezicht en internationale coördinatie, ook met China. De ernstigste beweringen zijn echter voorspellingen of persoonlijke schattingen, en geen onafhankelijk aangetoonde bevindingen. De bron stelt niet vast dat uitsterven op handen is, kwantificeert geen geverifieerd risico en toont niet aan dat een overheid of bedrijf nieuwe beperkingen heeft ingevoerd.
Dit is een betekenisvolle ontwikkeling op het gebied van AI-veiligheid, omdat de openbare verklaring van een voormalige werknemer wordt gepresenteerd naast de oproep van een bedrijfsleider tot langzamere ontwikkeling en waarborgen. Samen laten de uitspraken zien dat de zorgen niet beperkt blijven tot critici van buitenaf, hoewel het rapport niet meet hoe representatief deze opvattingen zijn onder AI-onderzoekers.
De praktische implicatie is dat veiligheidsargumenten steeds meer invloed kunnen hebben op het beheer van vrijgave, de regelgeving en de internationale coördinatie. Die gevolgen blijven prospectief: de bron meldt geen nieuwe wet, overeenkomst, pauze in de inzet of onafhankelijk geverifieerd incident. Er zijn geen voorwaarden voor producttoegang of prijzen relevant of gedocumenteerd.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
Let op concrete beleids- of bedrijfsacties na de roep om terughoudendheid: formele monitoringvereisten, implementatielimieten, internationale overeenkomsten of wijzigingen in de releaseprocessen van modellen. De bron documenteert geen nieuw product, toegangswijziging, prijs, veiligheidstestresultaat of bindend beleid. Het verifieert ook niet op onafhankelijke wijze de door geïnterviewden genoemde uitstervingskansen, noch stelt het de timing van de gerapporteerde interviews vast ten opzichte van het huidige tijdsbestek van 96 uur.
Of Anthropic of andere AI-bedrijven de roep om terughoudendheid omzetten in verifieerbare praktijken, zoals onafhankelijke modelmonitoring, gepubliceerde evaluatiedrempels of langzamere releases.
Of regeringen reageren met specifieke regels of internationale discussies in plaats van algemene uitspraken over AI-concurrentie en -risico's.
Of onafhankelijk technisch onderzoek de in het rapport aangehaalde ernstige risicoschattingen ondersteunt, beperkt of in twijfel trekt. De bron levert onvoldoende bewijs om dat geschil op te lossen.
De brontekst bevat geen publicatiedatum, waardoor de recentheid van de onderliggende interviews niet onafhankelijk kan worden bevestigd uit het aangeleverde materiaal.