Hva skjedde
Mange AI-arbeidere ved store firmaer som OpenAI, Meta og DeepMind er skeptiske til ideen om at AI utgjør en eksistensiell trussel mot menneskeheten. De uttrykker sin tvil gjennom humor og påpeker mangelen på konkrete bevis som støtter disse påstandene. Selv om det er bekymringer for umiddelbare risikoer som AI-sikkerhet og etisk bruk, spesielt i militære omgivelser, føler arbeiderne at samtalen er mer nyansert enn de nylige høyprofilerte advarslene.
Artikkelen deler reaksjoner fra AI-arbeidere i selskaper som OpenAI, Meta og DeepMind som er skeptiske til de eksistensielle truslene som AI utgjør. De uttrykker moro og tvil om mangelen på konkrete bevis i påstander fra enkelte bransjepersoner.
Jacob Coxon, en tidligere Anthropic-ansatt, hevdet at fremtidige AI-verktøy kan sette mennesker i fare, men mange arbeidere synes disse påstandene er vage og ikke støttes.
Rishub Jain, grunnlegger av Sampura Research, bemerker at tonen blant AI-arbeidere er "en liten spøk" angående ny frykt for AI. Colin Fraser, en Meta-dataforsker, hevder at det ikke er noen reelle bevis for at AI-modeller uunngåelig vil forfølge mål som fører til menneskelig død.
Til tross for skepsis er AI-arbeidere enige om viktigheten av å redusere ulike risikoer, inkludert å forhindre AI-rekkverk fra å svikte og adressere etiske bekymringer rundt AI i militære omgivelser.
Det er økende støtte for å ta inn eksterne evaluatorer for å vurdere nye AI-modeller for sikkerhet, med ledere som Anthropics Dario Amodei og OpenAIs Sam Altman som støtter denne tilnærmingen.
Hvorfor det betyr noe
Dette er viktig fordi det fremhever et skille i AI-industrien om de potensielle risikoene ved AI. Mens noen advarer om eksistensielle trusler, føler mange arbeidere at disse bekymringene er overdrevet og ikke støttet av bevis. Denne skepsisen kan påvirke hvordan industrien nærmer seg AI-sikkerhet og regulering.
Skepsisen blant AI-arbeidere kan påvirke industriens tilnærming til sikkerhet og regulering, og potensielt føre til mer nyanserte og evidensbaserte diskusjoner.
Skillet i syn på AI-risiko kan påvirke offentlig oppfatning og politiske beslutninger angående AI-utvikling og -distribusjon.
Umiddelbare risikoer som AI-sikkerhet og etisk bruk får oppmerksomhet, med fokus på praktiske tiltak for å redusere disse risikoene.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Hva du skal se neste
AI-bransjens tilnærming til sikkerhet og regulering, integrering av eksterne evaluatorer i AI-laboratorier, og hvordan umiddelbare risikoer som AI-rekkverk svikter håndteres.
Integreringen av eksterne evaluatorer i store AI-laboratorier og deres innvirkning på AI-sikkerhet.
Hvordan industrien håndterer umiddelbare risikoer som sviktende AI-rekkverk og etiske bekymringer.
Utviklingen av offentlige og regulatoriske diskusjoner rundt AI-risiko og sikkerhet.