Hva skjedde
NPR rapporterer at forskere trente AI-modeller på store samlinger av DNA-sekvenser og ba dem om å generere nye virale genomer. Forskerne introduserte omtrent 300 AI-designede sekvenser i bakterier; 16 produserte fungerende virus som var i stand til å infisere andre bakterier. Arbeidet ble nylig publisert i Science, ifølge NPR.
NPRs Short Wave-rapport 25. august sier at forskere trente AI-modeller på DNA-sekvenser, og behandlet det genetiske alfabetet på fire bokstaver – A, C, G og T – som et språk som systemene kunne lære mønstre fra. Målet var ikke bare å reprodusere kjente virus, men å generere nye virale genomsekvenser. Kilden beskriver arbeidet som involverer virus som infiserer bakterier, ikke mennesker. Med andre ord, rapporten skiller modellens sekvensgenereringsoppgave fra påstander om menneskelig sykdom eller behandling.
I følge NPR introduserte forskerne det AI-genererte virale DNAet i bakterier, som deretter produserte virus som var i stand til å infisere andre bakterier. De testet omtrent 300 design, og 16 fungerte i den forstand at de produserte fungerende virus. NPR identifiserer Brian Hie fra Stanford som en av forskerne og rapporterer at prosjektet tok omtrent ett år å fullføre. Den rapporterte suksessraten var derfor et resultat fra dette spesifikke testsettet, snarere enn en påstand om at de fleste design vil fungere.
NPR rapporterer at forskerne tok forholdsregler for å gjøre arbeidet trygt og sier at studien ble publisert i Science. Den rapporterer også at Hies laboratorium mener det var det første som utførte denne typen eksperiment. Den første karakteriseringen i sitt slag, sikkerhetsprosedyrene og de eksperimentelle resultatene er rapportert av NPR; de er ikke uavhengig bekreftet i den medfølgende kilden, som ikke gir papirets metoder, sekvensdata, kontroller eller fullstendige eksperimentelle resultater. Disse grensene er viktige fordi den leverte kontoen oppsummerer funnene uten å gi den underliggende tekniske posten for separat gjennomgang.
Hvorfor det betyr noe
Resultatet antyder at AI til slutt kan hjelpe forskere med å designe bakteriofager - virus som infiserer og dreper bakterier - for å målrette mot medisinresistente infeksjoner. NPR rapporterer også at den samme progresjonen kan redusere tekniske barrierer for utforming av farlig biologi ettersom teknologien blir mer kapabel og tilgjengelig.
Den medisinske muligheten på kort sikt beskrevet av NPR er utformingen av bakteriofager skreddersydd for medikamentresistente bakterieinfeksjoner. Eksisterende bakteriofager kan infisere og drepe bakterier, og forskere håper AI kan bidra til å skape nye versjoner ettersom bakterier utvikler motstand mot behandlinger. Hvis det valideres i videre arbeid, kan det legge til et verktøy for infeksjoner som blir stadig vanskeligere å behandle. Rapporten beskriver derfor et mulig forskningshjelpemiddel, med effekt og praktisk bruk fortsatt avhengig av etterfølgende validering.
NPR rapporterer også en mye langsiktig visjon: å bruke AI til å designe større genetiske systemer eller biologiske veier der flere gener fungerer sammen. Hie fortalte NPR at slike verktøy til slutt kan bidra til tilnærminger for sykdommer inkludert kreft eller Alzheimers sykdom, mens han understreket at denne ideen er utenfor rammen av denne artikkelen. Rapporten presenterer dette som en spekulativ forskningsretning, ikke som en tilgjengelig behandling eller demonstrert klinisk resultat. NPR rapporterer ikke at disse bredere applikasjonene har blitt bygget, testet på pasienter eller vist seg å fungere.
Den samme egenskapen har en dimensjon for dobbel bruk. Tom Inglesby fra Johns Hopkins Center for Health Security, som ikke var involvert i studien, fortalte NPR at arbeidet var et stort gjennombrudd, men advarte om at styring ikke er på plass for å forhindre utilsiktet eller bevisst misbruk. NPR rapporterer at nåværende biologiske ingeniørmetoder allerede gjør at enkelte virus og organismer kan modifiseres eller syntetiseres, men at spesialisert ekspertise og tilgang fortsatt er betydelige barrierer. Rapporten fastslår ikke hvor raskt disse barrierene vil falle eller om AI-genererte design vil være lettere å våpen i praksis. Advarselen gjelder kapasitetens retning og behovet for styring, ikke en påstand om at dette eksperimentet forårsaket skade.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
Which component of an AI application is the machine-learning model itself?
Hva du skal se neste
NPR rapporterer at eksperter foretrekker å regulere punktet der digitale design blir fysisk DNA, inkludert screeningordrer for farlige sekvenser. Rapporten sier at det er foreslått et lovforslag fra todelt Senat om dette spørsmålet, men det fastslår ikke om lovforslaget vil gå videre eller om gjeldende sikkerhetstiltak vil oppdage enhver skadelig design.
NPR rapporterer at eksperter ser på tilpasset DNA-produksjon som et mulig kontrollpunkt. Selv om noen genererte en farlig sekvens digitalt, ville de vanligvis fortsatt trenge å skaffe fysisk DNA for å utføre et eksperiment. Rapporten sier at selskaper som produserer tilpasset DNA kan bli pålagt å screene bestillinger for farlige sekvenser, og at et lovforslag fra todelt Senatet har blitt foreslått for å kreve slik screening. Den foreslåtte intervensjonen vil ta for seg overgangen fra datamaskingenerert sekvens til et materialbiologisk utgangspunkt.
Det viktigste politiske spørsmålet er om screening hos DNA-leverandører kan holde tritt med stadig mer dyktige designsystemer. NPR rapporterer at Kevin Esvelt fra MIT støtter myndighetsregulering, men sier at regjeringer er motvillige til å definere hvilke eksperimenter som kan utføres. Inglesby fortalte NPR at det å forberede seg på en verden der det blir lettere å forårsake pandemier, kan være mer effektivt enn å bare prøve å begrense tilgangen til AI-modeller. Kilden identifiserer ikke regningens nummer, sponsorer, status eller foreslåtte screeningstandard. Disse ubesvarte detaljene gjør forslagets praktiske effekt vanskelig å vurdere ut fra rapporten alene.
Rapporten etterlater store usikkerhetsmomenter uavklart. NPRs vitenskapskorrespondent sier at det ikke er kjent om AI-designede biologiske verktøy til slutt vil gjøre mer nytte enn skade. Eksperimentet involverte bakteriofager, ikke menneskesmittende virus, og kilden gir ingen bevis for at forskerne har skapt et patogen, behandlet pasienter eller demonstrert klinisk nytte. Lesere bør se etter uavhengig replikering, forskning på sikkerhetskontroller, detaljer om DNA-ordrescreening og bevis fra kliniske eller laboratoriestudier som viser om det medisinske løftet strekker seg utover denne tidlige demonstrasjonen. Disse observasjonene definerer den nåværende grensen for bevisene beskrevet i NPR-rapporten.