Hva skjedde
Washington Post rapporterer at AI-systemer fremmer biologisk forskning mens amerikanske sikkerhetstiltak og føderal biosikkerhetskapasitet forblir uoppgjort. The Post beskriver eksperimenter som involverer AI-genererte biologiske design og rapporterer at Det hvite hus har redusert sin dedikerte biosikkerhetsbemanning samtidig som den forsinker en erstatningspolicy for screening av potensielt farlige genetiske ordrer.
I sin Health Brief fra 25. august rapporterer The Washington Post at forskere og politiske eksperter er i økende grad bekymret for AIs rolle i biologisk forskning. The Post sier at den sentrale bekymringen ikke bare er om en person kan be et AI-system om instruksjoner om et biologisk våpen, men om stadig mer dyktige systemer uavhengig kan utføre mer av de vitenskapelige resonnementene som trengs for å identifisere farlige muligheter. Rapporten understreker også at eksperter ikke tror teknologien har nådd et punkt hvor det er enkelt å lage et farlig patogen; Det gjenstår betydelige barrierer mellom en AI-modell og et vellykket biologisk angrep.
Washington Post rapporterer at en MIT-forsker som testet et uidentifisert selskaps AI-modell fant ut at den kombinerte informasjon fra forskjellige områder av biologien til det som så ut til å være et veikart for en ny type biovåpen. Selskapet ble ikke navngitt i kilden, så dets sikkerhetstiltak og de nøyaktige testforholdene kan ikke vurderes uavhengig her.
The Post rapporterer også om et eget eksperiment der forskere brukte AI til å designe 16 virus som er i stand til å angripe bakterier. Bare en liten andel av de genererte sekvensene fungerte i laboratorietesting, og virusene kunne ikke infisere mennesker, ifølge rapporten. Kilden gir ikke nok detaljer til uavhengig å evaluere verken eksperimentets metoder eller reproduserbarhet.
The Post rapporterer at AI-selskaper har introdusert filtre ment å redusere sjansen for at brukere kan få farlig biologisk informasjon, samtidig som de advarer om at noen ledende kinesiske modeller ikke har tilsvarende sikkerhetstiltak. Kilden gir ingen uavhengige testdata for den sammenligningen. Washington Post rapporterer også at Det hvite hus har holdt orienteringer med OpenAI og andre byråer om biologiske risikoer, og at et nytt initiativ som involverer Det hvite hus, Department of Health and Human Services og andre parter angivelig tar form. Initiativets struktur, autoritet, tidslinje og konkrete sikkerhetstiltak er fortsatt ukjent.
Kildedetaljer: washingtonpost.com ↗
Hvorfor det betyr noe
AI kan støtte vaksiner, behandlinger og pandemiforsvar, men de samme egenskapene kan redusere barrierer for biologisk trusselutvikling. Rapporteringen fastslår ikke at dagens AI-systemer kan skape et menneskesmittende patogen, og eksperter sitert av The Washington Post sier at det gjenstår betydelige barrierer. Det viser et politisk gap mellom raskt skiftende evner og ufullstendig statlig tilsyn.
Betydningen av allmenn interesse er kombinasjonen av kapasitetsvekst og institusjonell usikkerhet. AI-assistert biologisk forskning kan hjelpe forskere med å identifisere behandlinger, utvikle vaksiner eller forberede seg på pandemier. Men hvis modeller kan koble sammen spesialisert biologisk informasjon på måter brukerne ikke forutså, må sikkerhetssystemer adressere mer enn åpenbare forespørsler om skadelige instruksjoner. De kan også trenge å administrere indirekte assistanse, modellere autonomi og tilgang til vitenskapelige verktøy eller data. Washington Posts rapportering tar opp dette problemet uten å hevde at en katastrofal biologisk trussel er overhengende.
Den politiske bekymringen forsterkes av rapporterte reduksjoner i føderal biosikkerhetskapasitet. Washington Post sier at nær slutten av Biden-administrasjonen jobbet så mange som 30 personer med biologisk sikkerhet i Det hvite hus. Etter at president Donald Trump kom tilbake til kontoret, ble teamet raskt redusert på grunn av kutt i bemanningen og omorganiseringer; til tider, fortalte tidligere tjenestemenn til The Post, ingen i Det hvite hus jobbet utelukkende med biosikkerhet. Posten melder at en mindre og mer omskiftelig gruppe siden har håndtert arbeidet, med noe personell som jobber deltid eller har begrenset erfaring. Disse påstandene er delvis avhengige av anonyme tidligere tjenestemenn og bekreftes ikke uavhengig av kildematerialet.
Washington Post rapporterer at Trump tilbakekalte en utøvende ordre fra 2023 om biologiske sikkerhetstiltak og påla tjenestemenn å erstatte en egen policy som krever at selskaper skal screene kjøpere som søker genetiske komponenter som kan brukes til å lage biologiske agenser. Denne erstatningen var forventet i august året før, men hadde ikke kommet da nyhetsbrevet ble publisert. En forsinkelse er viktig fordi screening av genetiske ordrer er en av de konkrete kontrollene som er beskrevet i rapporten.
Kilden bemerker også at bestemmelser i et lovforslag om forsvarsautorisasjon kan styrke AI-relatert biosikkerhet, men at eksperter mener brukere kan omgå dem. Den praktiske effektiviteten av disse bestemmelsene er ikke fastslått her.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Nøkkeltesten er om Trump-administrasjonen publiserer håndhevbare sikkerhetstiltak for AI og biologisk risikostyring, inkludert politikken for forsinket genetisk-ordre screening. Se etter detaljer om det rapporterte initiativet fra Det hvite hus og helse og menneskelige tjenester, bevis på at føderal biosikkerhetsekspertise blir gjenoppbygd, og uavhengige evalueringer av sikkerhetstiltak på tvers av amerikanske og kinesiske AI-modeller.
Se først etter erstatningspolitikken som styrer screening av genetiske komponenter. Washington Post rapporterer at administrasjonen påla tjenestemenn å produsere den, men politikken hadde fortsatt ikke dukket opp etter mer enn et år. Viktige ubesvarte spørsmål inkluderer hvilke sekvenser eller kjøpere som vil bli dekket, hvem som vil håndheve reglene, hvordan internasjonale leverandører vil delta, og om systemet vil adressere AI-assistert design i stedet for kun kjøp av kjent risikabelt genetisk materiale. Ingen av disse detaljene er gitt i kilden.
For det andre, se etter bevis på at det rapporterte Det hvite hus-initiativet blir et operasjonelt program snarere enn en planleggingsinnsats. The Post rapporterer orienteringer med OpenAI og andre byråer og sier at et initiativ som involverer Det hvite hus og HHS, angivelig tar form. Det hvite hus fortalte Ian Duncan at dets engasjement for kunstig intelligens og biologiske sikkerhetsrisikoer pågikk, og at tjenestemenn hadde utviklet politikk i mer enn ett år. Kilden bekrefter ikke uavhengig initiativet, dets budsjett, bemanning, juridiske myndighet eller implementeringsplan.
Washington Post avslører også et innholdspartnerskap med OpenAI, som lesere bør vurdere når de vurderer rapportering om det selskapet. Til slutt, se etter uavhengige tekniske evalueringer av AI-sikkerhetstiltak og biologiske eksperimenter. Rapporteringen etterlater flere meningsfulle ukjente: identiteten og egenskapene til den ikke navngitte modellen, de nøyaktige metodene som ble brukt i virusdesigneksperimentet, hastigheten som genererte design kan reproduseres med, og om et hvilket som helst system pålitelig kan blokkere farlig assistanse uten også å hindre legitim forskning.
Se også etter om føderale byråer gjenoppretter varig ekspertise på tvers av offentlige helse-, forsvars- og vitenskapskontorer. Det sentrale spørsmålet er ikke om AI vil produsere et biovåpen på egen hånd, noe kilden ikke fastslår, men om institusjoner kan identifisere og administrere nye feilmoduser etter hvert som modellene blir mer kapable.