Hva skjedde
OpenAI publiserte et åpent brev der de argumenterte for at AI-aktiverte cyberangrep vil bli mer utbredt og sofistikert etter hvert som AI-systemer forbedres. Brevet støttes av en stor liste over selskaper og organisasjoner, inkludert Anthropic, Google, Microsoft, AWS, Cisco, CrowdStrike og store finans- og infrastrukturfirmaer.
OpenAIs side presenterer et åpent brev med tittelen "En oppfordring til kollektiv handling om nettforsvar." Den sier at det er et begrenset vindu for å styrke cyberforsvaret før AI-aktiverte angrep blir mer utbredt og sofistikert. Siden identifiserer ikke en bestemt hendelse, angriper eller utnyttet system. I stedet beskriver den en bred risikovurdering og foreslår en koordinert respons som involverer selskaper, cybersikkerhetsleverandører, myndigheter og frontier AI-utviklere.
Brevet sier at eksisterende eksponering delvis er forankret i kjente sikkerhetsproblemer: feil, overdrevne tillatelser, feilkonfigurasjoner, uopprettet og usikker programvare, svak autentisering og teknisk gjeld i eldre systemer. Den hevder at sikkerhetsteam, spesielt de som beskytter kritisk infrastruktur, historisk sett har manglet tilstrekkelige ressurser. Dokumentet sier også at nåværende AI-fremskritt kan hjelpe forsvarere med å finne og fikse svakheter, få sikkerheten til å fungere raskere og billigere og utvide spesialistkapasiteten til flere organisasjoner.
Underskriverlisten inkluderer AI-selskaper, sky- og chipselskaper, cybersikkerhetsfirmaer, finansinstitusjoner, teknologileverandører og andre virksomheter. Navngitte underskrivere inkluderer 1Password, Anthropic, Google, Microsoft, OpenAI, AWS, Cisco, Cloudflare, CrowdStrike, IBM, Palo Alto Networks, Zurich Inow, Shopify, Snowflake, Shopify og mange andre. Kilden viser også organisasjoner knyttet til kritisk infrastruktur, finans, kommunikasjon, produksjon og programvareutvikling.
Det foreslåtte svaret er delt inn i fire grupper. Hver organisasjon oppfordres til å gjøre cyberforsvar til en umiddelbar lederprioritet, fikse høyrisikosvakheter, verifisere at rettelser fungerer uten å forstyrre viktige tjenester, og øke sikkerhetskravene for kjøpte, bygde og distribuerte systemer, inkludert AI-generert kode. Cybersikkerhetsselskaper og teknologipartnere blir bedt om å teste forsvar mot avanserte cyberfunksjoner, forbedre eksisterende verktøy med AI, hjelpe operatører av kritisk infrastruktur med å distribuere dem og dele testede spillebøker og trusselintelligens.
Hvorfor det betyr noe
Brevet omtaler AI-sikkerhet som et kollektivt forsvarsproblem i stedet for et problem enkeltselskaper kan løse alene. Den fokuserer på sykehus, vannbehandlingsanlegg, internettinfrastruktur og andre viktige tjenester som kan mangle personalet eller budsjettene som trengs for å håndtere langvarige svakheter.
Det sentrale spørsmålet av allmenn interesse er beredskap. Hvis AI-systemer gjør det lettere å oppdage sårbarheter, generere ondsinnet kode eller automatisere deler av et innbrudd, kan organisasjoner med svakt forsvar møte større press selv når de ikke har store sikkerhetsteam. Brevets vektlegging av sykehus, vannverk, lokale myndigheter og internettinfrastruktur peker på tjenester hvis forstyrrelser kan påvirke mennesker utenfor organisasjonen som blir angrepet.
Dokumentet fremhever også en praktisk spenning i defensiv AI. Mer dyktige systemer kan bidra til å identifisere svakheter, prioritere reparasjoner og støtte hendelsesrespons, men å gi disse systemene tilgang til sensitive miljøer introduserer egne styrings- og sikkerhetskrav. Brevet krever derfor ansvarlig modelltilgang, sporbare og ansvarlige agentidentiteter, observerbarhet, kontinuerlig overvåking, autorisert testing, privat offentliggjøring og verifiserte rettelser. Disse bestemmelsene anerkjenner at defensiv evne må kontrolleres så vel som distribuert.
En kollektiv tilnærming kan gjøre individuelle forbedringer mer nyttige. Brevet ber organisasjoner dele verktøy, praktisk kunnskap, trusselintelligens og rettelser slik at en gruppes arbeid kan beskytte andre. Den ber også teknologipartnere om å måle fremgang etter hvor mange organisasjoner som er beskyttet, hvor raskt angrep er begrenset og om rettelser fungerer. De foreslåtte tiltakene flytter oppmerksomheten fra modellkapasitet alene til operasjonelle resultater, selv om kilden ikke gir noen grunnlinje eller rapporteringssystem for dem.
Brevet er også påbud fra industrien, og det begrenser hva man kan konkludere med det. Den presenterer ikke angrepsdata, uavhengig testing, en kvantifisert prognose eller bevis på at en bestemt underskriver allerede har implementert forslagene. Den spesifiserer ikke hvor mye finansiering som trengs, hvilke regjeringer bør lede, hvordan tilgangsprogrammer vil bli administrert eller hvordan konkurrerende selskaper vil dele sensitiv informasjon. Kilden etablerer en koordinert appell og et politisk rammeverk, ikke bevis på at de anbefalte forsvarene vil fungere i stor skala.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Brevet er et sett med anbefalinger, ikke bevis på at et spesifikt angrep har skjedd eller at den forutsagte eskaleringen har begynt. Den viktige oppfølgingen vil være om underskrivere gir finansiering, defensive verktøy, autorisert testing, trusselintelligens og målbar støtte, og om regjeringer lager programmer som setter disse evnene innen rekkevidde for operatører med lite ressurser.
Det første spørsmålet er om underskriverne gjør brede forpliktelser til konkret bistand. Brevet krever verktøy, finansiering, opplæring og praktisk støtte, spesielt for forsvarere av kritisk infrastruktur med begrensede budsjetter. Oppfølgingsrapportering bør se etter navngitte programmer, berettigelsesregler, leveringsdatoer, deltakende leverandører og bevis på faktisk distribusjon i stedet for å stole på tilstedeværelsen av et firmas navn på brevet.
Myndighetene blir bedt om å koordinere lokalt, nasjonalt og internasjonalt; finansiere forsvar for viktige tjenester; forbedre trusseletterretningskanaler; utvide programmer med klarert tilgang; og gi sykehus, vannverk og lokale myndigheter defensiv kunstig intelligens og autorisert testing gjennom pålitelige partnere. Kilden sier ikke hvilke regjeringer som har godtatt disse forslagene. Den krever også at angripere pålegges kostnader, men gir ingen detaljer om lovhjemmel, håndhevelse eller internasjonal koordinering.
De operasjonelle detaljene rundt AI-agenter fortjener spesiell gransking. Brevet ber grense-AI-selskaper om å gjøre agentidentiteter sporbare og ansvarlige og å dele overvåkingspraksis. Observatører bør spørre hvilke identitetsregistre som vil bli beholdt, hvem som kan revidere dem, hvordan misbruk vil bli etterforsket og hvordan personvernet vil bli beskyttet. Kilden definerer ikke en teknisk standard, et ansvarlighetsorgan eller en prosess for å løse ansvar når et AI-aktivert verktøy bidrar til en feil.
Til slutt forblir den forutsagte timingen en viktig ukjent. Brevet viser til et begrenset defensivt vindu og sier at angrep vil bli mer utbredt og sofistikert i de kommende månedene, men det definerer ikke vinduet, gir en tidsplan eller identifiserer en målbar terskel. Det er også uklart hvilke foreslåtte sikkerhetstiltak som allerede er tilgjengelige, hvor mange organisasjoner som kan bruke dem, og om lavere kostnadsmodeller er tilstrekkelige for bred defensiv dekning. Disse ubesvarte spørsmålene vil avgjøre om anken blir et praktisk sikkerhetsprogram eller forblir en intensjonserklæring på høyt nivå.