Писмо, ръководено от OpenAI, призовава за колективна защита срещу кибератаки с AI

Какво стана

OpenAI публикува отворено писмо, в което твърди, че кибератаките с AI ще станат по-широко разпространени и сложни с подобряването на AI системите. Писмото е подкрепено от голям списък от компании и организации, включително Anthropic, Google, Microsoft, AWS, Cisco, CrowdStrike и големи финансови и инфраструктурни фирми.

Страницата на OpenAI представя отворено писмо, озаглавено „Призив за колективни действия за киберзащита“. В него се казва, че има ограничен период за укрепване на киберзащитата, преди атаките с AI да станат по-разпространени и сложни. Страницата не идентифицира конкретен инцидент, нападател или експлоатирана система. Вместо това, той описва широка оценка на риска и предлага координиран отговор, включващ компании, доставчици на киберсигурност, правителства и гранични разработчици на AI.

В писмото се казва, че съществуващата експозиция се корени отчасти в познати проблеми със сигурността: бъгове, прекомерни разрешения, неправилни конфигурации, непоправен и несигурен софтуер, слаба автентификация и технически дълг в наследени системи. В него се твърди, че екипите за сигурност, особено тези, които защитават критичната инфраструктура, исторически са имали липса на адекватни ресурси. Документът също така казва, че текущият напредък на AI може да помогне на защитниците да намерят и поправят слабостите, да направят сигурността да работи по-бързо и по-евтино и да разширят специализираните възможности към повече организации.

Списъкът на подписалите включва компании за изкуствен интелект, облачни и чипове компании, фирми за киберсигурност, финансови институции, доставчици на технологии и други бизнеси. Имената на подписалите включват 1Password, Anthropic, Google, Microsoft, OpenAI, AWS, Cisco, Cloudflare, CrowdStrike, IBM, Palo Alto Networks, ServiceNow, Shopify, Snowflake, Visa и Zurich Insurance Company, сред много други. Източникът също изброява организации, свързани с критична инфраструктура, финанси, комуникации, производство и разработка на софтуер.

Предложеният отговор е разделен на четири групи. Всяка организация е призована да направи киберзащитата незабавен приоритет на лидерството, да поправи високорискови слабости, да провери дали поправките работят, без да прекъсват основните услуги, и да повиши изискванията за сигурност за закупени, изградени и внедрени системи, включително код, генериран от AI. Компаниите за киберсигурност и технологичните партньори са помолени да тестват защити срещу усъвършенствани кибер възможности, да подобрят съществуващите инструменти с AI, да помогнат на операторите на критична инфраструктура да ги разположат и да споделят тествани наръчници и разузнаване на заплахи.

Детайли за източника: openai.com ↗

Защо има значение

Писмото очертава сигурността на ИИ като проблем на колективната отбрана, а не проблем, който отделните компании могат да решат сами. Той се фокусира върху болници, пречиствателни станции, интернет инфраструктура и други основни услуги, които може да нямат персонал или бюджети, необходими за справяне с дълготрайни слабости.

Основният въпрос от обществен интерес е готовността. Ако AI системите улесняват откриването на уязвимости, генерирането на злонамерен код или автоматизирането на части от проникване, организациите със слаба защита могат да бъдат изправени пред по-голям натиск, дори когато нямат големи екипи за сигурност. Акцентът в писмото върху болници, водоснабдителни предприятия, местни власти и интернет инфраструктура сочи към услуги, чието прекъсване може да засегне хора извън организацията, която е атакувана.

Документът също така подчертава практическото напрежение в защитния AI. По-способните системи могат да помогнат за идентифициране на слабостите, приоритизиране на ремонтите и подкрепа за реагиране при инциденти, но предоставянето на достъп на тези системи до чувствителни среди въвежда собствени изисквания за управление и сигурност. Следователно писмото призовава за отговорен достъп до модела, проследими и отчетни самоличности на агенти, възможност за наблюдение, непрекъснат мониторинг, оторизирано тестване, лично разкриване и проверени корекции. Тези разпоредби признават, че отбранителната способност трябва да бъде контролирана, както и разпределена.

Един колективен подход може да направи индивидуалните подобрения по-полезни. Писмото приканва организациите да споделят инструменти, практически знания, разузнаване на заплахи и корекции, така че работата на една група да може да защити други. Той също така иска от технологичните партньори да измерват напредъка според това колко организации са защитени, колко бързо се ограничават атаките и дали поправките работят. Тези предложени мерки пренасочват вниманието от способностите на модела само към оперативните резултати, въпреки че източникът не предоставя базова линия или система за отчитане за тях.

Писмото също е застъпничество от индустрията и това ограничава заключенията от него. Той не представя данни за атаки, независимо тестване, количествена прогноза или доказателство, че конкретна страна вече е приложила предложенията. Той не уточнява колко финансиране е необходимо, кои правителства трябва да ръководят, как ще се администрират програмите за достъп или как конкурентните компании ще споделят чувствителна информация. Източникът установява координиран призив и политическа рамка, а не доказателство, че препоръчаните защити ще работят в мащаб.

Какво да гледате след това

Писмото е набор от препоръки, а не доказателство, че е извършена конкретна атака или че прогнозираната ескалация е започнала. Важните последващи действия ще бъдат дали подписалите предоставят финансиране, защитни инструменти, оторизирано тестване, разузнаване на заплахи и измерима подкрепа и дали правителствата създават програми, които поставят тези способности в обсега на оператори с недостатъчен ресурс.

Първият въпрос е дали подписалите страни превръщат широките ангажименти в конкретна помощ. Писмото призовава за инструменти, финансиране, обучение и практическа подкрепа, особено за защитници на критична инфраструктура с ограничени бюджети. Последващият доклад трябва да търси посочени програми, правила за допустимост, дати на доставка, участващи доставчици и доказателства за действително внедряване, вместо да разчита на присъствието на името на компанията в писмото.

От правителствата се иска да координират на местно, национално и международно ниво; защита на фондовете за основни услуги; подобряване на каналите за разузнаване на заплахи; разширяване на програмите за надежден достъп; и осигурете на болници, водоснабдителни дружества и местни власти защитен AI и оторизирано тестване чрез доверени партньори. Източникът не казва кои правителства са приели тези предложения. Той също така призовава за налагане на разходи на нападателите, но не дава подробности относно правните правомощия, правоприлагането или международната координация.

Оперативните подробности около AI агентите заслужават специално внимание. В писмото се иска от граничните компании с изкуствен интелект да направят самоличностите на агентите проследими и отчетни и да споделят практики за наблюдение. Наблюдателите трябва да попитат какви записи за самоличност ще бъдат запазени, кой може да ги проверява, как ще се разследва злоупотребата и как ще бъде защитена неприкосновеността на личния живот. Източникът не дефинира технически стандарт, орган за отчетност или процес за разрешаване на отговорност, когато инструмент с активиран AI допринася за повреда.

И накрая, прогнозираното време остава важно неизвестно. Писмото се отнася до ограничен защитен прозорец и казва, че атаките ще станат по-широко разпространени и сложни през следващите месеци, но не дефинира прозореца, не предоставя график или определя измерим праг. Също така не е ясно кои предложени предпазни мерки вече са налични, колко организации могат да ги използват и дали по-евтините модели са подходящи за широко защитно покритие. Тези въпроси без отговор ще определят дали обжалването ще се превърне в практическа програма за сигурност или ще остане декларация за намерение на високо ниво.

Свързани ръководства и викторини