Co się stało
Chosunbiz poinformował, że dyrektorzy Cloudflare przemawiając podczas sesji edukacji medialnej w Seulu ostrzegli, że agenci AI generują szybko rosnący ruch sieciowy i zwiększają liczbę usług, które firmy muszą zabezpieczyć. Kierownictwo nalegało, aby organizacje zidentyfikowały wewnętrzne narzędzia sztucznej inteligencji, ograniczyły dostęp na podstawie tożsamości i pozwolenia, kontrolowały niezatwierdzone połączenia MCP i chroniły wrażliwe informacje przesyłane w monitach. Cloudflare omówił także cyberataki wspomagane sztuczną inteligencją i planowane rozszerzenie obsługi uwierzytelniania postkwantowego.
Chosunbiz poinformował, że Goran Risticsevich, wiceprezes wykonawczy Cloudflare i dyrektor zarządzający na region Azji i Pacyfiku, powiedział, że ruch agentów AI w sieci Cloudflare wzrósł o ponad 1700% w porównaniu z rokiem poprzednim i stanowił około 60% całego ruchu sieciowego. W artykule nie podano podstawy bazowej, dokładnego okresu pomiaru, zakresu geograficznego danych, definicji ruchu agentów AI ani niezależnego źródła szacunków. Pominięcia te sprawiają, że trudno ocenić skalę wzrostu, mimo że twierdzenia te zostały przedstawione jako główny dowód ostrzeżenia Cloudflare.
Chosunbiz poinformował, że Risticsevich porównał zwykłe przeglądanie przez człowieka z agentami, którzy mogą łączyć się z wieloma witrynami internetowymi i serwerami jednocześnie. W artykule stwierdzono, że stwarza to większy problem w zarządzaniu bezpieczeństwem, ponieważ firmy muszą wiedzieć, który system sztucznej inteligencji uzyskuje dostęp do jakich danych i systemów oraz czy taki dostęp jest konieczny. W raporcie opisano także Shadow AI, w ramach którego pracownicy korzystają z niezatwierdzonych usług AI i mogą wysyłać wrażliwe informacje wewnętrzne do modeli zewnętrznych. Zidentyfikował cień MCP jako powiązane ryzyko obejmujące niezatwierdzone połączenia protokołu Model Context Protocol z narzędziami zewnętrznymi lub systemami wewnętrznymi.
Cloudflare powiedział Chosunbiz, że firmy powinny najpierw zidentyfikować narzędzia AI używane wewnętrznie, a następnie kontrolować swoje dane i dostęp do sieci. Firma zaleciła blokowanie podpowiedzi zawierających poufne informacje i stosowanie zasad zerowego zaufania do dostępu do serwera MCP, aby użytkownicy mogli uzyskać dostęp tylko do aplikacji, na które zezwala ich tożsamość i uprawnienia. Zalecenia te zostały przedstawione jako wytyczne Cloudflare, a nie jako wynik niezależnie zgłoszonej normy regulacyjnej, badania przeprowadzonego przez klienta lub kontrolowanej oceny. W artykule nie wskazano konkretnych organizacji, które doświadczyły incydentu z cieniem AI lub cieniem MCP.
W raporcie uwzględniono także udział Cloudflare w Project Glasswing, konsorcjum bezpieczeństwa prowadzonym z Anthropic. Chosunbiz poinformował, że Cloudflare otrzymał wcześniejszy dostęp do modelu sztucznej inteligencji Mythos Anthropic w celu przetestowania go przez swój wewnętrzny zespół ds. bezpieczeństwa oraz że Cloudflare stwierdził, że testy wykazały, że sztuczna inteligencja stała się bardziej zdolna do łączenia wielu luk w zabezpieczeniach i szybciej znajdowała nowe. W artykule nie podano projektu testu, grupy porównawczej, wyników pomiarów ani niezależnej walidacji. Kierownictwo Cloudflare argumentowało, że organizacje nie mogą polegać wyłącznie na łataniu jednej luki na raz i powinny wzmocnić szersze mechanizmy kontroli bezpieczeństwa.
Szczegóły źródła: biz.chosun.com ↗
Dlaczego to ma znaczenie
Agenci sztucznej inteligencji mogą w imieniu użytkownika wchodzić w interakcję z wieloma zewnętrznymi witrynami internetowymi, narzędziami i systemami wewnętrznymi, tworząc zagrożenia związane z bezpieczeństwem i zarządzaniem danymi, które różnią się od zagrożeń spotykanych przez zwykłych użytkowników oprogramowania. Raport przedstawia praktyczne obawy dotyczące Shadow AI, Shadow MCP i łączenia luk w zabezpieczeniach, ale jego najważniejsze statystyki i wyniki testów to twierdzenia Cloudflare zgłoszone przez Chosunbiz i nie zostały niezależnie potwierdzone.
Praktyczne znaczenie raportu polega na tym, że agenci AI mogą zwiększyć liczbę i szybkość interakcji pomiędzy pracownikami firmy, modelami, narzędziami i magazynami danych. Konwencjonalna aplikacja może mieć zdefiniowany zestaw uprawnień i miejsc docelowych, podczas gdy agent może dynamicznie wybierać narzędzia lub usługi w ramach otrzymanych uprawnień. Jeśli te uprawnienia są zbyt szerokie, skompromitowany agent, złośliwe instrukcje lub źle zarządzana integracja mogą ujawnić informacje lub wywołać działania wykraczające poza zamierzenia użytkownika. Relacja Chosunbiza potwierdza potrzebę ściślejszego zarządzania, ale nie określa, jak często zdarzają się te niepowodzenia.
Shadow AI to znany problem w przedsiębiorstwach, ale raport sugeruje, że MCP może zwiększyć jego znaczenie operacyjne, łącząc modele z systemami, które mogą pobierać informacje lub wykonywać działania. Niezatwierdzone połączenie może stwarzać ryzyko, nawet jeśli sam model nie jest źródłem problemu. Dlatego też nacisk w artykule na dostęp oparty na tożsamości i najmniejsze uprawnienia jest istotny dla firm stosujących narzędzia agentyczne. Jednakże Chosunbiz nie przedstawił niezależnych dowodów na to, że cień MCP jest już szeroko rozpowszechniony w Korei Południowej, ani nie określił ilościowo spowodowanych przez to strat.
Twierdzenia dotyczące cyberbezpieczeństwa mają również znaczenie, ponieważ sztuczna inteligencja może mieć wpływ na obie strony cyklu obrony. Jak donosi Chosunbiz, konto Cloudflare opisuje systemy sztucznej inteligencji jako coraz lepsze w łączeniu luk w zabezpieczeniach ze ścieżkami ataku i szybszym wykrywaniu luk. Jeśli zostanie to niezależnie potwierdzone, zwiększy to presję na obrońców, aby zautomatyzowali inwentaryzację, wykrywanie, ustalanie priorytetów i reagowanie na zasoby. Jednak źródło nie podaje żadnych szczegółów technicznych na temat testów Mythos ani dowodów na to, że zgłoszone wyniki przekładają się na skuteczne ataki na prawdziwe organizacje. Roszczenie należy zatem traktować jako ostrzeżenie ze strony firmy ochroniarskiej, a nie jako zweryfikowany miernik aktualnej zdolności przestępczej.
Kwestia postkwantowa zwiększa długoterminowy problem związany z infrastrukturą. Chosunbiz poinformował, że Cloudflare obsługuje szyfrowanie odporne na kwanty i spodziewa się zapewnić pełne uwierzytelnianie odporne na kwanty do 2028 r., natomiast jeden z dyrektorów powiedział, że branża spodziewa się Q Day około 2030 r. Migracja od podatnych na ataki systemów kryptograficznych może zająć lata, ponieważ certyfikaty, protokoły, urządzenia i usługi stron trzecich muszą być inwentaryzowane i aktualizowane. W raporcie nie stwierdza się, czy te daty są prognozami konsensusu, ani nie wyjaśnia zakresu obecnego wsparcia Cloudflare. Wartość publiczna polega na podkreślaniu planowania migracji, a nie na traktowaniu dat jako przewidywań.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Co obejrzeć dalej
Główne pytania dotyczą tego, czy szacunki ruchu Cloudflare można niezależnie udokumentować, jaka część zgłaszanych działań stanowi użyteczną pracę agentów, a nie automatyczne żądania, oraz czy zalecenia firmy dotyczące bezpieczeństwa przynoszą wymierne ograniczenie nieautoryzowanego dostępu lub wycieków danych. Deklarowany plan Cloudflare dotyczący pełnej obsługi uwierzytelniania odpornego na kwanty do 2028 r. to także zobowiązanie na przyszłość, a nie ukończone wdrożenie.
Po pierwsze, niezbędny jest niezależny pomiar roszczeń drogowych Cloudflare. Przydatne raporty uzupełniające pozwolą określić, co Cloudflare zalicza się do agenta sztucznej inteligencji, czy wzrost o 1700% porównuje równoważne okresy, czy liczba 60% ma zastosowanie globalnie, czy do określonego segmentu oraz w jaki sposób rozdzielany jest ruch robotów przeszukiwających, wyszukiwania, wnioskowania i agentów autonomicznych. Bez tych informacji statystyki przedstawiają ocenę Cloudflare, ale nie mogą rzetelnie opisać całego Internetu ani sieci południowokoreańskich.
Po drugie, firmy wdrażające systemy agentowe powinny ujawniać, w jaki sposób inwentaryzują modele i narzędzia, zatwierdzać serwery MCP, ograniczać uprawnienia i zapobiegać opuszczaniu wrażliwych, monitowanych danych przez kontrolowane środowiska. Raport nie zawiera dowodów na to, że elementy sterujące proponowane przez Cloudflare zostały niezależnie przetestowane. Dowody uzupełniające powinny obejmować rzeczywiste wyniki wdrożeń, udokumentowane incydenty, ustalenia z audytów lub oceny porównawcze pokazujące, czy kontrole zerowego zaufania ograniczają wywoływanie nieautoryzowanych narzędzi, ujawnianie danych lub szkodliwe działania.
Third, the Project Glasswing claims warrant technical scrutiny. Raport Chosunbiza nie mówi, które luki zostały powiązane, w jaki sposób wywołano model, czy w testach wykorzystano realistyczne środowiska, jak wydajność porównano z istniejącymi narzędziami ani czy Anthropic niezależnie zgodził się z interpretacją Cloudflare. Niezależni badacze i obrońcy powinni szukać powtarzalnych metod i publicznie opisywanych wyników, zanim wyciągną wnioski na temat tempa odkrywania podatności na sztuczną inteligencję.
Wreszcie, postkwantowa oś czasu Cloudflare powinna być śledzona jako zobowiązanie dotyczące produktu i migracji. Raporty uzupełniające mogą wyjaśnić, które funkcje szyfrowania są już dostępne, co obejmie pełne uwierzytelnianie kwantowe i czy klienci muszą zmieniać certyfikaty, oprogramowanie lub sprzęt. Źródło pozostawia również nierozstrzygnięte, czy zgłaszany wzrost ruchu agentów AI koncentruje się w niewielkiej liczbie dużych usług, czy też odzwierciedla szerokie zastosowanie. Te niewiadome mają kluczowe znaczenie dla oceny zarówno pilności, jak i wpływu ostrzeżenia Cloudflare na opinię publiczną.