Chuyện gì đã xảy ra
Chosunbiz đưa tin rằng các giám đốc điều hành của Cloudflare phát biểu tại một buổi đào tạo truyền thông ở Seoul đã cảnh báo rằng các tác nhân AI đang tạo ra lưu lượng mạng ngày càng tăng nhanh chóng và mở rộng số lượng dịch vụ mà các công ty phải bảo mật. Các giám đốc điều hành kêu gọi các tổ chức xác định các công cụ AI nội bộ, giới hạn quyền truy cập theo danh tính và quyền, kiểm soát các kết nối MCP không được phê duyệt và bảo vệ thông tin nhạy cảm được gửi theo lời nhắc. Cloudflare cũng thảo luận về các cuộc tấn công mạng được hỗ trợ bởi AI và kế hoạch mở rộng hỗ trợ xác thực sau lượng tử.
Chosunbiz báo cáo rằng Goran Risticsevich, phó chủ tịch điều hành và giám đốc điều hành của Cloudflare khu vực Châu Á-Thái Bình Dương, cho biết lưu lượng truy cập của tác nhân AI trên mạng của Cloudflare đã tăng hơn 1.700% so với một năm trước đó và chiếm khoảng 60% tổng lưu lượng truy cập mạng. Bài viết không cung cấp đường cơ sở cơ bản, khoảng thời gian đo lường chính xác, phạm vi địa lý của các số liệu, định nghĩa về lưu lượng truy cập của tác nhân AI hoặc nguồn độc lập cho các ước tính. Những thiếu sót đó khiến quy mô gia tăng khó đánh giá, mặc dù các tuyên bố được đưa ra làm bằng chứng trung tâm cho cảnh báo của Cloudflare.
Chosunbiz đưa tin rằng Risticsevich đã so sánh trình duyệt thông thường của con người với các tác nhân có thể kết nối với nhiều trang web và máy chủ cùng một lúc. Bài báo cho biết điều này tạo ra một vấn đề quản lý bảo mật lớn hơn vì các công ty cần biết hệ thống AI nào đang truy cập vào dữ liệu và hệ thống nào và liệu quyền truy cập đó có cần thiết hay không. Báo cáo cũng mô tả Shadow AI, trong đó nhân viên sử dụng các dịch vụ AI không được phê duyệt và có thể gửi thông tin nội bộ nhạy cảm cho các mô hình bên ngoài. Nó xác định MCP bóng tối là một rủi ro liên quan liên quan đến các kết nối Giao thức ngữ cảnh mô hình không được phê duyệt với các công cụ bên ngoài hoặc hệ thống nội bộ.
Cloudflare nói với Chosunbiz rằng trước tiên các công ty nên xác định các công cụ AI đang được sử dụng nội bộ, sau đó kiểm soát quyền truy cập mạng và dữ liệu của họ. Công ty khuyến nghị chặn các lời nhắc chứa thông tin nhạy cảm và áp dụng các nguyên tắc không tin cậy đối với quyền truy cập máy chủ MCP, để người dùng chỉ có thể truy cập các ứng dụng được danh tính và quyền của họ cho phép. Những khuyến nghị này được trình bày dưới dạng hướng dẫn của Cloudflare, không phải là kết quả của tiêu chuẩn quy định được báo cáo độc lập, nghiên cứu khách hàng hoặc đánh giá có kiểm soát. Bài báo không xác định các tổ chức cụ thể đã gặp phải sự cố Shadow-AI hoặc Shadow-MCP.
Báo cáo cũng đề cập đến sự tham gia của Cloudflare trong Dự án Glasswing, một tập đoàn bảo mật được thực hiện với Anthropic. Chosunbiz báo cáo rằng Cloudflare đã nhận được quyền truy cập sớm vào mô hình Mythos AI của Anthropic để nhóm bảo mật nội bộ của họ thử nghiệm và Cloudflare cho biết các thử nghiệm cho thấy AI đã có khả năng xâu chuỗi nhiều lỗ hổng hơn và tìm ra lỗ hổng mới nhanh hơn. Bài viết không cung cấp thiết kế thử nghiệm, nhóm so sánh, kết quả đo lường hoặc xác nhận độc lập. Các giám đốc điều hành của Cloudflare lập luận rằng các tổ chức không thể chỉ dựa vào việc áp dụng các bản vá từng lỗ hổng một và nên tăng cường kiểm soát bảo mật rộng hơn.
Chi tiết nguồn: biz.chosun.com ↗
Tại sao nó quan trọng
Tác nhân AI có thể thay mặt người dùng tương tác với nhiều trang web, công cụ và hệ thống nội bộ bên ngoài, tạo ra rủi ro về bảo mật và quản trị dữ liệu khác với rủi ro của người dùng phần mềm thông thường. Báo cáo đưa ra những lo ngại thực tế xung quanh Shadow AI, Shadow MCP và chuỗi lỗ hổng, nhưng số liệu thống kê và kết quả kiểm tra quan trọng nhất của nó là các tuyên bố về Cloudflare do Chosunbiz báo cáo và chưa được xác nhận độc lập.
Ý nghĩa thực tế của báo cáo là các tác nhân AI có thể mở rộng số lượng và tốc độ tương tác giữa nhân viên, mô hình, công cụ và kho dữ liệu của công ty. Một ứng dụng thông thường có thể có một bộ quyền và đích đến được xác định, trong khi một tác nhân có thể linh hoạt chọn các công cụ hoặc dịch vụ trong phạm vi quyền hạn mà nó nhận được. Nếu các quyền đó quá rộng, tác nhân bị xâm phạm, lệnh độc hại hoặc tích hợp được quản lý kém có thể làm lộ thông tin hoặc kích hoạt các hành động ngoài dự định của người dùng. Tài khoản của Chosunbiz ủng hộ nhu cầu quản trị chặt chẽ hơn, nhưng nó không xác định tần suất xảy ra những thất bại này.
Shadow AI là một vấn đề quen thuộc của doanh nghiệp, nhưng báo cáo cho thấy MCP có thể làm cho nó trở nên quan trọng hơn trong hoạt động bằng cách kết nối các mô hình với các hệ thống có thể truy xuất thông tin hoặc thực hiện hành động. Kết nối không được phê duyệt có thể tạo ra rủi ro ngay cả khi bản thân mô hình không phải là nguồn gốc của sự cố. Do đó, sự nhấn mạnh của bài viết về quyền truy cập dựa trên danh tính và đặc quyền tối thiểu có liên quan đến các công ty áp dụng các công cụ đại lý. Tuy nhiên, Chosunbiz không đưa ra bằng chứng độc lập cho thấy MCP trong bóng tối đã phổ biến ở Hàn Quốc hoặc lượng hóa những thiệt hại do nó gây ra.
Các tuyên bố về an ninh mạng cũng có vấn đề vì AI có thể ảnh hưởng đến cả hai mặt của chu trình phòng thủ. Tài khoản của Cloudflare, theo báo cáo của Chosunbiz, mô tả các hệ thống AI đang trở nên tốt hơn trong việc liên kết các lỗ hổng với đường dẫn tấn công và phát hiện lỗ hổng nhanh hơn. Nếu được xác nhận độc lập, điều đó sẽ làm tăng áp lực lên những người bảo vệ trong việc tự động hóa việc kiểm kê, phát hiện, ưu tiên và phản hồi tài sản. Tuy nhiên, nguồn này không cung cấp chi tiết kỹ thuật nào về các thử nghiệm của Mythos và không có bằng chứng nào cho thấy những phát hiện được báo cáo chuyển thành các cuộc tấn công thành công chống lại các tổ chức thực sự. Do đó, khiếu nại phải được coi là lời cảnh báo từ một công ty bảo mật chứ không phải là thước đo được xác minh về khả năng phạm tội hiện tại.
Vấn đề hậu lượng tử làm tăng thêm mối lo ngại về cơ sở hạ tầng dài hạn. Chosunbiz báo cáo rằng Cloudflare hỗ trợ mã hóa kháng lượng tử và dự kiến sẽ cung cấp xác thực kháng lượng tử hoàn toàn vào năm 2028, trong khi một giám đốc điều hành cho biết ngành dự kiến có Ngày Q vào khoảng năm 2030. Việc di chuyển khỏi các hệ thống mật mã dễ bị tổn thương có thể mất nhiều năm vì chứng chỉ, giao thức, thiết bị và dịch vụ của bên thứ ba phải được kiểm kê và nâng cấp. Báo cáo không xác định rằng những ngày đó là dự báo đồng thuận cũng như không giải thích phạm vi hỗ trợ hiện tại của Cloudflare. Giá trị công cộng nằm ở việc nêu bật kế hoạch di cư chứ không phải coi ngày tháng là dự đoán.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Xem gì tiếp theo
Các câu hỏi chính là liệu ước tính lưu lượng truy cập của Cloudflare có thể được ghi lại một cách độc lập hay không, bao nhiêu hoạt động được báo cáo thể hiện công việc hữu ích của tác nhân thay vì yêu cầu tự động và liệu các đề xuất bảo mật của công ty có tạo ra mức giảm có thể đo lường được trong truy cập trái phép hoặc rò rỉ dữ liệu hay không. Kế hoạch đã nêu của Cloudflare nhằm hỗ trợ đầy đủ xác thực kháng lượng tử vào năm 2028 cũng là một cam kết trong tương lai chứ không phải là một hoạt động triển khai đã hoàn tất.
Đầu tiên, cần có phép đo độc lập đối với các yêu cầu về lưu lượng truy cập của Cloudflare. Báo cáo tiếp theo hữu ích sẽ xác định những gì Cloudflare được coi là tác nhân AI, liệu mức tăng 1.700% có so sánh với các khoảng thời gian tương đương hay không, liệu con số 60% áp dụng trên toàn cầu hay cho một phân khúc cụ thể cũng như cách phân tách lưu lượng truy cập của trình thu thập thông tin, tìm kiếm, suy luận và tác nhân tự trị. Nếu không có thông tin đó, số liệu thống kê sẽ hiển thị đánh giá của Cloudflare nhưng không thể mô tả một cách đáng tin cậy toàn bộ mạng Internet hoặc mạng lưới Hàn Quốc.
Thứ hai, các công ty áp dụng hệ thống đại lý nên tiết lộ cách họ kiểm kê mô hình và cách sử dụng công cụ, phê duyệt máy chủ MCP, hạn chế quyền và ngăn chặn dữ liệu nhắc nhở nhạy cảm rời khỏi môi trường được kiểm soát. Báo cáo không đưa ra bằng chứng nào cho thấy các biện pháp kiểm soát được đề xuất của Cloudflare đã được thử nghiệm độc lập. Bằng chứng tiếp theo phải bao gồm kết quả triển khai thực tế, sự cố được ghi lại, kết quả kiểm tra hoặc đánh giá so sánh cho thấy liệu các biện pháp kiểm soát không tin cậy có làm giảm các lệnh gọi công cụ trái phép, lộ dữ liệu hoặc hành động có hại hay không.
Thứ ba, Project Glasswing tuyên bố đảm bảo sự giám sát kỹ thuật. Báo cáo của Chosunbiz không cho biết lỗ hổng nào đã bị xâu chuỗi, mô hình được nhắc nhở như thế nào, liệu các thử nghiệm có sử dụng môi trường thực tế hay không, hiệu suất so với các công cụ hiện có như thế nào hay liệu Anthropic có đồng ý độc lập với cách giải thích của Cloudflare hay không. Các nhà nghiên cứu và người bảo vệ độc lập nên tìm kiếm các phương pháp có thể lặp lại và kết quả được mô tả công khai trước khi đưa ra kết luận về tốc độ phát hiện lỗ hổng hỗ trợ AI.
Cuối cùng, dòng thời gian hậu lượng tử của Cloudflare phải được theo dõi dưới dạng cam kết di chuyển và sản phẩm. Báo cáo tiếp theo có thể làm rõ những tính năng mã hóa nào đã có sẵn, xác thực kháng lượng tử đầy đủ sẽ bao gồm những gì và liệu khách hàng có phải thay đổi chứng chỉ, phần mềm hoặc phần cứng hay không. Nguồn này cũng chưa giải quyết được liệu sự gia tăng lưu lượng truy cập tác nhân AI được báo cáo tập trung vào một số ít dịch vụ lớn hay phản ánh việc áp dụng rộng rãi. Những ẩn số đó là trọng tâm để đánh giá cả mức độ khẩn cấp và tác động cộng đồng của cảnh báo Cloudflare.