AI trong phát hiện lừa đảo
AI quét email, liên kết và trang web ở tốc độ máy để gắn cờ các tin nhắn lừa đảo cố lừa mọi người giao mật khẩu hoặc tiền.
Tổng quan
It matters because phishing remains the entry point for most data breaches, and humans alone can't keep up with the volume.
Lặn sâu
AI phát hiện lừa đảo quan tâm nhiều hơn đến lỗi chính tả. Các mô hình xử lý ngôn ngữ tự nhiên đọc văn bản email để phát hiện các dấu hiệu khẩn cấp, mạo danh và kỹ thuật xã hội ("xác minh tài khoản của bạn ngay bây giờ nếu không tài khoản sẽ bị đóng"). Các mô hình khác kiểm tra miền của người gửi, tên hiển thị không khớp và tiêu đề để phát hiện giả mạo. Trình phân tích liên kết theo dõi URL, giải mã chuyển hướng và so sánh trang đích với các mẫu thương hiệu đã biết để phát hiện các trang web tương tự. Thị giác máy tính thậm chí có thể so sánh logo và bố cục của trang đăng nhập giả với trang thật. Do những kẻ tấn công liên tục thay đổi từ ngữ và miền nên các hệ thống hiện đại kết hợp các bộ phân loại được giám sát đã được huấn luyện trên hàng triệu email được gắn nhãn với các tín hiệu hành vi, chẳng hạn như liệu bạn có thường nhận thư từ người gửi đó hay không.
Hiểu biết kỹ thuật
Một quy trình thông thường trích xuất các tính năng từ ba lớp: văn bản thông báo (nội dung nhúng NLP nắm bắt mục đích và giai điệu), siêu dữ liệu (kết quả xác thực SPF, DKIM và DMARC, tuổi tên miền, giả mạo tên hiển thị) và tải trọng (danh tiếng URL, chuỗi chuyển hướng, hộp cát đính kèm). Những cây được tăng cường độ dốc hoặc bộ phân loại máy biến áp này cung cấp điểm rủi ro. Các trang gắn cờ băm tương tự về mặt hình ảnh sao chép pixel của một thương hiệu ngay cả trên một miền hoàn toàn mới chưa có trong bất kỳ danh sách chặn nào.
Tác động chiến lược
Xây dựng lựa chọn
Thiết kế cấp ứng dụng xác định liệu AI có cải thiện kết quả thực tế hay không.
Nhóm và quy trình làm việc
Tích hợp quy trình làm việc tốt sẽ giúp tăng năng suất mà người dùng có thể tin tưởng.
Rủi ro và an toàn
Các trường hợp sử dụng có phạm vi phù hợp giúp giảm bớt sự mệt mỏi khi thay đổi và rủi ro triển khai.
Tương lai của AI trong việc phát hiện lừa đảo
Sự thay đổi lớn nhất là cuộc chạy đua vũ trang giữa AI và AI. Các mô hình sáng tạo hiện viết các giọng nói giả mạo và lừa đảo hoàn hảo, được cá nhân hóa để 'vishing', vì vậy những người bảo vệ đang huấn luyện các trình phát hiện về văn bản do AI tạo ra và thêm các kiểm tra âm thanh giả mạo sâu. Mong đợi sự tích hợp chặt chẽ hơn với phân tích danh tính và hành vi, cảnh báo trình duyệt theo thời gian thực trước khi nhập mật khẩu và các mô hình giải thích lý do tại sao một tin nhắn đáng ngờ để người dùng tìm hiểu thay vì chỉ nhấp qua các cảnh báo.
Triển khai trong thế giới thực
Gmail và Microsoft 365 tự động định tuyến hành vi lừa đảo bị nghi ngờ thành thư rác và hiển thị cảnh báo biểu ngữ màu đỏ trên thư bên ngoài nguy hiểm
Các ngân hàng sử dụng URL và phân tích độ tương tự về hình ảnh để gỡ bỏ các trang đăng nhập trông giống bắt chước trang web thật của họ
Các tính năng duyệt web an toàn của trình duyệt chặn một trang ngay khi nó khớp với mẫu thu thập thông tin xác thực đã biết
Các nền tảng bảo mật quét email nội bộ của công ty để phát hiện các nỗ lực xâm phạm email doanh nghiệp mạo danh CEO yêu cầu chuyển khoản ngân hàng
Rủi ro & lan can
Tự động hóa một quy trình bị hỏng có thể khuếch đại các vấn đề hiện có.
Các nhóm có thể tự động hóa quá mức và loại bỏ sự phán xét cần thiết của con người.
Chất lượng có thể thay đổi nếu kết quả đầu ra không được đánh giá liên tục.
Lộ trình thực hiện
Lập sơ đồ quy trình làm việc hiện tại và xác định bước có mức độ ma sát cao nhất.
Xác định các điểm kiểm tra của con người trước khi tự động hóa hoàn toàn.
Đào tạo người dùng về lời nhắc, đường dẫn leo thang và tiêu chuẩn chất lượng.
Theo dõi kết quả ở cấp độ nhiệm vụ để xác nhận giá trị bền vững.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Phishing Detection quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
AI trong phát hiện cháy rừng
Câu hỏi thường gặp
What is AI in Phishing Detection?
AI quét email, liên kết và trang web ở tốc độ máy để gắn cờ các tin nhắn lừa đảo cố lừa mọi người giao mật khẩu hoặc tiền. Điều này quan trọng vì lừa đảo vẫn là điểm khởi đầu của hầu hết các vụ vi phạm dữ liệu và chỉ riêng con người không thể theo kịp số lượng.
Tín hiệu nào mà trình phát hiện lừa đảo dựa trên NLP có nhiều khả năng gắn cờ nhất trong nội dung thư?
Các mô hình NLP được đào tạo để phát hiện các tín hiệu kỹ thuật xã hội như tính cấp bách, mối đe dọa và ngôn ngữ mạo danh gây áp lực cho người đọc phải hành động nhanh chóng.
Việc kiểm tra SPF, DKIM và DMARC chủ yếu giúp phát hiện điều gì?
Các tiêu chuẩn xác thực email này xác minh rằng thư thực sự đến từ miền mà nó xác nhận, giúp phát hiện những người gửi giả mạo.
Tại sao phân tích độ tương đồng về hình ảnh có thể phát hiện các trang lừa đảo mà danh sách chặn URL bỏ sót?
Những kẻ tấn công đăng ký các miền mới chưa có trong bất kỳ danh sách chặn nào, nhưng hàm băm trực quan nhận ra rằng trang sao chép pixel của thương hiệu hợp pháp.
Điều gì khiến việc phát hiện lừa đảo trở thành một 'cuộc chạy đua vũ trang' đang diễn ra?
Bởi vì những kẻ tấn công liên tục phát triển chiến thuật của chúng, bao gồm cả mồi nhử do AI viết ra, nên các máy dò phải được đào tạo lại liên tục để theo kịp.
Tín hiệu hành vi cải thiện khả năng phát hiện bằng cách xem xét điều gì?
Việc biết người gửi là điều bất thường đối với một người nhận cụ thể sẽ bổ sung thêm ngữ cảnh mà một tin nhắn được xem riêng lẻ sẽ không tiết lộ.