Đạo luật AI của EU
Đạo luật AI của EU là luật toàn diện đầu tiên trên thế giới điều chỉnh trí tuệ nhân tạo, phân loại các hệ thống AI thành các cấp độ rủi ro với các quy tắc mở rộng khi mối nguy hiểm gia tăng.
Tổng quan
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
Lặn sâu
Được thông qua vào năm 2024, Đạo luật AI của EU áp dụng cách tiếp cận dựa trên rủi ro. Nó cấm hoàn toàn một số hành vi 'rủi ro không thể chấp nhận được', chẳng hạn như chấm điểm xã hội của chính phủ, các kỹ thuật ngầm mang tính thao túng và cạo khuôn mặt không có mục tiêu để xây dựng cơ sở dữ liệu nhận dạng. Các hệ thống 'rủi ro cao', như AI được sử dụng trong tuyển dụng, chấm điểm tín dụng, thiết bị y tế hoặc cơ sở hạ tầng quan trọng, phải đối mặt với các nghĩa vụ nghiêm ngặt: quản lý rủi ro, dữ liệu chất lượng cao, giám sát con người, ghi nhật ký và đánh giá sự phù hợp trước khi gia nhập thị trường. Các công cụ 'có rủi ro hạn chế' như chatbot phải tiết lộ một cách đơn giản rằng người dùng đang tương tác với AI. Các mô hình AI có mục đích chung, bao gồm các mô hình ngôn ngữ lớn, thực hiện các nhiệm vụ về tính minh bạch và tài liệu của riêng chúng, với sự giám sát chặt chẽ hơn đối với các mô hình 'rủi ro hệ thống' có khả năng nhất. Mức phạt lên tới 35 triệu euro hoặc 7% doanh thu toàn cầu.
Hiểu biết kỹ thuật
Đạo luật quy định theo trường hợp sử dụng, không phải theo thuật toán. Cùng một mô hình có thể có rủi ro thấp ở sản phẩm này và rủi ro cao ở sản phẩm khác, tùy thuộc vào bối cảnh. Các nhà cung cấp có rủi ro cao phải duy trì tài liệu kỹ thuật, lưu giữ nhật ký sự kiện tự động để truy xuất nguồn gốc, đảm bảo các bộ dữ liệu có liên quan và mang tính đại diện để hạn chế sai lệch, đồng thời xây dựng cơ chế giám sát có ý nghĩa của con người. Đối với các mô hình có mục đích chung, nhà cung cấp xuất bản các bản tóm tắt dữ liệu đào tạo và trên ngưỡng tính toán (10^25 FLOP), tiến hành đánh giá mô hình và thử nghiệm đối thủ.
Tác động chiến lược
Rủi ro và an toàn
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Quyết định rõ ràng hơn
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Phá vỡ sự thổi phồng
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Tương lai của Đạo luật AI của EU
Đạo luật được thực hiện trong nhiều năm: các lệnh cấm thực hành bị cấm áp dụng lần đầu tiên vào đầu năm 2025, tuân theo các quy tắc mô hình có mục đích chung và hầu hết các nghĩa vụ có rủi ro cao sẽ có hiệu lực từ năm 2026 đến năm 2027. Mong đợi các tiêu chuẩn kỹ thuật hài hòa từ CEN-CENELEC để xác định chính xác cách đo lường sự tuân thủ, cùng với các hộp cát quy định dành cho các công ty khởi nghiệp. Giống như GDPR trước đó, Đạo luật có thể sẽ định hình luật AI trên toàn thế giới khi các khu vực pháp lý khác mượn cấu trúc cấp độ rủi ro của nó, ngay cả khi các nhà phê bình tranh luận liệu nó có làm chậm sự đổi mới của châu Âu hay không.
Triển khai trong thế giới thực
Ngân hàng triển khai công cụ chấm điểm tín dụng AI phải ghi lại dữ liệu đào tạo của mình, kiểm tra độ sai lệch và giúp con người có thể xem xét và ghi đè các khoản từ chối cho vay tự động.
Bệnh viện sử dụng AI để phân loại quét y tế phải vượt qua đánh giá sự phù hợp và đăng ký hệ thống có rủi ro cao trong cơ sở dữ liệu của EU trước khi sử dụng lâm sàng.
Chatbot dịch vụ khách hàng phải thông báo rõ ràng cho người dùng rằng họ đang nói chuyện với AI chứ không phải con người, theo quy tắc minh bạch về rủi ro hạn chế.
Nhà sản xuất mô hình ngôn ngữ lớn trên ngưỡng tính toán phải chạy thử nghiệm đối thủ của nhóm đỏ và báo cáo các sự cố nghiêm trọng cho Văn phòng AI của EU.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Quản lý AI ISO/IEC 42001
Câu hỏi thường gặp
What is EU AI Act?
Đạo luật AI của EU là luật toàn diện đầu tiên trên thế giới điều chỉnh trí tuệ nhân tạo, phân loại các hệ thống AI thành các cấp độ rủi ro với các quy tắc mở rộng khi mối nguy hiểm gia tăng. Nó quan trọng vì nó đặt ra một tiêu chuẩn toàn cầu trên thực tế mà bất kỳ công ty nào bán AI vào EU đều phải tuân theo.
Đạo luật AI của EU sử dụng nguyên tắc tổ chức nào để đặt ra các quy tắc của mình?
Đạo luật sắp xếp AI thành các cấp độ rủi ro (không thể chấp nhận, cao, hạn chế, tối thiểu) dựa trên trường hợp sử dụng và tác hại tiềm ẩn, chứ không phải dựa trên quy mô công ty hoặc loại thuật toán.
Hành vi nào sau đây là hành vi 'rủi ro không thể chấp nhận được' bị Đạo luật cấm hoàn toàn?
Tính điểm xã hội của chính phủ là một trong những hành vi bị cấm, cùng với các kỹ thuật ngầm mang tính thao túng và việc quét nhận dạng khuôn mặt không có mục tiêu.
Nghĩa vụ chính đối với một hệ thống 'có rủi ro hạn chế' như chatbot là gì?
Các hệ thống có rủi ro hạn chế chủ yếu thực hiện các nhiệm vụ minh bạch, chẳng hạn như thông báo cho người dùng rằng họ đang làm việc với AI chứ không phải con người.
Hình phạt tài chính tối đa theo Đạo luật AI của EU là bao nhiêu?
Mức phạt cao nhất lên tới 35 triệu euro hoặc 7% doanh thu hàng năm trên toàn thế giới, tùy theo mức nào cao hơn, đối với những vi phạm nghiêm trọng nhất.
Đạo luật xử lý cùng một mô hình AI được sử dụng trong hai sản phẩm khác nhau như thế nào?
Do Đạo luật quy định theo từng trường hợp sử dụng nên một mô hình có thể có rủi ro cao đối với một công cụ tuyển dụng nhưng lại có rủi ro thấp trong một ứng dụng khác.