Tổng quan
Đạo luật AI của EU là luật toàn diện đầu tiên trên thế giới điều chỉnh trí tuệ nhân tạo, phân loại các hệ thống AI thành các cấp độ rủi ro với các quy tắc mở rộng khi mối nguy hiểm gia tăng. Nó quan trọng vì nó đặt ra một tiêu chuẩn toàn cầu trên thực tế mà bất kỳ công ty nào bán AI vào EU đều phải tuân theo.
Đạo luật AI của EU thuộc lớp xã hội và quản trị của AI, trong đó chính sách, trách nhiệm giải trình và niềm tin của công chúng định hình tác động lâu dài.
Lặn sâu
Được thông qua vào năm 2024, Đạo luật AI của EU áp dụng cách tiếp cận dựa trên rủi ro. Nó cấm hoàn toàn một số hành vi 'rủi ro không thể chấp nhận được', chẳng hạn như chấm điểm xã hội của chính phủ, các kỹ thuật ngầm mang tính thao túng và cạo khuôn mặt không có mục tiêu để xây dựng cơ sở dữ liệu nhận dạng. Các hệ thống 'rủi ro cao', như AI được sử dụng trong tuyển dụng, chấm điểm tín dụng, thiết bị y tế hoặc cơ sở hạ tầng quan trọng, phải đối mặt với các nghĩa vụ nghiêm ngặt: quản lý rủi ro, dữ liệu chất lượng cao, giám sát con người, ghi nhật ký và đánh giá sự phù hợp trước khi gia nhập thị trường. Các công cụ 'có rủi ro hạn chế' như chatbot phải tiết lộ một cách đơn giản rằng người dùng đang tương tác với AI. Các mô hình AI có mục đích chung, bao gồm các mô hình ngôn ngữ lớn, thực hiện các nhiệm vụ về tính minh bạch và tài liệu của riêng chúng, với sự giám sát chặt chẽ hơn đối với các mô hình 'rủi ro hệ thống' có khả năng nhất. Mức phạt lên tới 35 triệu euro hoặc 7% doanh thu toàn cầu.
Hiểu biết kỹ thuật
Đạo luật quy định theo trường hợp sử dụng, không phải theo thuật toán. Cùng một mô hình có thể có rủi ro thấp ở sản phẩm này và rủi ro cao ở sản phẩm khác, tùy thuộc vào bối cảnh. Các nhà cung cấp có rủi ro cao phải duy trì tài liệu kỹ thuật, lưu giữ nhật ký sự kiện tự động để truy xuất nguồn gốc, đảm bảo các bộ dữ liệu có liên quan và mang tính đại diện để hạn chế sai lệch, đồng thời xây dựng cơ chế giám sát có ý nghĩa của con người. Đối với các mô hình có mục đích chung, nhà cung cấp xuất bản các bản tóm tắt dữ liệu đào tạo và trên ngưỡng tính toán (10^25 FLOP), tiến hành đánh giá mô hình và thử nghiệm đối thủ.
Nắm vững Đạo luật AI của EU
Đạo luật AI của EU là luật toàn diện đầu tiên trên thế giới điều chỉnh trí tuệ nhân tạo, phân loại các hệ thống AI thành các cấp độ rủi ro với các quy tắc mở rộng khi mối nguy hiểm gia tăng. Nó quan trọng vì nó đặt ra một tiêu chuẩn toàn cầu trên thực tế mà bất kỳ công ty nào bán AI vào EU đều phải tuân theo. Đạo luật AI của EU thuộc lớp xã hội và quản trị của AI, trong đó chính sách, trách nhiệm giải trình và niềm tin của công chúng định hình tác động lâu dài. Để xây dựng sự hiểu biết sâu sắc, hãy coi Đạo luật AI của EU như một mô hình vận hành chứ không phải một tính năng duy nhất: xác định kết quả mong muốn, làm rõ các giả định và tách biệt những gì hệ thống có thể thực hiện một cách đáng tin cậy với những gì vẫn cần đến sự đánh giá của chuyên gia.
Trên thực tế, các nhóm mạnh sử dụng Đạo luật AI của EU kết hợp tăng trưởng năng lực với cơ cấu quản trị, an toàn và trách nhiệm giải trình rõ ràng. Họ ghi lại các tiêu chí thành công rõ ràng, kiểm tra dựa trên dữ liệu và quy trình làm việc thực tế, đồng thời lặp lại dựa trên các kiểu thất bại được quan sát thay vì chiến thắng điểm chuẩn một lần. Đây là nơi sự hiểu biết về mặt lý thuyết biến thành khả năng bền vững trên toàn bộ sản phẩm, chính sách và hoạt động.
Các quyết định của xã hội quyết định ai được lợi và ai chịu rủi ro. Đồng thời, các tuyên bố của Broad có thể lan truyền nhanh hơn bằng chứng và sự giám sát có trách nhiệm. Cách tiếp cận linh hoạt nhất là kết hợp tốc độ thử nghiệm với kỷ luật quản trị: chạy thử nghiệm, thu thập bằng chứng, xuất bản nhật ký quyết định và liên tục cập nhật các biện pháp bảo vệ khi hành vi của mô hình, kỳ vọng của người dùng và các yêu cầu pháp lý phát triển.
Tác động chiến lược
Các quyết định của xã hội quyết định ai được lợi và ai chịu rủi ro.
Các quyết định của xã hội quyết định ai được lợi và ai chịu rủi ro. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Các tổ chức công, trường học và doanh nghiệp đều dựa vào quản trị AI rõ ràng.
Các tổ chức công, trường học và doanh nghiệp đều dựa vào quản trị AI rõ ràng. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Thiết kế chính sách tốt có thể cải thiện sự an toàn mà không cản trở sự đổi mới hữu ích.
Thiết kế chính sách tốt có thể cải thiện sự an toàn mà không cản trở sự đổi mới hữu ích. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Triển khai trong thế giới thực
Ngân hàng triển khai công cụ chấm điểm tín dụng AI phải ghi lại dữ liệu đào tạo của mình, kiểm tra độ sai lệch và giúp con người có thể xem xét và ghi đè các khoản từ chối cho vay tự động.
Bệnh viện sử dụng AI để phân loại quét y tế phải vượt qua đánh giá sự phù hợp và đăng ký hệ thống có rủi ro cao trong cơ sở dữ liệu của EU trước khi sử dụng lâm sàng.
Chatbot dịch vụ khách hàng phải thông báo rõ ràng cho người dùng rằng họ đang nói chuyện với AI chứ không phải con người, theo quy tắc minh bạch về rủi ro hạn chế.
Nhà sản xuất mô hình ngôn ngữ lớn trên ngưỡng tính toán phải chạy thử nghiệm đối thủ của nhóm đỏ và báo cáo các sự cố nghiêm trọng cho Văn phòng AI của EU.
Các mẫu triển khai
Đạo luật AI của EU trên thực tế
Ngân hàng triển khai công cụ chấm điểm tín dụng AI phải ghi lại dữ liệu đào tạo của mình, kiểm tra độ sai lệch và giúp con người có thể xem xét và ghi đè các khoản từ chối cho vay tự động.
Ngân hàng triển khai công cụ chấm điểm tín dụng AI phải ghi lại dữ liệu đào tạo của mình, kiểm tra độ sai lệch và giúp con người có thể xem xét và ghi đè các từ chối cho vay tự động. Các nhóm thường nhận được kết quả tốt hơn khi họ xác định trước ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất và chi phí sai sót theo thời gian.
Đạo luật AI của EU trên thực tế
Bệnh viện sử dụng AI để phân loại quét y tế phải vượt qua đánh giá sự phù hợp và đăng ký hệ thống có rủi ro cao trong cơ sở dữ liệu của EU trước khi sử dụng lâm sàng.
Một bệnh viện sử dụng AI để phân loại các lần quét y tế phải vượt qua đánh giá sự phù hợp và đăng ký hệ thống có rủi ro cao trong cơ sở dữ liệu của EU trước khi sử dụng lâm sàng. Các nhóm thường nhận được kết quả tốt hơn khi họ xác định trước ngưỡng chất lượng, theo dõi lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất và chi phí lỗi theo thời gian.
Đạo luật AI của EU trên thực tế
Chatbot dịch vụ khách hàng phải thông báo rõ ràng cho người dùng rằng họ đang nói chuyện với AI chứ không phải con người, theo quy tắc minh bạch về rủi ro hạn chế.
Chatbot dịch vụ khách hàng phải thông báo rõ ràng cho người dùng rằng họ đang nói chuyện với AI chứ không phải tác nhân con người, theo quy tắc minh bạch về rủi ro hạn chế. Các nhóm thường đạt được kết quả tốt hơn khi xác định trước các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất và chi phí lỗi theo thời gian.
Đạo luật AI của EU trên thực tế
Nhà sản xuất mô hình ngôn ngữ lớn trên ngưỡng tính toán phải chạy thử nghiệm đối thủ của nhóm đỏ và báo cáo các sự cố nghiêm trọng cho Văn phòng AI của EU.
Nhà sản xuất mô hình ngôn ngữ lớn trên ngưỡng điện toán phải chạy thử nghiệm đối lập với nhóm đỏ và báo cáo các sự cố nghiêm trọng cho Nhóm Văn phòng AI của EU thường nhận được kết quả tốt hơn khi họ xác định trước các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất và chi phí lỗi theo thời gian.
Rủi ro & lan can
Những tuyên bố rộng rãi có thể lan truyền nhanh hơn bằng chứng và sự giám sát có trách nhiệm.
Quản trị yếu kém có thể để lại lỗ hổng về trách nhiệm giải trình khi tác hại xảy ra.
Quyền lực có thể tập trung khi khả năng tiếp cận, tính minh bạch và sự giám sát bị hạn chế.
Lộ trình thực hiện
Xác định các bên liên quan bị ảnh hưởng và những tác hại quan trọng nhất.
Xác định các bên liên quan bị ảnh hưởng và những tác hại quan trọng nhất. Hãy coi mỗi bước như một cổng bằng chứng: nếu không đáp ứng được các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Đặt yêu cầu về tính minh bạch cho dữ liệu, mô hình và quyết định.
Đặt yêu cầu về tính minh bạch cho dữ liệu, mô hình và quyết định. Hãy coi mỗi bước như một cổng bằng chứng: nếu không đáp ứng được các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Thêm đánh giá độc lập hoặc thử nghiệm của nhóm đỏ cho các hệ thống có rủi ro cao.
Thêm đánh giá độc lập hoặc thử nghiệm của nhóm đỏ cho các hệ thống có rủi ro cao. Hãy coi mỗi bước như một cổng bằng chứng: nếu không đáp ứng được các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Cập nhật chính sách và biện pháp kiểm soát khi khả năng và cách sử dụng phát triển.
Cập nhật chính sách và biện pháp kiểm soát khi khả năng và cách sử dụng phát triển. Hãy coi mỗi bước như một cổng bằng chứng: nếu không đáp ứng được các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.