HƯỚNG DẪN xã hội

Công ước khung của Hội đồng Châu Âu về AI

Công ước khung của Hội đồng Châu Âu về Trí tuệ nhân tạo và Nhân quyền, Dân chủ và Pháp quyền là hiệp ước quốc tế ràng buộc về mặt pháp lý đầu tiên về AI.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Công ước khung của Hội đồng Châu Âu về AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Các quốc gia phê chuẩn nó phải đảm bảo các hệ thống AI được sử dụng trong toàn bộ vòng đời của chúng tôn trọng nhân quyền, các quy trình dân chủ và pháp quyền. Nó quan trọng vì nó đặt ra các nghĩa vụ pháp lý chung vượt ra ngoài châu Âu và các quốc gia ngoài châu Âu có thể tham gia.

Lặn sâu

The Convention was negotiated by the Council of Europe's Committee on Artificial Intelligence (CAI). The Council of Europe's 46 member states took part, along with the European Union and observer countries such as the United States, Canada, Japan, Israel and Australia. The Committee of Ministers adopted the text on 17 May 2024, and it opened for signature in Vilnius on 5 September 2024. The first signatories included the United Kingdom, the United States, the EU, Norway, Israel, Iceland, Georgia, Moldova, Andorra and San Marino, and other states signed later. It comes into force after five ratifications, of which at least three must be Council of Europe member states. The treaty sets general principles rather than detailed technical rules. The principles are human dignity and individual autonomy, equality and non-discrimination, privacy and personal data protection, transparency and oversight, accountability and responsibility, reliability, and safe innovation. Parties must also provide remedies. That means documenting relevant information about AI systems, letting people challenge decisions, offering procedural safeguards, and telling people when they are dealing with an AI system. The scope is a compromise. The treaty applies fully to public authorities and to private actors acting on their behalf. For the rest of the private sector, each party can apply the treaty's obligations directly or take other appropriate measures. Activities to protect national security are excluded, as are matters of national defence and research and development on systems not yet made available for use. A common misconception is that the treaty is a copy of the EU AI Act. The AI Act is an EU regulation that sorts systems into risk tiers and sets product-safety style obligations. The Convention is an international human-rights instrument. The EU signed it and relies mainly on the AI Act and existing EU law to meet its duties.

Triển khai trong thế giới thực

Cơ quan chính phủ sử dụng công cụ AI để cảnh báo gian lận lợi ích sẽ cần đánh giá rủi ro và tác động, cung cấp tài liệu cũng như cách thức để những người bị ảnh hưởng phản đối các quyết định ảnh hưởng đáng kể đến quyền lợi của họ.

Một công dân khi nói chuyện với chatbot dịch vụ công cộng nên được thông báo rằng họ đang tương tác với hệ thống AI chứ không phải con người.

Quốc gia phê chuẩn có thể quyết định rằng các công ty tư nhân sử dụng AI trong tuyển dụng phải trực tiếp đáp ứng các nguyên tắc của hiệp ước hoặc có thể thực hiện các biện pháp thích hợp khác để đạt được các mục tiêu tương tự.

Cơ quan bầu cử lo lắng về thông tin sai lệch do AI điều khiển có thể chỉ ra nhiệm vụ của hiệp ước là bảo vệ tính toàn vẹn của các quy trình dân chủ khi thiết kế các biện pháp bảo vệ.

Tương lai của Công ước khung của Hội đồng Châu Âu về AI

Mức độ quan trọng của Công ước sẽ phụ thuộc vào mức độ phê chuẩn và mức độ nghiêm khắc của các quốc gia đối với khu vực tư nhân. Các quốc gia lựa chọn "các biện pháp thích hợp khác" có thể thực hiện nó hoàn toàn khác với các quốc gia áp dụng trực tiếp cho các công ty. Hội nghị các bên và các công cụ như HUDERIA có thể dần dần xây dựng những kỳ vọng chung, giống như các hiệp ước trước đây của Hội đồng Châu Âu đã làm về bảo vệ dữ liệu. Theo dõi những quốc gia ngoài châu Âu nào phê chuẩn nó, cách các tòa án quốc gia sử dụng nó và cách nó tương tác với Đạo luật AI của EU và luật AI quốc gia. Phạm vi của nó rất rộng, nhưng việc thực thi dựa vào hệ thống quốc gia hơn là cơ quan quản lý quốc tế.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Tham gia Công ước khung của Hội đồng Châu Âu về bài kiểm tra AI

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Công ước khung của Hội đồng Châu Âu về AI là gì?

Công ước khung của Hội đồng Châu Âu về Trí tuệ nhân tạo và Nhân quyền, Dân chủ và Pháp quyền là hiệp ước quốc tế ràng buộc về mặt pháp lý đầu tiên về AI. Các quốc gia phê chuẩn nó phải đảm bảo các hệ thống AI được sử dụng trong toàn bộ vòng đời của chúng tôn trọng nhân quyền, các quy trình dân chủ và pháp quyền. Nó quan trọng vì nó đặt ra các nghĩa vụ pháp lý chung vượt ra ngoài châu Âu và các quốc gia ngoài châu Âu có thể tham gia.

Điều gì làm cho Công ước khung của Hội đồng Châu Âu về AI có tính lịch sử đáng chú ý?

Công ước là hiệp ước AI quốc tế đầu tiên ràng buộc các quốc gia phê chuẩn nó. Các quy tắc tự nguyện và quy định của EU là những loại công cụ khác nhau.

Công ước được mở ký ở đâu vào tháng 9 năm 2024?

Nó được mở để ký kết tại Vilnius, Lithuania, vào ngày 5 tháng 9 năm 2024, trong một hội nghị cấp bộ trưởng của Hội đồng Châu Âu.

Hiệp ước xử lý các công ty tư nhân không làm việc cho cơ quan công quyền như thế nào?

Đây là một sự thỏa hiệp được thương lượng. Khu vực công được bảo vệ đầy đủ và mỗi tiểu bang chọn cách giải quyết việc sử dụng AI của khu vực tư nhân khác.

Những hoạt động nào được loại trừ khỏi phạm vi của hiệp ước?

Loại trừ các hoạt động bảo vệ an ninh quốc gia, quốc phòng. R&D trên các hệ thống cũng chưa được đưa vào sử dụng.

HUDERIA là gì?

HUDERIA được CAI thông qua để giúp đánh giá tác động của AI đối với nhân quyền, dân chủ và pháp quyền. Đó là hướng dẫn, không phải là một phần ràng buộc của hiệp ước.