Chuyện gì đã xảy ra
The Guardian báo cáo rằng Giám đốc điều hành Anthropic Dario Amodei đã đề xuất làm chậm quá trình phát triển AI biên giới thông qua các nhà đánh giá độc lập, các thỏa thuận an toàn quốc tế và phối hợp với Trung Quốc về các vấn đề an ninh. Giám đốc điều hành OpenAI Sam Altman, giám đốc Google DeepMind Demis Hassabis và chủ sở hữu xAI Elon Musk đã công khai bày tỏ sự ủng hộ. Báo cáo cũng cho biết Donald Trump bác bỏ sự phát triển chậm lại, với lý do cạnh tranh với Trung Quốc.
The Guardian báo cáo rằng Amodei đã đưa ra một đề xuất có tiêu đề “Chúng ta phải vượt qua biên giới” sau những cảnh báo từ các nhà nghiên cứu Anthropic về những rủi ro thảm khốc tiềm tàng của AI. Ba ý tưởng trọng tâm của nó là những người đánh giá bên ngoài có quyền truy cập ở cấp độ nhân viên để giám sát rủi ro, các thỏa thuận giữa các chính phủ dân chủ về tiêu chuẩn an toàn và sự phối hợp toàn cầu với các chính phủ độc tài bao gồm cả Trung Quốc về các vấn đề an ninh.
Theo báo cáo, Altman cho biết OpenAI sẽ phù hợp với cam kết của Amodei với các nhà đánh giá độc lập, trong khi Hassabis và Musk cũng bày tỏ sự ủng hộ. Báo cáo không cung cấp toàn bộ văn bản chính về đề xuất của Amodei hoặc bằng chứng độc lập cho thấy những tuyên bố này đã đưa ra các cam kết chính thức và có thể thi hành được.
Bài báo báo cáo sự phản đối đáng kể từ các nhà phê bình quy định AI và các cựu quan chức, những người đã đặt câu hỏi liệu những người đánh giá được lựa chọn trong ngành và các miễn trừ chống độc quyền có thể có có thể dẫn đến việc nắm bắt theo quy định hay không. Nó cũng báo cáo rằng Trump đã từ chối lời kêu gọi làm chậm quá trình phát triển AI và Chủ tịch Hạ viện Mike Johnson cho biết các công ty, thay vì Quốc hội, nên dẫn đầu về an toàn AI.
Chi tiết nguồn: theguardian.com ↗
Tại sao nó quan trọng
Tập phim nêu bật xung đột ngày càng gia tăng giữa những cảnh báo công khai của các công ty AI về những rủi ro nghiêm trọng và các động cơ thương mại và địa chính trị của họ để tiếp tục phát hành các hệ thống có khả năng hơn. Các cam kết tự nguyện có thể cải thiện việc giám sát nếu người đánh giá nhận được quyền truy cập và thẩm quyền thực sự, nhưng báo cáo được cung cấp không xác nhận độc lập rằng bất kỳ công ty nào đã áp dụng các biện pháp ràng buộc. Cuộc tranh luận cũng đặt ra câu hỏi về việc liệu sự phối hợp trong ngành sẽ cải thiện sự an toàn hay củng cố vị trí dẫn đầu thị trường hiện tại.
Sự phát triển này mang tính hệ quả vì lãnh đạo của một số công ty AI lớn đang công khai thừa nhận rằng việc phát triển năng lực nhanh hơn có thể yêu cầu các biện pháp kiểm soát an toàn mạnh mẽ hơn. Quan điểm đó có thể ảnh hưởng đến quy định, quản trị doanh nghiệp và đàm phán quốc tế trong tương lai, nhưng chỉ riêng sự ủng hộ của công chúng không đủ để chứng minh rằng sự phát triển đã chậm lại hoặc các biện pháp an toàn đã thay đổi đáng kể.
Báo cáo của The Guardian cũng cho thấy sự căng thẳng về cơ cấu: các công ty có thể tìm kiếm sự phối hợp tự nguyện trong khi phản đối các quy tắc có thể hạn chế sản phẩm của họ hoặc bảo vệ đối thủ cạnh tranh. Kết quả thực tế sẽ phụ thuộc vào việc liệu những người đánh giá độc lập có thể truy cập vào các hệ thống liên quan, công bố những phát hiện đáng tin cậy và hoạt động ngoài tầm kiểm soát của công ty hay không. Những điều kiện đó vẫn chưa được giải quyết trong báo cáo được cung cấp.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Which component of an AI application is the machine-learning model itself?
Xem gì tiếp theo
Những ẩn số chính bao gồm liệu các công ty có chính thức hóa các cam kết của mình hay không, ai sẽ lựa chọn và trao quyền cho những người đánh giá bên ngoài và liệu những người đánh giá có được quyền truy cập ở cấp độ nhân viên trong thực tế hay không. Hãy theo dõi mọi vai trò được đề xuất của liên bang, cách xử lý các mối lo ngại về chống độc quyền và liệu chính quyền Trump có thay đổi quan điểm phản đối việc phát triển chậm lại hay không. Không có quyền truy cập sản phẩm, tính sẵn có hoặc thay đổi giá cả được ghi lại.
Thử nghiệm ngay lập tức là việc thực hiện. Báo cáo không thiết lập thời hạn, cơ chế thực thi, danh tính người đánh giá hoặc hậu quả đối với các công ty không tuân thủ. Báo cáo sâu hơn cần phân biệt các tuyên bố công khai với các thỏa thuận đã ký, tạm dừng hoạt động hoặc các thay đổi về an toàn được đánh giá độc lập.
Các yếu tố quốc tế và chống độc quyền của đề xuất có thể gặp phải sự phản kháng chính trị. Các nhà phê bình được trích dẫn trong báo cáo cho rằng hợp tác có thể được sử dụng để hạn chế cạnh tranh, trong khi chính quyền Mỹ tiếp tục coi vai trò lãnh đạo AI là một cuộc cạnh tranh với Trung Quốc. Liệu các nhà hoạch định chính sách có tạo ra sự giám sát có hiệu lực hay giao trách nhiệm chủ yếu cho các công ty hay không vẫn chưa được biết.