Trí tuệ tổng hợp nhân tạo
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Lặn sâu
Không có định nghĩa thống nhất duy nhất về AGI. Một số người có nghĩa là 'phù hợp với các chuyên gia con người trung bình trong hầu hết các công việc tri thức', những người khác có nghĩa là 'có thể tự động hóa phần lớn các nhiệm vụ có giá trị kinh tế' và những người khác dành thuật ngữ này cho các hệ thống có thể tự cải thiện hoặc vượt xa nhân loại về khoa học và chiến lược. Định nghĩa này quan trọng vì chính sách, đầu tư và lập kế hoạch an toàn đều phụ thuộc vào thời điểm bạn nghĩ rằng những hệ thống như vậy xuất hiện và chúng có thể làm gì. Các mô hình ngôn ngữ lớn hiện tại không phải là AGI theo các định nghĩa nghiêm ngặt, nhưng chúng đã thể hiện năng lực rộng rãi và sự cải thiện nhanh chóng - đó là lý do tại sao các mốc thời gian bị tranh cãi và tại sao các nhà nghiên cứu rủi ro hiện sinh coi AGI (và các hệ thống ngoài nó) như một vấn đề lập kế hoạch trực tiếp thay vì khoa học viễn tưởng. Nếu các hệ thống cấp độ AGI có thể hoạt động với sự giám sát hạn chế thì các vấn đề liên kết và kiểm soát sẽ không còn mang tính học thuật nữa.
Hiểu biết kỹ thuật
Tiến bộ hướng tới năng lực rộng hơn chủ yếu đến từ việc mở rộng quy mô dữ liệu, tính toán và thuật toán; từ việc đào tạo sau giúp các mô hình trở nên hữu dụng hơn; và từ các công cụ/tác nhân cho phép các mô hình hoạt động trên thế giới. Những khoảng trống vẫn tồn tại ở cơ quan có tầm nhìn dài hạn đáng tin cậy, các mô hình thế giới có căn cứ và tính trung thực nhất quán. Các câu hỏi liên quan đến an toàn bao gồm: khả năng nào xuất hiện đột ngột, liệu các đánh giá có phát hiện ra chúng hay không và liệu các phòng thí nghiệm có thể tạm dừng hoặc chặn triển khai khi rủi ro gia tăng hay không.
Tác động chiến lược
Rủi ro và an toàn
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Quyết định rõ ràng hơn
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Phá vỡ sự thổi phồng
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Tương lai của trí tuệ nhân tạo tổng hợp
Dự kiến sẽ tiếp tục có cuộc tranh luận về các mốc thời gian, sự quan tâm nhiều hơn của chính phủ đối với các hoạt động đào tạo ở biên giới và áp lực xác định các ngưỡng năng lực có thể đo lường được. Đối với công chúng, bài học hữu ích không phải là một năm chính xác - đó là hướng di chuyển hướng tới các hệ thống tổng quát hơn, tự chủ hơn và công tác an toàn cần phải đi trước đường cong đó.
Triển khai trong thế giới thực
Theo dõi cách các mô hình biên giới mở rộng từ trò chuyện sang mã hóa, hỗ trợ nghiên cứu và sử dụng công cụ nhiều bước.
So sánh các định nghĩa công khai của các phòng thí nghiệm về AGI và ngưỡng mà họ đưa ra là quan trọng đối với chính sách an toàn.
Lập kế hoạch cho các tác động kinh tế và an ninh nếu các hệ thống có thể thay thế cho các lớp lao động nhận thức từ xa lớn.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Artificial General Intelligence quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Apple thông minh
Câu hỏi thường gặp
What is Artificial General Intelligence?
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Khi so sánh Trí tuệ nhân tạo tổng hợp với các lựa chọn thay thế, cách tiếp cận hữu ích nhất là gì?
Nhiệm vụ thực sự của bạn là một bài kiểm tra công bằng - mức độ phổ biến và tính mới là những tín hiệu yếu khi lựa chọn liệu Trí tuệ nhân tạo tổng hợp có phù hợp hay không.
Phản ứng tốt nhất khi Trí tuệ nhân tạo tổng hợp mắc lỗi trong sản xuất là gì?
Coi mỗi thất bại của Trí tuệ nhân tạo chung như một cơ hội để tăng cường các biện pháp bảo vệ là cách cải thiện độ tin cậy.
Khi việc sử dụng Trí tuệ nhân tạo tổng hợp mở rộng trong toàn tổ chức, điều gì có xu hướng quan trọng nhất?
Ở quy mô lớn, Trí tuệ nhân tạo tổng hợp cần được giám sát và quản lý liên tục vì các điều kiện và rủi ro ngày càng phát triển.
Khi bạn mới bắt đầu tìm hiểu về Trí tuệ nhân tạo tổng hợp, tư duy hữu ích nhất là gì?
Sự hiểu biết thực sự về Trí tuệ nhân tạo tổng quát có nghĩa là biết điểm mạnh, phương thức thất bại của nó và cách xác minh kết quả - không chỉ là định nghĩa một dòng.
Cách chính xác nhất để mô tả những gì Trí tuệ nhân tạo tổng hợp có thể làm ngày nay là gì?
Một quan điểm cân bằng thừa nhận rằng Trí tuệ nhân tạo tổng hợp có giá trị cho những nhiệm vụ phù hợp nhưng vẫn cần được quan tâm.