Trí tuệ tổng hợp nhân tạo
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Tổng quan
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Trí tuệ nhân tạo tổng hợp nằm ở điểm giao thoa giữa năng lực, quyền lực và sự lựa chọn của công chúng - nơi mà sự an toàn, quản trị và tính hợp pháp quyết định liệu AI tiên tiến sẽ giúp ích hay gây hại trên quy mô lớn.
Lặn sâu
Không có định nghĩa thống nhất duy nhất về AGI. Một số người có nghĩa là 'phù hợp với các chuyên gia con người trung bình trong hầu hết các công việc tri thức', những người khác có nghĩa là 'có thể tự động hóa phần lớn các nhiệm vụ có giá trị kinh tế' và những người khác dành thuật ngữ này cho các hệ thống có thể tự cải thiện hoặc vượt xa nhân loại về khoa học và chiến lược. Định nghĩa này quan trọng vì chính sách, đầu tư và lập kế hoạch an toàn đều phụ thuộc vào thời điểm bạn nghĩ rằng những hệ thống như vậy xuất hiện và chúng có thể làm gì. Các mô hình ngôn ngữ lớn hiện tại không phải là AGI theo các định nghĩa nghiêm ngặt, nhưng chúng đã thể hiện năng lực rộng rãi và sự cải thiện nhanh chóng - đó là lý do tại sao các mốc thời gian bị tranh cãi và tại sao các nhà nghiên cứu rủi ro hiện sinh coi AGI (và các hệ thống ngoài nó) như một vấn đề lập kế hoạch trực tiếp thay vì khoa học viễn tưởng. Nếu các hệ thống cấp độ AGI có thể hoạt động với sự giám sát hạn chế thì các vấn đề liên kết và kiểm soát sẽ không còn mang tính học thuật nữa.
Hiểu biết kỹ thuật
Tiến bộ hướng tới năng lực rộng hơn chủ yếu đến từ việc mở rộng quy mô dữ liệu, tính toán và thuật toán; từ việc đào tạo sau giúp các mô hình trở nên hữu dụng hơn; và từ các công cụ/tác nhân cho phép các mô hình hoạt động trên thế giới. Những khoảng trống vẫn tồn tại ở cơ quan có tầm nhìn dài hạn đáng tin cậy, các mô hình thế giới có căn cứ và tính trung thực nhất quán. Các câu hỏi liên quan đến an toàn bao gồm: khả năng nào xuất hiện đột ngột, liệu các đánh giá có phát hiện ra chúng hay không và liệu các phòng thí nghiệm có thể tạm dừng hoặc chặn triển khai khi rủi ro gia tăng hay không.
Làm chủ trí tuệ tổng hợp nhân tạo
Để xây dựng sự hiểu biết sâu sắc, hãy coi Trí tuệ nhân tạo tổng hợp như một mô hình vận hành chứ không phải một tính năng đơn lẻ. Xác định các kết quả mong muốn, làm rõ các giả định và tách biệt những gì hệ thống có thể thực hiện một cách đáng tin cậy với những gì vẫn cần đến sự đánh giá của chuyên gia.
Trong thực tế, các nhóm mạnh sử dụng Trí tuệ tổng hợp nhân tạo sẽ kết hợp khả năng tăng trưởng với quản trị, an toàn và cơ cấu trách nhiệm giải trình rõ ràng. Họ ghi lại các tiêu chí thành công rõ ràng, kiểm tra dựa trên dữ liệu và quy trình làm việc thực tế, đồng thời lặp lại dựa trên các kiểu thất bại được quan sát thay vì chiến thắng điểm chuẩn một lần. Đây là nơi sự hiểu biết về mặt lý thuyết biến thành khả năng bền vững trên toàn bộ sản phẩm, chính sách và hoạt động.
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động. Đồng thời, Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp. Cách tiếp cận linh hoạt nhất là kết hợp tốc độ thử nghiệm với kỷ luật quản trị: chạy thử nghiệm, thu thập bằng chứng, xuất bản nhật ký quyết định và liên tục cập nhật các biện pháp bảo vệ khi hành vi của mô hình, kỳ vọng của người dùng và các yêu cầu pháp lý phát triển.
Tác động chiến lược
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ. Trong quá trình triển khai chất lượng cao, điều này được chuyển thành các quy tắc vận hành, ranh giới quyền sở hữu và quy trình đánh giá định kỳ có thể đo lường được để các nhóm có thể mở rộng quy mô một cách tự tin thay vì mở rộng quy mô sự mơ hồ.
Triển khai trong thế giới thực
Theo dõi cách các mô hình biên giới mở rộng từ trò chuyện sang mã hóa, hỗ trợ nghiên cứu và sử dụng công cụ nhiều bước.
So sánh các định nghĩa công khai của các phòng thí nghiệm về AGI và ngưỡng mà họ đưa ra là quan trọng đối với chính sách an toàn.
Lập kế hoạch cho các tác động kinh tế và an ninh nếu các hệ thống có thể thay thế cho các lớp lao động nhận thức từ xa lớn.
Xây dựng quy trình làm việc Trí tuệ nhân tạo tổng hợp có thể lặp lại với các tiêu chí thành công rõ ràng và các điểm kiểm tra đánh giá của con người.
Các mẫu triển khai
Trí tuệ tổng hợp nhân tạo trong thực tế
Theo dõi cách các mô hình biên giới mở rộng từ trò chuyện sang mã hóa, hỗ trợ nghiên cứu và sử dụng công cụ nhiều bước.
Các nhóm thường nhận được kết quả tốt hơn khi họ xác định ngay từ đầu các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất cũng như chi phí do lỗi theo thời gian.
Trí tuệ tổng hợp nhân tạo trong thực tế
So sánh các định nghĩa công khai của các phòng thí nghiệm về AGI và ngưỡng mà họ đưa ra là quan trọng đối với chính sách an toàn.
Các nhóm thường nhận được kết quả tốt hơn khi họ xác định ngay từ đầu các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất cũng như chi phí do lỗi theo thời gian.
Trí tuệ tổng hợp nhân tạo trong thực tế
Lập kế hoạch cho các tác động kinh tế và an ninh nếu các hệ thống có thể thay thế cho các lớp lao động nhận thức từ xa lớn.
Các nhóm thường nhận được kết quả tốt hơn khi họ xác định ngay từ đầu các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất cũng như chi phí do lỗi theo thời gian.
Trí tuệ tổng hợp nhân tạo trong thực tế
Xây dựng quy trình làm việc Trí tuệ nhân tạo tổng hợp có thể lặp lại với các tiêu chí thành công rõ ràng và các điểm kiểm tra đánh giá của con người.
Các nhóm thường nhận được kết quả tốt hơn khi họ xác định ngay từ đầu các ngưỡng chất lượng, duy trì lộ trình leo thang của con người đối với các trường hợp khó khăn và theo dõi cả mức tăng năng suất cũng như chi phí do lỗi theo thời gian.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hãy coi đây như một cổng bằng chứng: nếu không đáp ứng các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Hãy coi đây như một cổng bằng chứng: nếu không đáp ứng các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Hãy coi đây như một cổng bằng chứng: nếu không đáp ứng các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Hãy coi đây như một cổng bằng chứng: nếu không đáp ứng các tiêu chí, hãy tạm dừng triển khai, thu hẹp khoảng cách và chỉ sau đó mới mở rộng mức sử dụng.
Tiếp tục khám phá
Check your understanding
Test yourself: take the Artificial General Intelligence quiz