Tiếp theoHướng dẫn tiếp theo
Đạo luật chính sách trí tuệ nhân tạo Utah
xã hội
HƯỚNG DẪN xã hội
Trí tuệ tổng hợp nhân tạo
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Lặn sâu
Không có định nghĩa thống nhất duy nhất về AGI. Một số người có nghĩa là 'phù hợp với các chuyên gia con người trung bình trong hầu hết các công việc tri thức', những người khác có nghĩa là 'có thể tự động hóa phần lớn các nhiệm vụ có giá trị kinh tế' và những người khác dành thuật ngữ này cho các hệ thống có thể tự cải thiện hoặc vượt xa nhân loại về khoa học và chiến lược. Định nghĩa này quan trọng vì chính sách, đầu tư và lập kế hoạch an toàn đều phụ thuộc vào thời điểm bạn nghĩ rằng những hệ thống như vậy xuất hiện và chúng có thể làm gì. Các mô hình ngôn ngữ lớn hiện tại không phải là AGI theo các định nghĩa nghiêm ngặt, nhưng chúng đã thể hiện năng lực rộng rãi và sự cải thiện nhanh chóng - đó là lý do tại sao các mốc thời gian bị tranh cãi và tại sao các nhà nghiên cứu rủi ro hiện sinh coi AGI (và các hệ thống ngoài nó) như một vấn đề lập kế hoạch trực tiếp thay vì khoa học viễn tưởng. Nếu các hệ thống cấp độ AGI có thể hoạt động với sự giám sát hạn chế thì các vấn đề liên kết và kiểm soát sẽ không còn mang tính học thuật nữa.
Triển khai trong thế giới thực
Theo dõi cách các mô hình biên giới mở rộng từ trò chuyện sang mã hóa, hỗ trợ nghiên cứu và sử dụng công cụ nhiều bước.
So sánh các định nghĩa công khai của các phòng thí nghiệm về AGI và ngưỡng mà họ đưa ra là quan trọng đối với chính sách an toàn.
Lập kế hoạch cho các tác động kinh tế và an ninh nếu các hệ thống có thể thay thế cho các lớp lao động nhận thức từ xa lớn.
Tương lai của trí tuệ nhân tạo tổng hợp
Dự kiến sẽ tiếp tục có cuộc tranh luận về các mốc thời gian, sự quan tâm nhiều hơn của chính phủ đối với các hoạt động đào tạo ở biên giới và áp lực xác định các ngưỡng năng lực có thể đo lường được. Đối với công chúng, bài học hữu ích không phải là một năm chính xác - đó là hướng di chuyển hướng tới các hệ thống tổng quát hơn, tự chủ hơn và công tác an toàn cần phải đi trước đường cong đó.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
- Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
- Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
coi chừng
- Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
- Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
- Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Các bước tiếp theo
- Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
- Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
- Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
- Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the Artificial General Intelligence quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
Trí tuệ tổng hợp nhân tạo là gì?
Trí tuệ nhân tạo tổng hợp (AGI) đề cập đến các hệ thống AI có năng lực rộng, ở cấp độ con người (hoặc cao hơn) trong hầu hết các nhiệm vụ nhận thức - không chỉ một kỹ năng hẹp như dịch thuật hoặc gắn nhãn hình ảnh.
Điều gì phân biệt trí tuệ nhân tạo chung với AI hẹp?
Hệ thống hẹp vượt trội ở những nhiệm vụ cụ thể như cờ vua hoặc dịch thuật; AGI đề cập đến năng lực linh hoạt, ở cấp độ con người trong một loạt các nhiệm vụ.
Nghịch lý Moravec quan sát được điều gì?
Hans Moravec lưu ý rằng lý luận cấp cao tương đối dễ tự động hóa, trong khi các kỹ năng cảm biến vận động được tinh chỉnh bởi quá trình tiến hóa lại tỏ ra khó khăn.
Which benchmark did François Chollet propose as a concrete way to measure skill-acquisition efficiency on abstract puzzles?
ARC trình bày các câu đố dạng lưới nhỏ yêu cầu các quy tắc mới từ một vài ví dụ, nhắm mục tiêu khái quát hóa hơn là ghi nhớ kiến thức.
Giả thuyết 'bùng nổ trí tuệ' gắn liền với I. J. Good là gì?
Good đã lập luận vào năm 1965 rằng một cỗ máy siêu thông minh có thể thiết kế những cỗ máy thậm chí còn tốt hơn, dẫn đến khả năng tự cải thiện bằng đệ quy.
Bài tiểu luận 'Bài học cay đắng' của Rich Sutton lập luận về sự tiến bộ của AI?
Sutton argued that general methods using more computation have repeatedly proved more effective over time than methods built around handcrafted domain knowledge.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này