Huyền thoại về AI

Một quan niệm sai lầm cho rằng những câu trả lời trôi chảy là những câu trả lời đã được xác minh. Một mô hình có thể tạo ra văn xuôi hợp lý mà không cần kiểm tra nguồn. Kiểm tra bằng chứng và phân biệt các sự kiện được truy xuất với các bổ sung được tạo ra. Một lầm tưởng khác là nhiều dữ liệu hơn hoặc một mô hình lớn hơn sẽ đảm bảo sự cải thiện. Dữ liệu có thể không liên quan hoặc có sai sót về mặt hệ thống và một mô hình lớn hơn có thể làm tăng chi phí mà không đáp ứng được nhu cầu của nhiệm vụ. So sánh các lựa chọn thay thế về đánh giá đại diện và các ràng buộc thực tế. Huyền thoại thứ ba là tự động hóa loại bỏ trách nhiệm của con người. Mọi người vẫn chọn mục tiêu, dữ liệu, giao diện, quyền và điều kiện triển khai. Đề xuất của mô hình không làm cho những lựa chọn đó biến mất. Cuối cùng, một thất bại hay thành công không phải là một đánh giá năng lực hoàn chỉnh. Một minh chứng ấn tượng có thể bỏ qua những trường hợp khó; một sai lầm có thể không chứng tỏ được rằng hệ thống này vô dụng đối với mọi nhiệm vụ. Sử dụng các thử nghiệm lặp lại, kiểm tra các dạng lỗi và đưa ra các tuyên bố trong phạm vi bằng chứng hỗ trợ.