Mitos AI

Salah satu mitos adalah bahwa jawaban yang lancar adalah jawaban yang terverifikasi. Sebuah model dapat menghasilkan prosa yang masuk akal tanpa memeriksa sumber. Periksa bukti dan bedakan fakta yang diambil dari tambahan yang dihasilkan. Mitos lain adalah bahwa lebih banyak data atau model yang lebih besar menjamin perbaikan. Data bisa tidak relevan atau secara sistematis cacat, dan model yang lebih besar dapat meningkatkan biaya tanpa memenuhi kebutuhan tugas. Bandingkan alternatif dalam evaluasi representatif dan kendala praktis. Mitos ketiga adalah bahwa otomatisasi menghilangkan tanggung jawab manusia. Orang masih memilih tujuan, data, antarmuka, izin, dan kondisi penerapan. Rekomendasi model tidak membuat pilihan-pilihan tersebut hilang. Akhirnya, satu kegagalan atau keberhasilan bukanlah penilaian kapabilitas yang lengkap. Satu demonstrasi yang mengesankan mungkin menghilangkan kasus-kasus sulit; satu kesalahan mungkin tidak menunjukkan bahwa sistem tidak berguna untuk setiap tugas. Gunakan pengujian yang dapat diulang, periksa mode kegagalan, dan buat klaim sesuai cakupan yang didukung bukti.