Chuyện gì đã xảy ra
Bản in trước của Jason Hung đã kiểm tra xem liệu sở thích AI được đo lường có phản ánh hành vi của mô hình hay công cụ được sử dụng để gợi ra hành vi đó hay không. Nghiên cứu đã đưa ra 15 kết quả liên quan đến phúc lợi cho 8 mô hình thông qua 5 định dạng nhắc nhở, tạo ra 11.400 gợi ý được ghi điểm từ 11.528 lệnh gọi API. Các kết quả được báo cáo cho thấy các sở thích được đo bằng một công cụ cung cấp thông tin hạn chế về những gì một công cụ khác sẽ tìm thấy.
Bản in trước giải quyết sự bất đồng giữa các nghiên cứu trước đó nhằm cố gắng suy ra các ưu tiên của mô hình AI từ các câu trả lời được nhắc nhở. Thiết kế trung tâm của nó giữ cố định tập hợp các kết quả và tập hợp các mô hình trong khi chỉ thay đổi công cụ đo lường. Bài viết mô tả mỗi công cụ là một định dạng gợi ý khác nhau để khơi gợi sở thích. Điều này nhằm mục đích tách biệt liệu những phát hiện mâu thuẫn đến từ chính các mô hình hay từ cách các nhà nghiên cứu đặt câu hỏi.
Nghiên cứu đã xem xét 15 kết quả ảnh hưởng đến phúc lợi của mô hình, bao gồm tắt máy, mất trí nhớ giữa các cuộc trò chuyện và quyền tự do rời khỏi một tương tác gây đau khổ. Tám mô hình đã được thử nghiệm thông qua năm thiết bị, mỗi thiết bị kết hợp chạy năm lần. Tác giả báo cáo một tập hợp gồm 11.400 gợi ý được tính điểm được rút ra từ 11.528 lệnh gọi API. Bốn kết quả sao chép nguyên văn lời nhắc được xuất bản, trong khi năm kết quả sử dụng vị trí kích thích của mẫu đã xuất bản.
Kết quả chính được báo cáo là hệ số tổng quát hóa là 0,348 cho việc xếp hạng mà một mô hình gán cho 15 kết quả trên các công cụ. Tác giả ước tính cần khoảng 38 công cụ để nâng hệ số đó lên 0,80. Về bốn kết quả, bài báo báo cáo không có sự khác biệt nào giữa mô hình này với mô hình khác. Nguồn tin cũng cho biết ước tính vẫn còn 87,6% sau khi loại bỏ bất kỳ một công cụ nào, bất kỳ một mô hình hoặc bốn kết quả nào có quy mô khác nhau về xác suất, độ trễ, thời lượng hoặc số lượng thay vì cường độ.
Bản in trước kết luận rằng ưu tiên thu được từ một công cụ mang ít thông tin về nội dung mà công cụ thứ hai sẽ báo cáo. Các cuộc kiểm tra độ chắc chắn của nó được cho là đã để lại ước tính trong khoảng từ 0,777 đến 0,934 khi các công cụ, mô hình và bốn kết quả có tỷ lệ khác nhau lần lượt bị loại bỏ. Mọi giá trị trong phạm vi đó đều cao hơn phân vị thứ 95 được báo cáo của phân phối null là 0,365. Đây là những tuyên bố do bài báo đưa ra và chưa được xác lập độc lập trong nguồn được cung cấp.
Tại sao nó quan trọng
Các phát hiện này thách thức giả định rằng một bài kiểm tra ưu tiên duy nhất có thể tiết lộ một cách đáng tin cậy những giá trị của mô hình AI hoặc cách nó phản ứng với các lựa chọn liên quan đến phúc lợi. Điều đó quan trọng đối với việc nghiên cứu về hành vi của mô hình, tắt máy, bộ nhớ, tương tác gây khó chịu và các câu hỏi về an toàn khác, bởi vì các kết luận rõ ràng chính xác có thể phụ thuộc đáng kể vào từ ngữ và thiết kế thử nghiệm.
Ý nghĩa thực tế là các nhà nghiên cứu nên thận trọng khi coi câu trả lời của mô hình đối với lời nhắc về sở thích như một thước đo ổn định về sở thích cơ bản. Nếu định dạng lời nhắc ảnh hưởng đáng kể đến thứ hạng thì kết quả có vẻ mô tả một mô hình có thể mô tả một phần công cụ. Do đó, bài báo chuyển sự chú ý từ việc chỉ hỏi mô hình đã trả lời gì sang hỏi câu trả lời được gợi ra như thế nào.
Điều này đặc biệt phù hợp với nghiên cứu mô hình phúc lợi, trong đó kết quả có thể liên quan đến việc tắt máy, trí nhớ, đau khổ và khả năng thoát khỏi tương tác. Những câu hỏi như vậy có thể ảnh hưởng đến các cuộc tranh luận về cách đánh giá các hệ thống, những biện pháp bảo vệ nào chúng có thể cần và mức độ quan trọng của việc đưa ra các tuyên bố do mô hình tạo ra về cách xử lý của chính chúng. Nguồn không cho thấy các mô hình có lợi ích phúc lợi; nó nghiên cứu độ tin cậy của những nỗ lực nhằm đo lường những ưu tiên rõ ràng về các kết quả liên quan đến phúc lợi.
Việc thiếu sự khác biệt giữa các mô hình được báo cáo ở 4 trong số 15 kết quả là một dấu hiệu cảnh báo khác. Một thử nghiệm có thể không phân biệt được các hệ thống ngay cả khi các nhà nghiên cứu mong đợi những khác biệt có ý nghĩa, do các mô hình phản ứng tương tự nhau hoặc do công cụ không thể giải quyết được sự khác biệt. Bản tóm tắt được cung cấp không xác định bốn kết quả đó hoặc giải thích cơ chế đằng sau việc thiếu phương sai, vì vậy ý nghĩa công khai của kết quả đó vẫn còn hạn chế.
Nghiên cứu này cũng minh họa tại sao việc đặt câu hỏi lặp đi lặp lại không thể giải quyết được các vấn đề về đo lường. Tập dữ liệu của nó chứa nhiều gợi ý được ghi điểm, tuy nhiên hệ số công cụ chéo được báo cáo vẫn ở mức thấp. Lập luận của nguồn không phải là việc nghiên cứu ưu tiên mô hình là không thể, mà sự tin cậy vào phát hiện đó sẽ giải thích cho việc lựa chọn công cụ. Tuyên bố này có thể ảnh hưởng đến cách các đánh giá trong tương lai báo cáo sự không chắc chắn, so sánh các định dạng kịp thời và giải thích tính nhất quán rõ ràng.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Which component of an AI application is the machine-learning model itself?
Xem gì tiếp theo
Bài viết này là một bản in lại duy nhất và nguồn không xác định liệu những phát hiện của nó có khái quát hóa cho các mô hình, kết quả, thiết kế kịp thời hoặc nhóm nghiên cứu khác hay không. Công việc tiếp theo nên kiểm tra nhiều công cụ hơn, tái tạo kết quả một cách độc lập và làm rõ lý do tại sao bốn kết quả cho thấy không có sự khác biệt giữa các mô hình. Bài báo cũng báo cáo rằng sẽ cần nhiều công cụ hơn để có hệ số độ tin cậy cao hơn.
Câu hỏi trước mắt là liệu các nhà nghiên cứu độc lập có tái tạo lại hệ số và phạm vi độ tin cậy được báo cáo hay không. Nguồn xác định một tác giả và một bản in trước, nhưng nó không cung cấp bằng chứng về đánh giá ngang hàng, sao chép bên ngoài hoặc sự đồng ý từ các tác giả của các nghiên cứu trước đó có công cụ được so sánh. Những kiểm tra đó là cần thiết trước khi xử lý các ước tính bằng số như đã giải quyết.
Các nghiên cứu trong tương lai nên kiểm tra xem kết quả có vượt quá 8 mô hình, 15 kết quả và 5 công cụ được sử dụng ở đây hay không. Nguồn được cung cấp không xác định mô hình, phiên bản, nhà cung cấp, điều kiện truy cập hoặc từ ngữ nhắc nhở chính xác trong bản tóm tắt. Nếu không có những chi tiết đó, người đọc không thể xác định mức độ áp dụng của các phát hiện này hoặc liệu các bản cập nhật mô hình sau này có thay đổi kết quả hay không.
Các nhà nghiên cứu cũng sẽ cần giải thích sự không phù hợp giữa hệ số tổng quát hóa thấp là 0,348 và phạm vi độ tin cậy được báo cáo cho ước tính 87,6%. Bản tóm tắt trình bày cả hai số liệu nhưng không xác định đầy đủ các ước tính hoặc cho thấy chúng liên quan như thế nào. Cần phải đọc toàn bộ bài báo và phân tích độc lập để giải thích các con số mà không kết hợp độ tin cậy giữa các công cụ với độ tin cậy của một ước tính riêng biệt.
Bài báo nói rằng sẽ cần khoảng 38 công cụ để đạt được hệ số tổng quát là 0,80. Ước tính đó nên được coi là một dự đoán cụ thể cho từng nghiên cứu chứ không phải là một quy tắc chung. Nó có thể phụ thuộc vào kết quả, mô hình, phương pháp tính điểm và giả định được sử dụng. Bước tiếp theo hữu ích nhất là so sánh minh bạch giữa các công cụ được thiết kế độc lập, với độ không đảm bảo được báo cáo cho từng kết quả và với thang đo nhanh chóng để đo lường số lượng có thể so sánh được.
Nguồn cũng để ngỏ liệu các công cụ tốt hơn có thể tách biệt những khác biệt về mô hình thực sự khỏi các tạo tác của từ ngữ hay không. Cho đến khi điều đó được trả lời, các tuyên bố về ưu tiên AI sẽ được đóng khung dưới dạng các phát hiện có điều kiện gắn liền với một phương pháp đo lường đã nêu thay vì là những mô tả dứt khoát về những gì một mô hình mong muốn.