AI trong phát hiện đạo văn và tính liêm chính trong học thuật
AI hỗ trợ các công cụ phát hiện văn bản sao chép, nguồn được diễn giải và văn bản do máy tạo ra trong bài tập học tập và sinh viên.
Tổng quan
As generative AI makes cheating easier, these systems try to keep assessment honest while raising thorny fairness questions.
Lặn sâu
Các công cụ kiểm tra đạo văn truyền thống như Turnitin đối chiếu bài nộp với cơ sở dữ liệu khổng lồ gồm các bài báo, trang web đã xuất bản và bài tập trước đây của sinh viên, gắn cờ các đoạn trùng lặp. Các hệ thống hiện đại bổ sung tính năng đối sánh ngữ nghĩa bằng cách sử dụng tính năng nhúng văn bản để chúng có thể bắt được những bản sao được diễn giải hoặc viết lại mà một chuỗi đối sánh đơn giản sẽ bỏ sót. Một vấn đề mới hơn và khó hơn là phát hiện văn bản được viết bằng các công cụ như ChatGPT. Trình phát hiện văn bản AI tìm kiếm dấu vân tay thống kê chẳng hạn như độ phức tạp thấp (văn bản có thể dự đoán một cách bất thường) và mức độ 'bùng nổ' thống nhất trong biến thể câu. Tuy nhiên, những máy dò này không đáng tin cậy. Chúng tạo ra những kết quả sai lệch, đôi khi gắn cờ những nhà văn không phải người Anh bản địa thường xuyên hơn và có thể bị đánh bại bởi các công cụ biên tập hoặc diễn giải nhẹ nhàng. OpenAI thậm chí đã rút bộ phân loại của chính nó vì độ chính xác thấp. Kết quả là, nhiều tổ chức hiện nay coi điểm số của máy dò là tín hiệu cho cuộc trò chuyện chứ không phải bằng chứng.
Hiểu biết kỹ thuật
Tính năng phát hiện bản sao dựa vào việc lấy dấu vân tay các n-gram chồng chéo và ngày càng so sánh các phần nhúng vectơ để phát hiện ý nghĩa tương tự ngay cả khi từ ngữ thay đổi. Trình phát hiện văn bản AI ước tính khả năng mỗi mã thông báo theo một mô hình ngôn ngữ: chữ viết của con người có xu hướng đáng ngạc nhiên và thay đổi hơn, trong khi đầu ra của mô hình thường mượt mà hơn và dễ đoán hơn. Vì những khoảng trống thống kê này nhỏ và ngày càng thu hẹp nên độ chính xác của máy dò bị hạn chế và dễ dàng bị đánh lừa.
Tác động chiến lược
Xây dựng lựa chọn
Thiết kế cấp ứng dụng xác định liệu AI có cải thiện kết quả thực tế hay không.
Nhóm và quy trình làm việc
Tích hợp quy trình làm việc tốt sẽ giúp tăng năng suất mà người dùng có thể tin tưởng.
Rủi ro và an toàn
Các trường hợp sử dụng có phạm vi phù hợp giúp giảm bớt sự mệt mỏi khi thay đổi và rủi ro triển khai.
Tương lai của AI trong việc phát hiện đạo văn và tính liêm chính trong học thuật
Lĩnh vực này đang chuyển từ phát hiện sang thiết kế. Các nhà giáo dục đang thiết kế lại các bài đánh giá bằng cách bảo vệ bằng miệng, viết trong lớp và xử lý hồ sơ mà khó có thể thuê ngoài hơn. Hình mờ, trong đó các mô hình nhúng các tín hiệu thống kê ẩn vào đầu ra của chúng, có thể giúp xác định văn bản AI đáng tin cậy hơn, nhưng nó chỉ hoạt động nếu nhà cung cấp áp dụng nó và có thể xóa bằng cách chỉnh sửa. Mong đợi sự chú trọng nhiều hơn vào các chính sách sử dụng AI minh bạch và dạy cách sử dụng có trách nhiệm thay vì dựa vào các máy dò không hoàn hảo.
Triển khai trong thế giới thực
Turnitin và các dịch vụ tương tự so sánh bài luận của sinh viên với cơ sở dữ liệu của các ấn phẩm, trang web và bài nộp trước đây để gắn cờ các đoạn văn phù hợp và tạo báo cáo tương tự.
Các trường đại học sử dụng các công cụ tương tự về ngữ nghĩa để phát hiện hành vi đạo văn được diễn giải trong đó cách diễn đạt đã được thay đổi nhưng ý tưởng và cấu trúc vẫn được sao chép.
Trình phát hiện chữ viết AI như GPTZero phân tích mức độ phức tạp và bùng nổ để ước tính xem liệu một chatbot có tạo ra một bài tập hay không.
Các hệ thống tương tự mã như MOSS phát hiện đạo văn trong các bài tập lập trình bằng cách so sánh các mẫu cấu trúc chứ không chỉ các dòng giống hệt nhau.
Rủi ro & lan can
Tự động hóa một quy trình bị hỏng có thể khuếch đại các vấn đề hiện có.
Các nhóm có thể tự động hóa quá mức và loại bỏ sự phán xét cần thiết của con người.
Chất lượng có thể thay đổi nếu kết quả đầu ra không được đánh giá liên tục.
Lộ trình thực hiện
Lập sơ đồ quy trình làm việc hiện tại và xác định bước có mức độ ma sát cao nhất.
Xác định các điểm kiểm tra của con người trước khi tự động hóa hoàn toàn.
Đào tạo người dùng về lời nhắc, đường dẫn leo thang và tiêu chuẩn chất lượng.
Theo dõi kết quả ở cấp độ nhiệm vụ để xác nhận giá trị bền vững.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI in Plagiarism and Academic Integrity Detection quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Phát hiện gian lận AI
Câu hỏi thường gặp
What is AI in Plagiarism and Academic Integrity Detection?
AI hỗ trợ các công cụ phát hiện văn bản sao chép, nguồn được diễn giải và văn bản do máy tạo ra trong bài tập học tập và sinh viên. Khi AI tổng hợp giúp việc gian lận trở nên dễ dàng hơn, các hệ thống này cố gắng giữ cho đánh giá trung thực đồng thời đưa ra những câu hỏi hóc búa về tính công bằng.
Công cụ kiểm tra đạo văn truyền thống như Turnitin chủ yếu hoạt động như thế nào?
Trình kiểm tra cổ điển so sánh bài nộp với cơ sở dữ liệu của các ấn phẩm, trang web và bài tập trước đây của sinh viên để gắn cờ các đoạn trùng lặp.
Điều gì cho phép các công cụ hiện đại bắt được việc sao chép được diễn giải mà việc so khớp chuỗi đơn giản bỏ sót?
Các phần nhúng thể hiện ý nghĩa dưới dạng vectơ, vì vậy các công cụ có thể gắn cờ các đoạn văn có cùng nội dung bằng các từ khác nhau.
Những tín hiệu thống kê nào mà trình phát hiện văn bản AI thường dựa vào?
Đầu ra của AI có xu hướng dễ dự đoán hơn (độ phức tạp thấp) và đa dạng đồng đều (độ bùng nổ), trong khi chữ viết của con người thường gây ngạc nhiên và không đều đặn hơn.
Tại sao trình phát hiện văn bản AI được coi là không đáng tin cậy?
Trình phát hiện đánh dấu sai bài viết chân thực (bao gồm cả từ những người không phải là người bản xứ) và dễ dàng bị đánh bại bằng cách diễn giải, vì vậy điểm số của họ không phải là bằng chứng gian lận.
OpenAI đã làm gì với trình phân loại văn bản AI của chính nó?
OpenAI đã gỡ bỏ trình phân loại văn bản AI của nó vì nó không đủ chính xác để có thể dựa vào.