HƯỚNG DẪN xã hội

Bắt nạt Deepfake trong trường học

Bắt nạt deepfake là khi học sinh sử dụng các công cụ AI để tạo ra hình ảnh, video hoặc âm thanh giả nhưng thực tế của bạn cùng lớp hoặc giáo viên, thường mang tính chất khiêu dâm và chia sẻ chúng để hạ nhục hoặc quấy rối.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của bắt nạt Deepfake trong trường học
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Điều này quan trọng vì những hình ảnh này có thể được tạo ra trong vài giây từ những bức ảnh thông thường, lan truyền nhanh chóng qua các cuộc trò chuyện nhóm và gây ra tác hại lâu dài, đồng thời việc giả mạo tình dục trẻ vị thành niên có thể là tội phạm nghiêm trọng.

Lặn sâu

Bắt nạt bằng deepfake đã trở thành một vấn đề phổ biến ở trường học sau khi các ứng dụng và trình tạo hình ảnh 'khỏa thân' có thể biến một bức ảnh mặc quần áo trên mạng xã hội thành một bức ảnh khỏa thân giả mà không cần kỹ thuật. Các trường hợp được báo cáo bao gồm Almendralejo, Tây Ban Nha, vào năm 2023, nơi hình ảnh khỏa thân AI của hơn 20 cô gái được lan truyền và các trường học ở New Jersey và Beverly Hills, California, nơi học sinh bị kỷ luật hoặc đuổi học vì giả mạo bạn cùng lớp. Nạn nhân chủ yếu là các bé gái, và tác hại giống như bị chia sẻ một hình ảnh thân mật thực sự: xấu hổ, lo lắng, trốn học và sợ hình ảnh đó sẽ xuất hiện trở lại. Nguyên tắc đầu tiên của người lớn là bảo vệ nạn nhân và bảo quản bằng chứng, không lan truyền hình ảnh. Hình ảnh thực tế về tình dục do AI tạo ra về trẻ vị thành niên có thể bị coi là tài liệu lạm dụng tình dục trẻ em theo luật liên bang Hoa Kỳ và ở nhiều quốc gia khác, vì vậy người lớn không nên chụp màn hình, tải xuống hoặc chuyển tiếp chúng. Thay vào đó, hãy ghi lại nơi nó xuất hiện, thời gian, tên tài khoản và người đã chia sẻ nó, đồng thời báo cáo cho cảnh sát và, ở Hoa Kỳ, cho CyberTipline của NCMEC. Take It Down cho phép các gia đình băm một hình ảnh để nền tảng có thể chặn nó; StopNCII.org cung cấp dịch vụ tương tự dành cho người lớn. Vào tháng 5 năm 2025, Hoa Kỳ đã ban hành Đạo luật TAKE IT DOWN, hình sự hóa việc xuất bản những hình ảnh thân mật không có sự đồng thuận, bao gồm cả những hình ảnh do AI tạo ra và yêu cầu các nền tảng được bảo vệ phải xóa chúng sau khi có yêu cầu hợp lệ. Luật pháp khác nhau tùy theo tiểu bang và quốc gia. Các trường học nên coi những sự cố này là quấy rối và lạm dụng tình dục chứ không phải là một trò đùa công nghệ. Điều đó có nghĩa là chính sách rõ ràng, đội ngũ nhân viên được đào tạo, lộ trình báo cáo nhanh chóng, hỗ trợ cho sinh viên mục tiêu và hậu quả tương xứng đối với những người thực hiện hoặc chia sẻ hình ảnh. Một quan niệm sai lầm phổ biến là việc dán nhãn hình ảnh là giả sẽ loại bỏ tác hại; tài khoản nạn nhân cho thấy nó không. Một điều nữa là việc xóa một bài đăng sẽ giải quyết được vấn đề đó khi các bản sao thường đã tồn tại ở nơi khác.

Triển khai trong thế giới thực

Một phụ huynh biết được bức ảnh khỏa thân giả của con gái họ đang được lan truyền trong cuộc trò chuyện nhóm trong lớp; họ ghi ngày tháng, tên chat và ai đã chia sẻ mà không lưu hay chuyển tiếp hình ảnh, sau đó liên hệ với nhà trường và công an.

Một gia đình sử dụng dịch vụ Take It Down của NCMEC để tạo dấu vân tay kỹ thuật số của hình ảnh giả trên thiết bị của họ để các nền tảng tham gia có thể phát hiện và xóa các bản sao mà không cần tải hình ảnh lên.

Một trường cấp hai cập nhật quy tắc ứng xử của mình để gọi những hình ảnh tình dục do AI tạo ra một cách rõ ràng là hành vi quấy rối và tổ chức một cuộc họp giải thích rằng 'đó chỉ là một trò đùa' không phải là một biện pháp bào chữa.

Một cố vấn gặp học sinh mục tiêu ngay trong ngày, trấn an họ rằng họ không làm gì sai và sắp xếp một người lớn liên lạc an toàn và lên lịch thay đổi để tránh những học sinh liên quan.

Tương lai của bắt nạt Deepfake trong trường học

Các cơ quan lập pháp ở nhiều quốc gia đang bổ sung các tội danh cụ thể đối với việc tạo hoặc chia sẻ nội dung giả mạo tình dục, đồng thời các cửa hàng ứng dụng và nhà cung cấp dịch vụ thanh toán phải đối mặt với áp lực ngày càng tăng trong việc loại bỏ các dịch vụ khỏa thân. Các trường học có thể sẽ đưa việc lạm dụng hình ảnh AI vào giáo dục về quyền công dân và sự đồng ý trong kỹ thuật số. Các bản sửa lỗi kỹ thuật như nhãn xuất xứ và kết hợp nền tảng tốt hơn sẽ giúp ích nhưng sẽ không ngăn cản những người dùng quyết tâm bằng các công cụ địa phương. Các biện pháp bảo vệ lâu dài là lộ trình báo cáo nhanh chóng, đội ngũ nhân viên được đào tạo, hậu quả rõ ràng và văn hóa nơi sinh viên báo cáo hàng giả thay vì chuyển tiếp chúng.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Deepfake Bullying in Schools quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Bắt nạt Deepfake trong trường học là gì?

Bắt nạt deepfake là khi học sinh sử dụng các công cụ AI để tạo ra hình ảnh, video hoặc âm thanh giả nhưng thực tế của bạn cùng lớp hoặc giáo viên, thường mang tính chất khiêu dâm và chia sẻ chúng để hạ nhục hoặc quấy rối. Điều này quan trọng vì những hình ảnh này có thể được tạo ra trong vài giây từ những bức ảnh thông thường, lan truyền nhanh chóng qua các cuộc trò chuyện nhóm và gây ra tác hại lâu dài, đồng thời việc giả mạo tình dục trẻ vị thành niên có thể là tội phạm nghiêm trọng.

Một phụ huynh phát hiện ra hành vi giả mạo giới tính của con mình trong cuộc trò chuyện nhóm. Họ nên làm gì đầu tiên với chính hình ảnh đó?

Việc sở hữu hoặc chia sẻ hình ảnh khiêu dâm của trẻ vị thành niên có thể là bất hợp pháp ngay cả khi do AI tạo ra, vì vậy người lớn nên ghi lại thông tin chi tiết mà không phát tán hồ sơ và báo cáo cho cảnh sát và nhà trường.

Dịch vụ Take It Down của NCMEC tránh upload ảnh thực tế như thế nào?

Công cụ này tính toán hàm băm cục bộ và chỉ chia sẻ dấu vân tay đó với các nền tảng tham gia, những nền tảng này khớp và loại bỏ các bản sao.

Đạo luật TAKE IT DOWN của Hoa Kỳ ban hành vào tháng 5 năm 2025 có tác dụng gì?

Luật bao gồm các hình ảnh thân mật do AI tạo ra và yêu cầu các nền tảng được bảo vệ phải xóa chúng sau khi có yêu cầu hợp lệ.

Tại sao các trường học không nên kỷ luật chủ yếu dựa trên điểm phát hiện deepfake?

Trình phát hiện suy giảm khả năng nén ứng dụng nhắn tin và trình tạo mới, vì vậy bối cảnh như nhật ký trò chuyện và người đăng đầu tiên là bằng chứng mạnh mẽ hơn.

Hướng dẫn nói rằng các trường học nên phân loại hình ảnh tình dục giả mạo của học sinh như thế nào?

Tác hại phản ánh việc chia sẻ hình ảnh thân mật thực sự, vì vậy các trường học nên coi đó là hành vi quấy rối bằng các chính sách, hỗ trợ và hậu quả phù hợp.