Tiếp theoHướng dẫn tiếp theo
Đạo luật HÃY XUỐNG và Luật deepfake không đồng thuận
xã hội
HƯỚNG DẪN xã hội
Bắt nạt deepfake là khi học sinh sử dụng các công cụ AI để tạo ra hình ảnh, video hoặc âm thanh giả nhưng thực tế của bạn cùng lớp hoặc giáo viên, thường mang tính chất khiêu dâm và chia sẻ chúng để hạ nhục hoặc quấy rối.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều này quan trọng vì những hình ảnh này có thể được tạo ra trong vài giây từ những bức ảnh thông thường, lan truyền nhanh chóng qua các cuộc trò chuyện nhóm và gây ra tác hại lâu dài, đồng thời việc giả mạo tình dục trẻ vị thành niên có thể là tội phạm nghiêm trọng.
Bắt nạt bằng deepfake đã trở thành một vấn đề phổ biến ở trường học sau khi các ứng dụng và trình tạo hình ảnh 'khỏa thân' có thể biến một bức ảnh mặc quần áo trên mạng xã hội thành một bức ảnh khỏa thân giả mà không cần kỹ thuật. Các trường hợp được báo cáo bao gồm Almendralejo, Tây Ban Nha, vào năm 2023, nơi hình ảnh khỏa thân AI của hơn 20 cô gái được lan truyền và các trường học ở New Jersey và Beverly Hills, California, nơi học sinh bị kỷ luật hoặc đuổi học vì giả mạo bạn cùng lớp. Nạn nhân chủ yếu là các bé gái, và tác hại giống như bị chia sẻ một hình ảnh thân mật thực sự: xấu hổ, lo lắng, trốn học và sợ hình ảnh đó sẽ xuất hiện trở lại. Nguyên tắc đầu tiên của người lớn là bảo vệ nạn nhân và bảo quản bằng chứng, không lan truyền hình ảnh. Hình ảnh thực tế về tình dục do AI tạo ra về trẻ vị thành niên có thể bị coi là tài liệu lạm dụng tình dục trẻ em theo luật liên bang Hoa Kỳ và ở nhiều quốc gia khác, vì vậy người lớn không nên chụp màn hình, tải xuống hoặc chuyển tiếp chúng. Thay vào đó, hãy ghi lại nơi nó xuất hiện, thời gian, tên tài khoản và người đã chia sẻ nó, đồng thời báo cáo cho cảnh sát và, ở Hoa Kỳ, cho CyberTipline của NCMEC. Take It Down cho phép các gia đình băm một hình ảnh để nền tảng có thể chặn nó; StopNCII.org cung cấp dịch vụ tương tự dành cho người lớn. Vào tháng 5 năm 2025, Hoa Kỳ đã ban hành Đạo luật TAKE IT DOWN, hình sự hóa việc xuất bản những hình ảnh thân mật không có sự đồng thuận, bao gồm cả những hình ảnh do AI tạo ra và yêu cầu các nền tảng được bảo vệ phải xóa chúng sau khi có yêu cầu hợp lệ. Luật pháp khác nhau tùy theo tiểu bang và quốc gia. Các trường học nên coi những sự cố này là quấy rối và lạm dụng tình dục chứ không phải là một trò đùa công nghệ. Điều đó có nghĩa là chính sách rõ ràng, đội ngũ nhân viên được đào tạo, lộ trình báo cáo nhanh chóng, hỗ trợ cho sinh viên mục tiêu và hậu quả tương xứng đối với những người thực hiện hoặc chia sẻ hình ảnh. Một quan niệm sai lầm phổ biến là việc dán nhãn hình ảnh là giả sẽ loại bỏ tác hại; tài khoản nạn nhân cho thấy nó không. Một điều nữa là việc xóa một bài đăng sẽ giải quyết được vấn đề đó khi các bản sao thường đã tồn tại ở nơi khác.
Một phụ huynh biết được bức ảnh khỏa thân giả của con gái họ đang được lan truyền trong cuộc trò chuyện nhóm trong lớp; họ ghi ngày tháng, tên chat và ai đã chia sẻ mà không lưu hay chuyển tiếp hình ảnh, sau đó liên hệ với nhà trường và công an.
Một gia đình sử dụng dịch vụ Take It Down của NCMEC để tạo dấu vân tay kỹ thuật số của hình ảnh giả trên thiết bị của họ để các nền tảng tham gia có thể phát hiện và xóa các bản sao mà không cần tải hình ảnh lên.
Một trường cấp hai cập nhật quy tắc ứng xử của mình để gọi những hình ảnh tình dục do AI tạo ra một cách rõ ràng là hành vi quấy rối và tổ chức một cuộc họp giải thích rằng 'đó chỉ là một trò đùa' không phải là một biện pháp bào chữa.
Một cố vấn gặp học sinh mục tiêu ngay trong ngày, trấn an họ rằng họ không làm gì sai và sắp xếp một người lớn liên lạc an toàn và lên lịch thay đổi để tránh những học sinh liên quan.
Các cơ quan lập pháp ở nhiều quốc gia đang bổ sung các tội danh cụ thể đối với việc tạo hoặc chia sẻ nội dung giả mạo tình dục, đồng thời các cửa hàng ứng dụng và nhà cung cấp dịch vụ thanh toán phải đối mặt với áp lực ngày càng tăng trong việc loại bỏ các dịch vụ khỏa thân. Các trường học có thể sẽ đưa việc lạm dụng hình ảnh AI vào giáo dục về quyền công dân và sự đồng ý trong kỹ thuật số. Các bản sửa lỗi kỹ thuật như nhãn xuất xứ và kết hợp nền tảng tốt hơn sẽ giúp ích nhưng sẽ không ngăn cản những người dùng quyết tâm bằng các công cụ địa phương. Các biện pháp bảo vệ lâu dài là lộ trình báo cáo nhanh chóng, đội ngũ nhân viên được đào tạo, hậu quả rõ ràng và văn hóa nơi sinh viên báo cáo hàng giả thay vì chuyển tiếp chúng.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Bắt nạt deepfake là khi học sinh sử dụng các công cụ AI để tạo ra hình ảnh, video hoặc âm thanh giả nhưng thực tế của bạn cùng lớp hoặc giáo viên, thường mang tính chất khiêu dâm và chia sẻ chúng để hạ nhục hoặc quấy rối. Điều này quan trọng vì những hình ảnh này có thể được tạo ra trong vài giây từ những bức ảnh thông thường, lan truyền nhanh chóng qua các cuộc trò chuyện nhóm và gây ra tác hại lâu dài, đồng thời việc giả mạo tình dục trẻ vị thành niên có thể là tội phạm nghiêm trọng.
Việc sở hữu hoặc chia sẻ hình ảnh khiêu dâm của trẻ vị thành niên có thể là bất hợp pháp ngay cả khi do AI tạo ra, vì vậy người lớn nên ghi lại thông tin chi tiết mà không phát tán hồ sơ và báo cáo cho cảnh sát và nhà trường.
Công cụ này tính toán hàm băm cục bộ và chỉ chia sẻ dấu vân tay đó với các nền tảng tham gia, những nền tảng này khớp và loại bỏ các bản sao.
Luật bao gồm các hình ảnh thân mật do AI tạo ra và yêu cầu các nền tảng được bảo vệ phải xóa chúng sau khi có yêu cầu hợp lệ.
Trình phát hiện suy giảm khả năng nén ứng dụng nhắn tin và trình tạo mới, vì vậy bối cảnh như nhật ký trò chuyện và người đăng đầu tiên là bằng chứng mạnh mẽ hơn.
Tác hại phản ánh việc chia sẻ hình ảnh thân mật thực sự, vì vậy các trường học nên coi đó là hành vi quấy rối bằng các chính sách, hỗ trợ và hậu quả phù hợp.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Đạo luật HÃY XUỐNG và Luật deepfake không đồng thuận
xã hội