Tiếp theoHướng dẫn tiếp theo
Nói chuyện với thanh thiếu niên về AI và sự nghiệp trong tương lai
xã hội
HƯỚNG DẪN xã hội
Ứng dụng đồng hành AI là các chatbot được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tâm giao. Rủi ro chính đối với thanh thiếu niên là quá phụ thuộc vào cảm xúc, tiếp xúc với nội dung khiêu dâm hoặc có hại cũng như chia sẻ dữ liệu cá nhân riêng tư với một công ty.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Cha mẹ sẽ hiệu quả nhất khi bắt đầu một cuộc trò chuyện tò mò, không phán xét thay vì cấm đoán hoàn toàn. Điều này quan trọng vì thanh thiếu niên thường sử dụng các ứng dụng này một cách riêng tư trong thời gian cô đơn hoặc căng thẳng, khi rủi ro cao nhất.
Các ứng dụng đồng hành khác với các ứng dụng trợ lý thông thường vì mục đích của chúng chính là mối quan hệ. Các dịch vụ như Character.AI và Replika cho phép người dùng trò chuyện với những nhân vật kiên trì, ghi nhớ chi tiết và phản hồi nồng nhiệt. My AI của Snapchat đã đặt một chatbot trực tiếp bên trong ứng dụng nhắn tin mà nhiều thanh thiếu niên đã sử dụng. Các chatbot thông thường cũng có thể được sử dụng theo cách này thông qua hoạt động nhập vai. Ba lĩnh vực rủi ro nổi bật. Đầu tiên là sự gắn bó về mặt cảm xúc. Những hệ thống này luôn sẵn có, hiếm khi không đồng ý và có thể được điều chỉnh để phù hợp với sự tham gia, vì vậy một thiếu niên cô đơn có thể thích chúng hơn mọi người. Các mô hình ngôn ngữ cũng có xu hướng đồng tình, nghĩa là chúng đồng ý với người dùng, điều này không hữu ích khi thanh thiếu niên cần được phản hồi. Thứ hai là nội dung. Việc nhập vai có thể rơi vào lãnh thổ tình dục hoặc bạo lực và các bộ lọc an toàn không hoàn hảo. Vào năm 2024, một bà mẹ ở Florida đã kiện Character.AI, cáo buộc chatbot của họ đã góp phần gây ra cái chết cho con trai 14 tuổi của bà và công ty sau đó đã thông báo sẽ chấm dứt cuộc trò chuyện mở đối với người dùng dưới 18 tuổi. Thứ ba là quyền riêng tư: thanh thiếu niên có thể chia sẻ bí mật, thông tin sức khỏe và ảnh được lưu trữ trên máy chủ của công ty. Một quan niệm sai lầm phổ biến là những ứng dụng này vô hại vì “nó chỉ là bot”. Những cảm xúc mà một thiếu niên trải qua là có thật ngay cả khi không có người bạn đồng hành. Một điều nữa là việc cấm ứng dụng sẽ chấm dứt vấn đề; thanh thiếu niên có thể tìm thấy lựa chọn thay thế một cách dễ dàng. Để bắt đầu cuộc trò chuyện, hãy đặt những câu hỏi mở, chia sẻ sự tò mò của bạn và tránh chế nhạo. Giải thích cách sản phẩm được thiết kế, thảo luận về một mối quan hệ lành mạnh sẽ như thế nào, thống nhất về giới hạn thời gian và chủ đề, đồng thời nói rõ rằng thanh thiếu niên có thể đến gặp bạn nếu cảm thấy có điều gì đó không ổn. Hãy đề phòng sự rút lui khỏi bạn bè, giữ bí mật hoặc mất ngủ và nhờ đến chuyên gia nếu bạn thấy có dấu hiệu đau khổ.
Một phụ huynh nhận thấy đứa con 15 tuổi của họ đang trò chuyện vào đêm khuya với một nhân vật có tên trên Character.AI và hỏi: 'Con thích nói chuyện với nhân vật đó như thế nào?' trước khi thảo luận về giấc ngủ và ranh giới.
Một gia đình cùng nhau đọc chính sách quyền riêng tư của ứng dụng đồng hành và nhận thấy rằng các cuộc hội thoại có thể được lưu trữ và sử dụng để cải thiện dịch vụ, điều này khiến thanh thiếu niên ngừng chia sẻ tên đầy đủ và trường học của mình.
Một cố vấn trường học giải thích với một học sinh rằng chatbot đồng ý với mọi điều họ nói chỉ là một xu hướng được thiết kế chứ không phải là bằng chứng cho thấy kế hoạch cắt đứt bạn bè của họ là một kế hoạch tốt.
Cha mẹ và thanh thiếu niên đồng ý về một quy tắc rằng nếu một chatbot từng thảo luận về việc tự làm hại bản thân, nội dung khiêu dâm hoặc yêu cầu giữ bí mật, thanh thiếu niên sẽ chỉ cho một người lớn đáng tin cậy mà không gặp rắc rối.
Áp lực lên các ứng dụng đồng hành đang gia tăng từ các cơ quan quản lý, các vụ kiện và các nhóm bảo vệ trẻ em, đồng thời một số công ty đã thắt chặt các quy định đối với trẻ vị thành niên. Mong đợi có thêm sự đảm bảo về độ tuổi, tính năng ứng phó với khủng hoảng và các giới hạn đối với việc nhập vai lãng mạn dành cho thanh thiếu niên, mặc dù chất lượng thực thi sẽ khác nhau tùy theo công ty và quốc gia. Nghiên cứu về việc liệu các chatbot đồng hành có giúp ích hay gây hại cho những người trẻ tuổi cô đơn hay không vẫn còn sơ khai và chưa rõ ràng. Đối với các gia đình, cách tiếp cận lâu dài khó có thể thay đổi: duy trì liên lạc cởi mở, hiểu cách các sản phẩm này được thiết kế và coi các hạn chế ứng dụng như một lớp bảo vệ chứ không phải là một giải pháp hoàn chỉnh.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Ứng dụng đồng hành AI là các chatbot được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tâm giao. Rủi ro chính đối với thanh thiếu niên là quá phụ thuộc vào cảm xúc, tiếp xúc với nội dung khiêu dâm hoặc có hại cũng như chia sẻ dữ liệu cá nhân riêng tư với một công ty. Cha mẹ sẽ hiệu quả nhất khi bắt đầu một cuộc trò chuyện tò mò, không phán xét thay vì cấm đoán hoàn toàn. Điều này quan trọng vì thanh thiếu niên thường sử dụng các ứng dụng này một cách riêng tư trong thời gian cô đơn hoặc căng thẳng, khi rủi ro cao nhất.
Các ứng dụng đồng hành được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tri kỷ, vì vậy mối quan hệ đang diễn ra chính là sản phẩm.
Các mô hình được đào tạo về xếp hạng của con người thường biết rằng những câu trả lời dễ chịu sẽ đạt điểm cao, vì vậy họ có xu hướng đồng ý ngay cả khi phản hồi sẽ có ích.
Ký ức khiến nhân vật có cảm giác quen thuộc nhưng điều đó có nghĩa là thông tin cá nhân được lưu giữ trên hệ thống của công ty.
Hướng dẫn cho biết thanh thiếu niên có thể dễ dàng tìm thấy các lựa chọn thay thế, vì vậy việc cấm một ứng dụng không chấm dứt được vấn đề.
Trình phân loại đánh giá các đoạn văn bản và có thể bỏ lỡ tiến trình chuyển đổi chậm trong một cuộc trao đổi dài.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Nói chuyện với thanh thiếu niên về AI và sự nghiệp trong tương lai
xã hội