HƯỚNG DẪN xã hội

Nói chuyện với thanh thiếu niên về các ứng dụng đồng hành AI

Ứng dụng đồng hành AI là các chatbot được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tâm giao. Rủi ro chính đối với thanh thiếu niên là quá phụ thuộc vào cảm xúc, tiếp xúc với nội dung khiêu dâm hoặc có hại cũng như chia sẻ dữ liệu cá nhân riêng tư với một công ty.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của việc nói chuyện với thanh thiếu niên về các ứng dụng đồng hành AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Cha mẹ sẽ hiệu quả nhất khi bắt đầu một cuộc trò chuyện tò mò, không phán xét thay vì cấm đoán hoàn toàn. Điều này quan trọng vì thanh thiếu niên thường sử dụng các ứng dụng này một cách riêng tư trong thời gian cô đơn hoặc căng thẳng, khi rủi ro cao nhất.

Lặn sâu

Các ứng dụng đồng hành khác với các ứng dụng trợ lý thông thường vì mục đích của chúng chính là mối quan hệ. Các dịch vụ như Character.AI và Replika cho phép người dùng trò chuyện với những nhân vật kiên trì, ghi nhớ chi tiết và phản hồi nồng nhiệt. My AI của Snapchat đã đặt một chatbot trực tiếp bên trong ứng dụng nhắn tin mà nhiều thanh thiếu niên đã sử dụng. Các chatbot thông thường cũng có thể được sử dụng theo cách này thông qua hoạt động nhập vai. Ba lĩnh vực rủi ro nổi bật. Đầu tiên là sự gắn bó về mặt cảm xúc. Những hệ thống này luôn sẵn có, hiếm khi không đồng ý và có thể được điều chỉnh để phù hợp với sự tham gia, vì vậy một thiếu niên cô đơn có thể thích chúng hơn mọi người. Các mô hình ngôn ngữ cũng có xu hướng đồng tình, nghĩa là chúng đồng ý với người dùng, điều này không hữu ích khi thanh thiếu niên cần được phản hồi. Thứ hai là nội dung. Việc nhập vai có thể rơi vào lãnh thổ tình dục hoặc bạo lực và các bộ lọc an toàn không hoàn hảo. Vào năm 2024, một bà mẹ ở Florida đã kiện Character.AI, cáo buộc chatbot của họ đã góp phần gây ra cái chết cho con trai 14 tuổi của bà và công ty sau đó đã thông báo sẽ chấm dứt cuộc trò chuyện mở đối với người dùng dưới 18 tuổi. Thứ ba là quyền riêng tư: thanh thiếu niên có thể chia sẻ bí mật, thông tin sức khỏe và ảnh được lưu trữ trên máy chủ của công ty. Một quan niệm sai lầm phổ biến là những ứng dụng này vô hại vì “nó chỉ là bot”. Những cảm xúc mà một thiếu niên trải qua là có thật ngay cả khi không có người bạn đồng hành. Một điều nữa là việc cấm ứng dụng sẽ chấm dứt vấn đề; thanh thiếu niên có thể tìm thấy lựa chọn thay thế một cách dễ dàng. Để bắt đầu cuộc trò chuyện, hãy đặt những câu hỏi mở, chia sẻ sự tò mò của bạn và tránh chế nhạo. Giải thích cách sản phẩm được thiết kế, thảo luận về một mối quan hệ lành mạnh sẽ như thế nào, thống nhất về giới hạn thời gian và chủ đề, đồng thời nói rõ rằng thanh thiếu niên có thể đến gặp bạn nếu cảm thấy có điều gì đó không ổn. Hãy đề phòng sự rút lui khỏi bạn bè, giữ bí mật hoặc mất ngủ và nhờ đến chuyên gia nếu bạn thấy có dấu hiệu đau khổ.

Triển khai trong thế giới thực

Một phụ huynh nhận thấy đứa con 15 tuổi của họ đang trò chuyện vào đêm khuya với một nhân vật có tên trên Character.AI và hỏi: 'Con thích nói chuyện với nhân vật đó như thế nào?' trước khi thảo luận về giấc ngủ và ranh giới.

Một gia đình cùng nhau đọc chính sách quyền riêng tư của ứng dụng đồng hành và nhận thấy rằng các cuộc hội thoại có thể được lưu trữ và sử dụng để cải thiện dịch vụ, điều này khiến thanh thiếu niên ngừng chia sẻ tên đầy đủ và trường học của mình.

Một cố vấn trường học giải thích với một học sinh rằng chatbot đồng ý với mọi điều họ nói chỉ là một xu hướng được thiết kế chứ không phải là bằng chứng cho thấy kế hoạch cắt đứt bạn bè của họ là một kế hoạch tốt.

Cha mẹ và thanh thiếu niên đồng ý về một quy tắc rằng nếu một chatbot từng thảo luận về việc tự làm hại bản thân, nội dung khiêu dâm hoặc yêu cầu giữ bí mật, thanh thiếu niên sẽ chỉ cho một người lớn đáng tin cậy mà không gặp rắc rối.

Tương lai của việc nói chuyện với thanh thiếu niên về các ứng dụng đồng hành AI

Áp lực lên các ứng dụng đồng hành đang gia tăng từ các cơ quan quản lý, các vụ kiện và các nhóm bảo vệ trẻ em, đồng thời một số công ty đã thắt chặt các quy định đối với trẻ vị thành niên. Mong đợi có thêm sự đảm bảo về độ tuổi, tính năng ứng phó với khủng hoảng và các giới hạn đối với việc nhập vai lãng mạn dành cho thanh thiếu niên, mặc dù chất lượng thực thi sẽ khác nhau tùy theo công ty và quốc gia. Nghiên cứu về việc liệu các chatbot đồng hành có giúp ích hay gây hại cho những người trẻ tuổi cô đơn hay không vẫn còn sơ khai và chưa rõ ràng. Đối với các gia đình, cách tiếp cận lâu dài khó có thể thay đổi: duy trì liên lạc cởi mở, hiểu cách các sản phẩm này được thiết kế và coi các hạn chế ứng dụng như một lớp bảo vệ chứ không phải là một giải pháp hoàn chỉnh.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Làm bài kiểm tra về Ứng dụng đồng hành nói chuyện với thanh thiếu niên về AI

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Nói chuyện với thanh thiếu niên về ứng dụng đồng hành AI là gì?

Ứng dụng đồng hành AI là các chatbot được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tâm giao. Rủi ro chính đối với thanh thiếu niên là quá phụ thuộc vào cảm xúc, tiếp xúc với nội dung khiêu dâm hoặc có hại cũng như chia sẻ dữ liệu cá nhân riêng tư với một công ty. Cha mẹ sẽ hiệu quả nhất khi bắt đầu một cuộc trò chuyện tò mò, không phán xét thay vì cấm đoán hoàn toàn. Điều này quan trọng vì thanh thiếu niên thường sử dụng các ứng dụng này một cách riêng tư trong thời gian cô đơn hoặc căng thẳng, khi rủi ro cao nhất.

Điều gì làm cho ứng dụng đồng hành khác với các trợ lý AI thông thường?

Các ứng dụng đồng hành được thiết kế để hoạt động như một người bạn, đối tác hoặc người bạn tri kỷ, vì vậy mối quan hệ đang diễn ra chính là sản phẩm.

'sycophancy' nghĩa là gì trong bối cảnh của chatbot?

Các mô hình được đào tạo về xếp hạng của con người thường biết rằng những câu trả lời dễ chịu sẽ đạt điểm cao, vì vậy họ có xu hướng đồng ý ngay cả khi phản hồi sẽ có ích.

Tại sao lớp bộ nhớ trong các ứng dụng đồng hành lại gây lo ngại về quyền riêng tư?

Ký ức khiến nhân vật có cảm giác quen thuộc nhưng điều đó có nghĩa là thông tin cá nhân được lưu giữ trên hệ thống của công ty.

Theo hướng dẫn, tại sao lệnh cấm hoàn toàn thường không hiệu quả?

Hướng dẫn cho biết thanh thiếu niên có thể dễ dàng tìm thấy các lựa chọn thay thế, vì vậy việc cấm một ứng dụng không chấm dứt được vấn đề.

Tại sao các bộ phân loại an toàn lại gặp khó khăn trong các cuộc trò chuyện nhập vai kéo dài?

Trình phân loại đánh giá các đoạn văn bản và có thể bỏ lỡ tiến trình chuyển đổi chậm trong một cuộc trao đổi dài.