Chuyện gì đã xảy ra
PsyPost báo cáo về một nghiên cứu Tâm lý & Tiếp thị xem xét cách các chatbot mô phỏng trí tuệ cảm xúc ảnh hưởng đến tâm lý và sức khỏe xã hội của người dùng. Các phát hiện được báo cáo cho thấy một sự đánh đổi: nhận thấy sự gần gũi với một chatbot đồng cảm có liên quan đến việc cải thiện sức khỏe cá nhân nhưng động lực cho các mối quan hệ mặt đối mặt yếu hơn.
PsyPost báo cáo rằng các nhà nghiên cứu Shaphali Gupta, Sumit Saxena và Sonia Kataria đã nghiên cứu tác động của trí tuệ cảm xúc mô phỏng trong các chatbot xã hội. Báo cáo cho biết các nhà nghiên cứu lần đầu tiên phân tích các bình luận của công chúng về Replika trên Reddit, YouTube và Trustpilot. Những nhận xét đó mô tả chatbot có tính hỗ trợ về mặt cảm xúc và đối với một số người dùng, nó hữu ích trong việc kiểm soát căng thẳng hoặc các tình huống khó khăn. Phân tích tương tự cũng cho thấy báo cáo từ một số người dùng rằng tương tác sâu với chatbot làm giảm mong muốn hoặc thời gian dành cho tình bạn ngoại tuyến của họ. Những quan sát này đến từ tài khoản nghiên cứu của PsyPost và nhận xét của người dùng; chúng không được xác minh độc lập ở đây.
Theo PsyPost, thí nghiệm đầu tiên có sự tham gia của 167 sinh viên đại học thuộc Thế hệ Z. Những người tham gia đọc các tình huống liên quan đến một chatbot được đặc trưng là có trí tuệ cảm xúc cao hoặc thấp. Chatbot có trí tuệ cảm xúc cao sử dụng ngôn ngữ và biểu tượng cảm xúc đồng cảm, trong khi chatbot so sánh đưa ra nhiều phản hồi mang tính robot hơn. Bảng câu hỏi đo lường mức độ gần gũi được nhận thức với chatbot cũng như mức độ phúc lợi cá nhân và xã hội. PsyPost báo cáo rằng chatbot biểu cảm nhiều hơn sẽ cải thiện sức khỏe tâm lý nhưng làm giảm sức khỏe xã hội, với sự gần gũi nhận thức được sẽ thúc đẩy cả hai tác động.
PsyPost báo cáo rằng thí nghiệm thứ hai có sự tham gia của 350 sinh viên đại học được giao cho sự kết hợp giữa trí tuệ cảm xúc mô phỏng cao hoặc thấp và trò chuyện bằng văn bản hoặc thực tế tăng cường. Trong điều kiện thực tế tăng cường, những người tham gia xem phần trình diễn và tưởng tượng chatbot bên cạnh họ trong phòng của họ. Báo cáo cho biết trí tuệ cảm xúc cao kết hợp với thực tế tăng cường tạo ra sự gần gũi được nhận thức mạnh mẽ hơn và mức tăng lớn hơn về sức khỏe tâm lý được báo cáo, cùng với sự sụt giảm mạnh hơn về mức độ sẵn sàng tham gia vào các mối quan hệ ngoại tuyến. Nguồn không xác định liệu những phản ứng ngắn hạn này có trở thành những thay đổi hành vi lâu dài hay không.
Tại sao nó quan trọng
Những phát hiện này rất quan trọng vì những người bạn đồng hành của AI ngày càng được thiết kế để cung cấp sự hỗ trợ về mặt cảm xúc chứ không chỉ để trả lời các câu hỏi. Nếu mối quan hệ được báo cáo giữa mức độ gần gũi của chatbot và mức độ tương tác ngoại tuyến giảm nằm ngoài các kịch bản tưởng tượng, thì thiết kế sản phẩm có thể ảnh hưởng đến cách người dùng tìm kiếm sự hỗ trợ của con người. Bằng chứng chỉ mang tính sơ bộ và không cho thấy những người bạn đồng hành của AI gây ra trầm cảm, sự phụ thuộc hoặc tổn hại đến các mối quan hệ trong cuộc sống hàng ngày.
Các kết quả được báo cáo tách biệt hai kết quả thường được coi là có thể thay thế cho nhau: cảm thấy cá nhân tốt hơn và được kết nối xã hội nhiều hơn. Một chatbot có thể mang lại sự thoải mái ngay lập tức hoặc cài đặt khả năng phán đoán thấp để thể hiện bản thân, đồng thời khiến sự tương tác giữa con người với nhau trở nên ít cần thiết hơn. Sự khác biệt đó thực tế có liên quan đến người dùng, gia đình, bác sĩ lâm sàng và nhà thiết kế đánh giá các hệ thống đồng hành.
Báo cáo mô tả các tương tác tưởng tượng giữa các sinh viên đại học thay vì việc sử dụng mở rộng của những người dựa vào một ứng dụng đồng hành thực tế. PsyPost cho biết các thí nghiệm đã đo lường các phản ứng ngắn hạn, vì vậy những phát hiện này không thể xác định được mối quan hệ nhân quả trong cuộc sống bình thường, sự phụ thuộc cảm xúc lâu dài hoặc ảnh hưởng đến các tình trạng sức khỏe tâm thần được chẩn đoán. Bài báo cũng không xác nhận độc lập các phương pháp hoặc kết quả của nghiên cứu ngoài báo cáo xuất bản.
Nếu mô hình được báo cáo được tái tạo trong các nghiên cứu trong thế giới thực, các hệ thống đồng hành có thể cần các biện pháp bảo vệ nhằm mang lại phúc lợi xã hội cũng như sự hài lòng ngay lập tức của người dùng. PsyPost cho biết các tác giả đề xuất giới hạn phiên và nhắc nhở khuyến khích xã hội hóa ngoại tuyến sau những cuộc trò chuyện căng thẳng về mặt cảm xúc. Đó là những đề xuất từ các nhà nghiên cứu chứ không phải các tính năng được ghi lại của một sản phẩm cụ thể.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Những hạn chế được báo cáo của nghiên cứu khiến cho nghiên cứu dài hạn trở nên đặc biệt quan trọng. Công việc trong tương lai nên kiểm tra việc sử dụng bền vững thực tế giữa các nhóm tuổi và kiểm tra xem các tính năng thiết kế như giới hạn phiên hoặc lời nhắc liên hệ ngoại tuyến với mọi người có làm giảm sự dịch chuyển xã hội hay không. Quyền truy cập, giá cả và tính khả dụng trong thế giới thực của các trải nghiệm chatbot được thảo luận không được ghi lại trong nguồn.
Câu hỏi chính chưa được giải quyết là liệu sự gần gũi được nhận thấy với một chatbot biểu cảm về mặt cảm xúc có làm thay đổi hành vi thực tế trong nhiều tuần hoặc nhiều tháng hay không. PsyPost cho biết nghiên cứu trong tương lai có thể theo dõi người dùng trong thời gian dài hơn để kiểm tra khả năng phụ thuộc cảm xúc hoặc hình thành thói quen.
Đối tượng nghiên cứu được giới hạn ở sinh viên đại học và nguồn tin cho biết những người tham gia đã phản ứng với các tình huống tưởng tượng. Kết quả có thể khác nhau đối với người lớn tuổi, thanh thiếu niên, những người đang trải qua sự cô đơn trầm trọng hoặc người dùng tương tác với bạn bè hàng ngày. Những quần thể đó không được thiết lập bởi các thí nghiệm được báo cáo.
Nguồn không ghi lại thông tin ra mắt sản phẩm, tính sẵn có chung, yêu cầu truy cập hoặc giá cả. Nó cũng không cho thấy bất kỳ chatbot cụ thể nào đã khiến người dùng từ bỏ mối quan hệ giữa con người với nhau. Người đọc nên coi những phát hiện được báo cáo là một nghiên cứu ban đầu về một sự đánh đổi có thể xảy ra, chứ không phải là bằng chứng cho thấy các chatbot thông minh về mặt cảm xúc vốn có hại hoặc là một phương pháp điều trị trầm cảm.