Chuyện gì đã xảy ra
BBC News Chinese đưa tin rằng các video do AI tạo ra có sự góp mặt của các chuyên gia y tế hư cấu đang được lan truyền trong số những khán giả lớn tuổi ở Đài Loan. Báo cáo mô tả một lớp học ở Đài Bắc, nơi học sinh cuối cấp sử dụng Gemini và ChatGPT để xem video do một bác sĩ được cho là trình bày. Các nhà nghiên cứu và nhà giáo dục nói với BBC rằng các video được sản xuất với chi phí rẻ và ở quy mô lớn, thường kết hợp khuôn mặt, giọng nói tổng hợp và thông tin do AI lắp ráp. BBC cũng nhận thấy người điều hành nhiều kênh không được công khai danh tính. Các tuyên bố về thao túng liên quan đến bầu cử vẫn chưa được xác minh.
BBC News tiếng Trung đưa tin từ một trung tâm chăm sóc người cao tuổi ở Đài Bắc, nơi những người ở độ tuổi khoảng 60 đến 90 học cách sử dụng điện thoại và đánh giá các video do AI tạo ra. Bài báo tập trung vào một đoạn có cảnh một bác sĩ được cho là tên là Zheng, mặc áo khoác trắng và đeo ống nghe, thảo luận về tình trạng thiểu cơ và khẳng định thực phẩm giàu protein không còn tác dụng sau tuổi 60. Một người tham gia đã nhận và chuyển tiếp nó. Trong lớp, anh hỏi Gemini và ChatGPT; Các trợ lý cho biết bác sĩ không tồn tại và video cũng như thông tin sức khỏe đã được AI tạo ra hoặc tập hợp. BBC không độc lập đưa ra đánh giá lâm sàng hay xác lập tính chính xác của các trợ lý.
Giáo viên chủ nhiệm Li Zi-qiang nói với BBC rằng các video do AI tạo ra đã được lan truyền rộng rãi trong cộng đồng và các nhóm nhắn tin của người cao tuổi Đài Loan trong năm qua. Các video sử dụng những người thuyết trình ảo tự xưng là bác sĩ, nhân viên đường sắt đã nghỉ hưu hoặc cựu tiếp viên hàng không. Trung tâm FactCheck Đài Loan nói với BBC rằng các kênh YouTube của trang trại nội dung đã đưa ra những tuyên bố sai sự thật về sức khỏe, quyền lợi cao cấp và chiết khấu vận chuyển. Ví dụ bao gồm các tuyên bố bịa đặt rằng hành khách lớn tuổi có thể tự động nhận được nâng cấp hạng thương gia trên đường sắt tốc độ cao, vé miễn phí cho người đi cùng, quà tặng tiền mặt hoặc người chăm sóc bệnh viện miễn phí. Các nhà khai thác đường sắt Đài Loan đã nhiều lần cho biết những lợi ích cao cấp và chiết khấu ẩn không tồn tại.
Dai Yu-chen, một nhà nghiên cứu an ninh mạng người Đài Loan, nói với BBC rằng ông đã theo dõi hơn 200 kênh YouTube chứa hơn 70.000 video với tổng cộng 1,32 tỷ lượt xem. Ông ước tính một video có thể được thực hiện trong khoảng 20 giây bằng các công cụ hiện tại: AI có thể tạo ra khuôn mặt và hình nền của bác sĩ hoặc chuyên gia, đồng bộ hóa tệp âm thanh với miệng, tập hợp thông tin từ tài liệu trực tuyến và thêm phụ đề. Những số liệu và ước tính này là tuyên bố của nhà nghiên cứu được BBC đưa tin; nguồn không mô tả hoạt động kiểm tra độc lập đối với danh sách kênh, số lượt xem hoặc quy trình làm việc.
BBC cho biết họ đã kiểm tra 20 kênh có lượng người đăng ký cao và nhận thấy các nhà điều hành các kênh này không tiết lộ thông tin nhận dạng hữu ích nào. Các địa điểm được cho là bao gồm Đài Loan, Hoa Kỳ, Malaysia và Hồng Kông, đồng thời một số kênh đã bị xóa do vi phạm các quy tắc nền tảng. Một nguồn tin an ninh quốc gia Đài Loan ẩn danh cáo buộc rằng một số kênh về sức khỏe và lối sống đã thay đổi thành vận động chính trị trong thời gian bầu cử. Cáo buộc không được xác nhận độc lập và không thiết lập một hoạt động phối hợp. Văn phòng các vấn đề Đài Loan của Trung Quốc đã nhiều lần bác bỏ cáo buộc cho rằng Trung Quốc tiến hành các hoạt động gây ảnh hưởng chống lại Đài Loan và cáo buộc chính phủ Đài Loan thao túng dư luận.
Tại sao nó quan trọng
Các video có thể khiến những tuyên bố sai lệch về sức khỏe, phúc lợi và giao thông có vẻ có căn cứ và BBC đưa tin rằng một số người xem đã hành động dựa trên những tuyên bố đó. Tài liệu này cũng khai thác các mối quan hệ xã hội đáng tin cậy: người xem lớn tuổi có thể xem các video dài để biết thông tin hoặc tình bạn rồi chuyển tiếp chúng cho bạn bè. Thang đo được mô tả bởi một nhà nghiên cứu an ninh mạng người Đài Loan cho thấy thông tin sai lệch tổng hợp có thể trở thành một phần dai dẳng trong môi trường thông tin hàng ngày. Báo cáo không chứng minh rằng các kênh này là một phần của hoạt động chính trị phối hợp, nhưng nó ghi lại lý do tại sao khả năng đó lại nhận được sự chú ý.
Mối quan tâm trước mắt không phải là mọi video tổng hợp đều gây ra tác hại có thể đo lường được mà là những tuyên bố sai sự thật được đưa ra thông qua các tín hiệu quyền lực quen thuộc. BBC đưa tin rằng một người tham gia lớp học đã đến ga đường sắt cao tốc vì một đoạn video hứa hẹn một lợi ích nhưng không thành hiện thực. Bài báo cho biết không có thương tích y tế nào do video giả của bác sĩ gây ra, nhưng thông tin sai lệch về sức khỏe có thể ảnh hưởng đến các lựa chọn về triệu chứng, phương pháp điều trị hoặc chế độ ăn uống. Một người thuyết trình có vẻ ngoài uy tín và thông tin phù hợp với mối quan tâm của người lớn tuổi khiến nội dung khó bị coi là châm biếm rõ ràng hơn.
Chuyển tiếp không chỉ đơn giản là chia sẻ thông tin. Một người tham gia 86 tuổi nói với BBC rằng bà đã tin tưởng và chuyển tiếp tài liệu từ bạn bè và giờ cảm thấy bị lừa dối sau khi biết rằng một số video do AI tạo ra. Một người tham gia khác dành vài giờ mỗi ngày để xem và sắp xếp video trước khi chuyển tiếp chúng cho ít nhất 50 người bạn, mô tả việc chia sẻ là một cách để duy trì kết nối xã hội. Một bác sĩ tâm thần ở Đài Bắc nói với BBC rằng các video về sức khỏe có thể giải quyết nỗi lo lắng về tuổi già bằng cách đưa ra các giải pháp rõ ràng có thể thực hiện được, trong khi việc chuyển tiếp có thể mang lại sự đồng hành và cảm giác hữu ích.
Quy mô thay đổi vấn đề. Nếu ước tính của nhà nghiên cứu là chính xác thì một số ít kênh có thể sản xuất và phân phối khối lượng lớn tài liệu trông có vẻ hợp lý với chi phí rất thấp. BBC tường thuật các chủ đề bao gồm sức khỏe, hưu trí, khoa học, tôn giáo và phúc lợi, những chủ đề gắn chặt với nhu cầu hàng ngày của người xem lớn tuổi. Công ty mẹ của YouTube, Google, nói với BBC rằng các quy tắc của họ áp dụng cho tài liệu do AI tạo ra và cấm thông tin y tế sai lệch có thể gây tổn hại nghiêm trọng trong thế giới thực. Báo cáo lưu ý rằng nhiều người xem lớn tuổi không chú ý đến nhãn AI gắn trên video.
Ý nghĩa chính trị là đáng kể nhưng chưa được giải quyết. Một bác sĩ tổng hợp hoặc một công nhân đã nghỉ hưu có thể xây dựng uy tín xung quanh các chủ đề phi chính trị trước khi một kênh đưa ra các tuyên bố chính trị. BBC trích dẫn một nghiên cứu năm 2024 về các trang về lối sống và sức khỏe thu hút khán giả Đài Loan trước khi đưa thông điệp chính trị vào, nhưng nền tảng đó không chứng minh được các kênh ở đây có sự phối hợp với nhau. Một chuyên gia về kiến thức kỹ thuật số nói với BBC rằng ngay cả khi không có sự phối hợp độc hại, các video vẫn có thể hoạt động như AI sai lệch: tài liệu có giá trị thấp hoặc sai lệch gây chú ý và khiến thông tin đáng tin cậy khó tìm hơn. Vấn đề về chất lượng thông tin được ghi lại đó khác với cáo buộc chưa được chứng minh về sự kiểm soát chính trị của nước ngoài.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Các câu hỏi chính là liệu các nền tảng có thể xác định và hạn chế thông tin sai lệch tổng hợp với số lượng lớn hay không, liệu các nhãn có hiển thị và hiệu quả đối với người xem lớn tuổi hay không và liệu các nhà điều tra độc lập có thể xác minh các kênh, số lượt xem và phương pháp sản xuất được mô tả cho BBC hay không. Việc giám sát trong thời gian bầu cử sẽ yêu cầu bằng chứng về sự phối hợp, quyền sở hữu, nguồn tài trợ và những thay đổi về nội dung thay vì chỉ cáo buộc ẩn danh. Các chuyên gia y tế công cộng và các nhà giáo dục hiểu biết về truyền thông cũng sẽ cần đánh giá cách mọi người có thể xác minh các tuyên bố y tế mà không coi trợ lý AI là cơ quan có thẩm quyền cuối cùng.
Xác minh độc lập trước tiên nên tập trung vào các tuyên bố thực nghiệm cơ bản. Các nhà điều tra sẽ cần xuất bản hoặc ghi lại danh sách các kênh, phương pháp lấy mẫu, ngày tháng, tính toán số lượt xem và tiêu chí để xác định xem video có phải do AI tạo ra hay không. BBC báo cáo ước tính của một nhà nghiên cứu và đánh giá của riêng họ về 20 kênh, nhưng không cung cấp dữ liệu cơ bản. Nó cũng không xác định có bao nhiêu người xem đã hành động theo các khiếu nại y tế, tần suất các video sai lệch được hệ thống nền tảng đề xuất hoặc bao nhiêu nội dung đến từ một nhà điều hành thông thường.
Việc thực thi nền tảng là một thử nghiệm thực tế khác. Google cho biết các quy tắc tương tự cũng áp dụng cho các video do AI tạo ra và thông tin y tế sai lệch nghiêm trọng đều bị cấm, trong khi BBC đưa tin một số kênh đã bị xóa. Những điều chưa biết bao gồm mức độ hiển thị nhãn nhất quán, liệu video tổng hợp có bị tắt tính năng kiếm tiền hay không, hệ thống đề xuất xử lý chúng như thế nào và liệu việc xóa một kênh có dẫn đến việc thay thế nhanh chóng bằng kênh khác hay không. Những câu hỏi đó quan trọng vì nhà nghiên cứu đã mô tả một mạng lưới các kênh có hồ sơ tài khoản bot tương tự, nhưng nguồn không xác định độc lập một tổ chức kiểm soát chúng.
Việc giám sát trong thời gian bầu cử nên tách biệt những thay đổi nội dung có thể quan sát được khỏi suy đoán. Nguồn an ninh quốc gia ẩn danh được BBC trích dẫn không được xác nhận độc lập, vì vậy nó không nên được sử dụng làm bằng chứng cho thấy các kênh chuyển sang một thông điệp chính trị cụ thể. Bằng chứng mạnh mẽ hơn sẽ bao gồm các liên kết sở hữu minh bạch, sự phối hợp xuyên kênh lặp đi lặp lại, tài sản sản xuất chung, hồ sơ tài trợ hoặc những thay đổi được ghi lại trong phân phối và nhắn tin. BBC đưa tin rằng một số kênh đã bắt đầu thảo luận xem liệu thống nhất với Trung Quốc có thích hợp hơn hay không, nhưng quy mô, nguồn gốc và sự phối hợp của nội dung đó vẫn chưa được biết.
Lớp học ở Đài Bắc đưa ra câu trả lời cụ thể: người xem mang những video quen thuộc vào bài học, đặt câu hỏi về nhận định của mình và so sánh kết quả với những gì họ đã biết. Cách tiếp cận đó có thể cải thiện sự hoài nghi, nhưng BBC không chứng minh rằng Gemini hoặc ChatGPT có thể xác thực một video hoặc xác thực lời khuyên y tế một cách đáng tin cậy. Phạm vi bảo hiểm trong tương lai sẽ theo dõi xem các lớp như vậy có thay đổi hành vi chuyển tiếp hay không, liệu người tham gia có tham khảo các nguồn y tế hoặc chính phủ có thẩm quyền hay không và cách các nhà giáo dục giải quyết rủi ro khi một hệ thống AI không hoàn hảo được sử dụng để kiểm tra một hệ thống khác.