Chuyện gì đã xảy ra
The Verge báo cáo rằng Instagram đang thay đổi cách gắn nhãn hồ sơ có những người do AI tạo ra. Nền tảng này sẽ đổi tên nhãn “Người sáng tạo AI” thành “Hồ sơ do AI tạo” và giới hạn phạm vi tiếp cận của những tài khoản không tự gắn nhãn.
The Verge báo cáo rằng Instagram đang phản ứng với sự gia tăng của các tài khoản người có ảnh hưởng AI ngày càng khó phân biệt với hồ sơ đại diện cho người thật. Nền tảng này đang đổi tên nhãn “Người tạo AI” hiện tại thành “Hồ sơ do AI tạo”. Instagram cho biết, trong một bài đăng trên blog được The Verge trích dẫn, người dùng muốn biết khi nào một hồ sơ có một người do AI tạo ra chứ không phải một con người thật. Việc thay đổi từ ngữ nhằm mục đích làm cho sự khác biệt đó rõ ràng hơn. Do đó, thuật ngữ được báo cáo mô tả chính tài khoản đó chứ không chỉ đơn giản là một hình ảnh, video hoặc chú thích riêng lẻ có thể đã sử dụng công cụ AI.
Theo The Verge, Instagram sẽ tìm kiếm các tài khoản có hồ sơ do AI tạo nhưng không tự gắn nhãn. Hình phạt được báo cáo là giảm phân phối chứ không phải loại bỏ khỏi dịch vụ. Những bài đăng từ tài khoản gắn cờ Instagram sẽ không được đề xuất cho những người chưa theo dõi chúng trong Câu chuyện và Khám phá. The Verge cũng báo cáo rằng chủ sở hữu hồ sơ có thể khiếu nại nếu Instagram gắn cờ họ không chính xác. Điều đó làm cho thay đổi được báo cáo trở thành một hệ quả phân phối gắn liền với việc tiết lộ, với tùy chọn khiếu nại đóng vai trò là biện pháp khắc phục đã nêu đối với cờ không chính xác.
Chính sách được báo cáo có một ranh giới cụ thể. Instagram nói với The Verge rằng những người sử dụng công cụ AI để tạo nội dung không nhất thiết phải thêm nhãn. Do đó, hành động này liên quan đến các hồ sơ hiển thị một người do AI tạo ra làm chủ thể rõ ràng của một tài khoản, thay vì mọi bài đăng đã được chỉnh sửa, nâng cao hoặc được thực hiện bằng AI. Nguồn không cung cấp lịch trình triển khai, tiêu chí phát hiện, ví dụ về quyết định thực thi hoặc dữ liệu cho thấy số lượng tài khoản có thể bị ảnh hưởng. Nói cách khác, báo cáo được cung cấp vạch ra ranh giới giữa nhận dạng tổng hợp và việc sử dụng AI trong quá trình sản xuất, trong khi vẫn để ngỏ các chi tiết triển khai.
Chi tiết nguồn: theverge.com ↗
Tại sao nó quan trọng
Thay đổi này nhắm đến các cá nhân do AI tạo ra có thể trông giống người thật nhưng không tạo ra bộ lọc chung cho nội dung do AI tạo ra. The Verge báo cáo rằng các bài đăng bị ảnh hưởng sẽ bị loại khỏi đề xuất cho những người không theo dõi trong Câu chuyện và Khám phá, trong khi chủ sở hữu có thể khiếu nại các quyết định sai lầm.
Thay đổi này giải quyết một dạng nhầm lẫn cụ thể: một tài khoản có thể trông giống như một hồ sơ cá nhân hoặc người có ảnh hưởng thông thường ngay cả khi người được đại diện không tồn tại. The Verge báo cáo rằng cơ sở lý luận của Instagram dựa trên việc người dùng chỉ sau đó mới phát hiện ra rằng một hồ sơ dường như là con người đã được tạo bởi AI. Nhãn cấp hồ sơ hiển thị có thể cung cấp cho người dùng bối cảnh quan trọng trước khi họ theo dõi, chia sẻ hoặc tin tưởng vào bản trình bày của tài khoản. Lợi ích dự định là bối cảnh tại thời điểm gặp hồ sơ, trước khi trình bày tài khoản được coi là mệnh giá.
Hình phạt phạm vi tiếp cận cũng thay đổi số tiền đặt cược thực tế cho người điều hành tài khoản. Nếu các bài đăng bị loại trừ khỏi đề xuất cho những người không theo dõi trong Câu chuyện và Khám phá, thì hồ sơ do AI tạo không được gắn nhãn có thể có ít khả năng phát triển hơn đối tượng khán giả hiện tại. Điều đó khác biệt đáng kể so với nhãn chỉ bổ sung thông tin trong khi không thay đổi mức phân phối. Đồng thời, The Verge báo cáo không có chính sách xóa, phạt tài chính hoặc cấm chung đối với hồ sơ do AI tạo. Sự khác biệt rất quan trọng vì việc hiển thị đề xuất là một phần trong cách tài khoản tiếp cận những người không chọn theo dõi tài khoản đó.
Chính sách này được giới hạn theo những cách quan trọng đối với người dùng đang cố gắng hiểu những gì họ nhìn thấy. The Verge báo cáo rằng bản thân nội dung do AI tạo ra không phải lúc nào cũng yêu cầu nhãn hồ sơ, do đó, thay đổi sẽ không cung cấp cho mọi người một cách toàn diện để xác định hoặc lọc tất cả hình ảnh, video hoặc chú thích do AI tạo ra. Nó cũng chưa giải quyết được cách Instagram sẽ phân biệt một nhân cách tổng hợp hoàn toàn với một người thật bằng cách sử dụng các công cụ AI. Báo cáo không xác định độc lập mức độ chính xác của khả năng phát hiện Instagram, tần suất xảy ra kết quả dương tính giả hoặc liệu cách diễn đạt mới có cải thiện sự hiểu biết của người dùng hay không. Hạn chế đó có nghĩa là nhãn phải được đọc dưới dạng tín hiệu dành riêng cho hồ sơ chứ không phải dưới dạng tài khoản hoàn chỉnh về các công cụ được sử dụng để tạo bất kỳ bài đăng riêng lẻ nào.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Những ẩn số chính là cách Instagram xác định hồ sơ do AI tạo, mức độ nhất quán áp dụng nhãn và giới hạn phạm vi tiếp cận cũng như cách hoạt động của kháng nghị. Hiệu lực của chính sách cũng sẽ phụ thuộc vào việc người dùng có thể phân biệt những người do AI tạo ra với hồ sơ thông thường và nội dung được AI hỗ trợ hay không.
Câu hỏi thực tế đầu tiên là làm thế nào Instagram xác định rằng hồ sơ có người do AI tạo ra. The Verge báo cáo rằng Instagram có kế hoạch tìm kiếm những tài khoản không tự gắn nhãn, nhưng bài viết không mô tả các tín hiệu, quy trình xem xét hoặc ngưỡng được sử dụng để đưa ra quyết định đó. Theo dõi hướng dẫn thực thi đã công bố, ví dụ về hồ sơ bị gắn cờ và bằng chứng về việc hệ thống dựa vào tính năng phát hiện tự động, báo cáo của người dùng, đánh giá của con người hay kết hợp các phương pháp. Nếu không có những chi tiết đó, nguồn sẽ thiết lập mục tiêu theo kế hoạch nhưng tiêu chuẩn hoạt động Instagram sẽ không áp dụng được trong thực tế.
Quá trình kháng cáo sẽ rất quan trọng vì hậu quả được báo cáo sẽ ảnh hưởng đến việc phân phối chứ không chỉ việc tiết lộ. Instagram cho biết chủ sở hữu có thể kháng cáo khi họ bị gắn cờ sai, theo The Verge, nhưng nguồn tin không cho biết các kháng nghị sẽ được xem xét nhanh như thế nào, liệu phạm vi tiếp cận có được khôi phục trong quá trình xem xét hay không hoặc chủ sở hữu tài khoản có thể gửi bằng chứng gì. Những chi tiết đó sẽ xác định liệu chính sách có hoạt động như một biện pháp minh bạch có mục tiêu hay tạo ra nguy cơ đáng kể về việc ngăn chặn nhầm lẫn. Do đó, mô tả có sẵn xác định lộ trình khiếu nại mà không thiết lập các biện pháp bảo vệ, thời gian hoặc kết quả có thể xảy ra.
Vấn đề rộng hơn chưa được giải quyết là ranh giới giữa hồ sơ do AI tạo ra và xuất bản thông thường được hỗ trợ bởi AI. Quan điểm được báo cáo của Instagram là việc sử dụng các công cụ AI để tạo nội dung bản thân nó không yêu cầu nhãn. Theo dõi xem liệu người dùng có thể hiểu được sự khác biệt đó một cách đáng tin cậy hay không, liệu Instagram có mở rộng nhãn sang các dạng phương tiện tổng hợp khác hay không và liệu giới hạn phạm vi tiếp cận có làm giảm đáng kể sự lây lan của các cá tính AI không được tiết lộ hay không. Báo cáo của Verge chưa cung cấp thước đo độc lập nào về hiệu quả của chính sách. Những câu hỏi đó vẫn còn mở trong báo cáo được cung cấp, trong đó mô tả chính sách nhưng chưa đưa ra đánh giá kết quả.