Chuyện gì đã xảy ra
Ủy ban Thương mại Liên bang đã hoàn tất các lệnh đồng ý với Cox Media Group, MindSift LLC và 1010 Digital Works LLC về các cáo buộc rằng các công ty này đã lừa dối khách hàng về dịch vụ quảng cáo được hỗ trợ bởi AI. Các công ty bị cáo buộc tuyên bố rằng một thuật toán đặc biệt đã nghe các cuộc trò chuyện trên thiết bị thông minh, phát hiện các chủ đề có liên quan và nhắm mục tiêu quảng cáo được bản địa hóa, đồng thời tuyên bố rằng người tiêu dùng đã chọn tham gia dịch vụ.
FTC cho biết lệnh cuối cùng của họ yêu cầu CMG Media Corporation của Cox Media Group phải trả 880.000 USD, trong khi MindSift LLC và 1010 Digital Works LLC mỗi bên phải trả 25.000 USD. Tổng số tiền 930.000 USD sẽ được sử dụng để bồi thường cho các khách hàng của CMG mà cơ quan này cho biết đã bị ảnh hưởng bởi các hoạt động này. Số tiền thanh toán đã nêu và đề xuất sử dụng số tiền này là một phần của các lệnh cuối cùng được FTC mô tả. Nguồn không cung cấp thêm thông tin chi tiết về cơ chế khắc phục đó.
Hành động thực thi liên quan đến một dịch vụ tiếp thị được mô tả cho khách hàng là “lắng nghe tích cực” được hỗ trợ bởi AI. Theo FTC, CMG và hai công ty tiếp thị tuyên bố rằng dịch vụ này đã sử dụng một thuật toán đặc biệt để nghe và phát hiện các cuộc hội thoại thích hợp từ thiết bị thông minh của người tiêu dùng, sau đó nhắm mục tiêu quảng cáo đến người tiêu dùng trong một khu vực địa lý cụ thể. Do đó, mô tả đã kết nối khả năng nghe được cho là với cả chủ đề cuộc trò chuyện và quảng cáo được bản địa hóa. Những yếu tố đó tạo thành chủ đề trung tâm của các khiếu nại.
FTC cho biết dịch vụ này thực sự không dựa trên dữ liệu giọng nói và người tiêu dùng đã không chọn tham gia dịch vụ này. Những tuyên bố đó là những cáo buộc được giải quyết thông qua các thỏa thuận đồng ý; nguồn không cung cấp mô tả kỹ thuật độc lập về cách thức hoạt động của dịch vụ, thay vào đó xác định dữ liệu được sử dụng hoặc cho biết liệu có dữ liệu giọng nói của người tiêu dùng nào được thu thập trong thực tế hay không. Do đó, tài khoản có sẵn sẽ phân biệt giữa những gì khách hàng được cho là đã được thông báo và những gì dịch vụ thực sự đã làm. Nó cũng không xác định rõ hoạt động kỹ thuật cơ bản.
Cơ quan này cho biết ba đơn khiếu nại lần đầu tiên được công bố vào tháng 5 và đã nhận được hai ý kiến trước khi được phê duyệt lần cuối. Ủy ban đã bỏ phiếu với tỷ số 2-0 để hoàn tất các lệnh giải quyết. Mỗi bị cáo không được phép trình bày sai về chất lượng và tính năng của dịch vụ tiếp thị hoặc quảng cáo, thu thập hoặc sử dụng dữ liệu giọng nói, sự đồng ý của người tiêu dùng và khả năng nhắm mục tiêu theo địa lý. Do đó, lệnh cuối cùng đề cập đến các loại tuyên bố được xác định trong đơn khiếu nại, trong khi nguồn không mô tả các hình phạt hoặc yêu cầu bổ sung ngoài những yêu cầu đã nêu.
Tại sao nó quan trọng
Vụ việc nêu bật những hậu quả bảo vệ người tiêu dùng khi đưa ra những tuyên bố không được hỗ trợ về khả năng AI và thu thập dữ liệu giọng nói. FTC cho biết việc thu thập và sử dụng dữ liệu giọng nói của người tiêu dùng mà không có sự đồng ý đầy đủ sẽ vi phạm Đạo luật FTC nếu dịch vụ này hoạt động như quảng cáo.
Vụ việc khiến khả năng AI tự nhận mình là một vấn đề pháp lý. Một công ty mô tả một sản phẩm quảng cáo có khả năng suy ra các cuộc hội thoại có liên quan từ các thiết bị thông minh đang đưa ra một trình bày cụ thể về cả hoạt động kỹ thuật của hệ thống và dữ liệu mà nó sử dụng. Hành động của FTC chỉ ra rằng những tuyên bố đó phải được chứng minh, đặc biệt khi chúng ám chỉ sự giám sát hoặc nhắm mục tiêu có độ nhạy cảm cao. Tầm quan trọng nằm ở mối liên hệ giữa mô tả sản phẩm và những mong đợi mà mô tả đó tạo ra cho khách hàng. Khả năng bị cáo buộc không được trình bày như một khả năng trừu tượng mà là một tính năng của dịch vụ tiếp thị.
Quyền riêng tư là trọng tâm mặc dù FTC cho biết dịch vụ bị cáo buộc không hoạt động như quảng cáo. Cơ quan này tuyên bố rằng, nếu dịch vụ đã thu thập và sử dụng dữ liệu giọng nói của người tiêu dùng mà không có sự đồng ý đầy đủ thì hành vi đó sẽ vi phạm Đạo luật FTC. Sự khác biệt quan trọng: tuyên bố sai về AI xâm nhập có thể đánh lừa khách hàng và tạo ra mối lo ngại về quyền riêng tư ngay cả khi khả năng được tuyên bố là không có thật. Nó tách biệt cáo buộc lừa dối khỏi mối quan tâm pháp lý riêng biệt liên quan đến việc thu thập và sử dụng dữ liệu giọng nói. Cả hai vấn đề đều xuất hiện trong các hạn chế về đơn hàng do FTC mô tả.
Các lệnh cũng đề cập đến việc nhắm mục tiêu theo địa lý, cho thấy hành vi lừa dối bị cáo buộc không chỉ giới hạn ở việc liệu các thiết bị có nghe lén hay không. Khách hàng được cho là đã thông báo rằng hệ thống có thể nhắm mục tiêu đến những người ở một khu vực địa lý cụ thể dựa trên các cuộc hội thoại được phát hiện. Do đó, thỏa thuận giải quyết bao gồm các tuyên bố về kết quả và phạm vi tiếp cận của dịch vụ quảng cáo cũng như các hoạt động xử lý dữ liệu cơ bản của dịch vụ đó. Phạm vi rộng hơn đó được phản ánh trong các tham chiếu đến khả năng nhắm mục tiêu theo địa lý cùng với dữ liệu giọng nói và sự đồng ý. Do đó, trường hợp này liên quan đến mô tả đầy đủ về dịch vụ, từ đầu vào được công bố đến kết quả quảng cáo được công bố.
Đối với các doanh nghiệp mua quảng cáo hỗ trợ AI, bài học thực tế là các tuyên bố của nhà cung cấp về nguồn dữ liệu, sự đồng ý và nhắm mục tiêu cần có tài liệu và xác minh. Đối với người tiêu dùng, hành động này nhấn mạnh rằng các mô tả về “lắng nghe tích cực” hoặc các hệ thống tương tự không được coi là bằng chứng cho thấy sản phẩm có khả năng kỹ thuật cụ thể hoặc đã nhận được sự đồng ý. Các cáo buộc của FTC cho thấy lý do tại sao các phần đó của mô tả sản phẩm lại quan trọng với nhau: tuyên bố về nguồn dữ liệu ảnh hưởng đến kỳ vọng về quyền riêng tư, trong khi tuyên bố nhắm mục tiêu ảnh hưởng đến những gì khách hàng tin rằng dịch vụ có thể làm. Thỏa thuận giải quyết không cung cấp thử nghiệm kỹ thuật chung cho các hệ thống như vậy nhưng nó xác định các vấn đề được đề cập ở đây.
Cơ chế tương tác: Nó thực sự hoạt động như thế nào
Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Xem gì tiếp theo
Lệnh cấm các công ty trình bày sai các tính năng của dịch vụ tiếp thị, thu thập và đồng ý dữ liệu giọng nói cũng như nhắm mục tiêu theo địa lý. Nguồn không cho biết có bao nhiêu khách hàng bị ảnh hưởng, cách thức bồi thường sẽ được phân bổ hoặc liệu dịch vụ có từng thu thập dữ liệu giọng nói trên thực tế hay không.
Quy trình khắc phục sự cố của người tiêu dùng trong đơn đặt hàng là bước cụ thể tiếp theo. Nguồn tin cho biết 930.000 USD sẽ được sử dụng để khắc phục các khách hàng CMG bị ảnh hưởng, nhưng nó không nêu rõ số lượng người nhận, quy tắc đủ điều kiện, số tiền thanh toán, thời gian hoặc liệu các thông báo bổ sung có được gửi hay không. Những chi tiết hành chính chưa được trả lời đó sẽ quyết định mức độ khắc phục đã nêu của khách hàng. Ở giai đoạn này, nguồn thiết lập mục đích của số tiền chứ không phải quy trình phân phối nó. Sự vắng mặt của những chi tiết đó sẽ hạn chế những gì có thể nói về hiệu quả thực tế của thỏa thuận dàn xếp.
Các tuyên bố về quyền riêng tư và quảng cáo trong tương lai của công ty sẽ phải tuân theo các lệnh cấm trong lệnh cuối cùng. Các lĩnh vực liên quan bao gồm các tuyên bố về việc liệu một dịch vụ có thu thập hoặc sử dụng dữ liệu giọng nói hay không, liệu người tiêu dùng có đồng ý với hoạt động đó hay không, liệu hệ thống AI có thể nhắm mục tiêu đến một khu vực địa lý hay không và những tính năng mà dịch vụ thực sự cung cấp. Các danh mục này theo dõi các yêu cầu bồi thường được mô tả trong hành động cưỡng chế và xác định các tuyên bố mà các lệnh này giải quyết cụ thể. Việc tiếp tục chú ý đến những lĩnh vực đó sẽ cho thấy các công ty hoạt động như thế nào theo các hạn chế cuối cùng. Nguồn tin không cho biết liệu việc thực thi tiếp theo có diễn ra hay không.
Nguồn vẫn chưa giải quyết được cách thức hoạt động của dịch vụ và cách khách hàng được đưa ra các khiếu nại. Nó không xác định các nguồn dữ liệu thay thế được sử dụng, mô tả ngôn ngữ chấp thuận hoặc thông tin tiết lộ của khách hàng hoặc cho biết liệu các bản ghi trên thiết bị thông minh có từng được truy cập hay không. Những chi tiết đó sẽ giúp làm rõ phạm vi của bất kỳ sự tiếp xúc nào trong thế giới thực. Họ cũng sẽ phân biệt chính xác hơn giữa các tuyên bố tiếp thị bị cáo buộc và hoạt động thực hiện dữ liệu thực tế của dịch vụ. Cho đến khi những điểm đó được cung cấp, tài khoản sẽ đưa ra kết luận về các cáo buộc và lệnh chứ không phải về mức độ của bất kỳ khoản thu thập cơ bản nào.
Câu hỏi pháp lý rộng hơn là các đại lý sẽ xử lý các mô tả không được hỗ trợ về hệ thống AI trong quảng cáo như thế nào. Thỏa thuận giải quyết này không thiết lập tiêu chuẩn kỹ thuật chung cho các sản phẩm “nghe tích cực”, nhưng nó cho thấy rằng các công ty có thể phải đối mặt với việc thực thi khi các tuyên bố về khả năng AI, thu thập dữ liệu và sự đồng ý của người tiêu dùng là sai lệch nghiêm trọng. Do đó, vụ việc cung cấp một ví dụ cụ thể liên quan đến một dịch vụ quảng cáo và ba bị cáo, thay vì đưa ra một quy tắc hoàn chỉnh cho mọi khiếu nại về tiếp thị AI. Những diễn biến trong tương lai sẽ làm rõ liệu những giải trình tương tự có nhận được sự xem xét kỹ lưỡng tương đương trong các vấn đề khác hay không.