發生了什麼事
聯邦貿易委員會與 Cox Media Group、MindSift LLC 和 1010 Digital Works LLC 敲定了同意令，指控這些公司在人工智慧廣告服務方面欺騙客戶。據稱，這些公司聲稱一種特殊的演算法可以監聽智慧型裝置的對話，偵測相關主題並定位在地化廣告，同時也聲稱消費者已經選擇了這項服務。
FTC 表示，其最終命令要求 Cox Media Group 旗下的 CMG Media Corporation 支付 88 萬美元，而 MindSift LLC 和 1010 Digital Works LLC 必須各支付 25,000 美元。總計 93 萬美元將用於向 CMG 客戶提供賠償，該機構稱這些客戶受到了這些做法的影響。規定的付款金額和擬議的資金用途是聯邦貿易委員會描述的最終命令的一部分。消息來源沒有提供有關該補救機制的更多細節。
這項執法行動涉及一項向客戶描述的由人工智慧驅動的「主動傾聽」行銷服務。據 FTC 稱，CMG 和兩家行銷公司聲稱，該服務使用特殊演算法來監聽和檢測消費者智慧型裝置的相關對話，然後向特定地理區域內的消費者投放廣告。因此，該描述將所謂的收聽能力與對話主題和在地化廣告聯繫起來。這些要素構成了投訴的中心主題。
聯邦貿易委員會表示，該服務實際上並不是基於語音數據，消費者也沒有選擇使用它。這些陳述是透過同意協議解決的指控；該消息來源沒有提供有關該服務如何運作的獨立技術描述，也沒有識別所使用的數據，也沒有說明在實踐中是否收集了任何消費者的語音數據。因此，可用的帳戶可以區分客戶據稱被告知的內容和服務實際執行的操作。它還沒有指定底層的技術操作。
該機構表示，這三項投訴於 5 月首次公佈，並在最終批准之前收到了兩則評論。委員會以 2 比 0 的投票結果最終確定了和解令。禁止各被告就廣告或行銷服務品質與功能、語音資料收集或使用、消費者同意、地理定位能力做出虛假陳述。因此，最終命令涉及投訴中確定的陳述類別，而消息來源沒有描述除所述規定之外的其他處罰或要求。
為什麼這很重要
此案例凸顯了對人工智慧功能和語音資料收集提出未經證實的主張對消費者保護造成的後果。美國聯邦貿易委員會表示，如果該服務按照廣告宣傳的方式運營，那麼在未經充分同意的情況下收集和使用消費者的語音數據本身就違反了聯邦貿易委員會法案。
此案使人工智慧能力聲稱自己成為監管問題。一家將廣告產品描述為能夠從智慧型裝置推斷相關對話的公司正在對該系統的技術操作及其使用的數據進行具體表述。聯邦貿易委員會的行動表明這些說法必須得到支持，特別是當它們暗示監視或高度敏感的目標時。其重要性在於產品描述和描述為客戶創造的期望之間的聯繫。所謂的能力並不是作為一種抽象的可能性提出的，而是作為行銷服務的一個特徵。
儘管聯邦貿易委員會表示所謂的服務並不像宣傳的那樣有效，但隱私仍然是核心。該機構表示，如果該服務在未經充分同意的情況下收集和使用消費者的語音數據，那麼這種行為本身就違反了聯邦貿易委員會法案。區別很重要：有關侵入式人工智慧的虛假聲明可能會誤導客戶並造成隱私問題，即使所聲稱的功能並不真實。它將所謂的欺騙行為與涉及語音資料收集和使用的單獨法律問題分開。這兩個問題都出現在聯邦貿易委員會所描述的訂單限制中。
這些命令還涉及地理定位，顯示所謂的欺騙行為並不限於設備是否正在監聽。據稱，客戶被告知該系統可以根據偵測到的對話來定位特定地理區域的人員。因此，和解協議涵蓋了有關廣告服務的結果和範圍及其基礎數據實踐的陳述。這種更廣泛的範圍反映在對地理定位功能以及語音數據和同意的提及中。因此，該案件涉及該服務的完整描述，從其聲稱的輸入到其聲稱的廣告結果。
對於購買人工智慧廣告的企業來說，實際的教訓是供應商關於資料來源、同意和定位的聲明需要記錄和驗證。對於消費者而言，該行動強調，「主動聆聽」或類似系統的描述不應被視為產品具有特定技術能力或已獲得同意的證據。聯邦貿易委員會的指控顯示了為什麼產品描述的這些部分一起重要：資料來源聲明影響隱私預期，而目標聲明影響客戶認為服務可以做些什麼。和解協議並未提供此類系統的一般技術測試，但它確定了此處有爭議的表述。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下來看什麼
這些命令禁止這些公司歪曲行銷服務功能、語音資料收集和同意以及地理定位。消息人士沒有說明有多少客戶受到影響、如何分配賠償或該服務是否在實踐中收集過語音資料。
訂單的消費者賠償流程是下一個具體步驟。消息人士稱，這 93 萬美元將用於向受影響的 CMG 客戶提供賠償，但沒有具體說明受益人數量、資格規則、付款金額、時間或是否會發送額外通知。這些未回覆的管理細節將決定客戶如何體驗所規定的補救措施。在此階段，資金來源確定了資金的用途，但沒有確定分配資金的過程。由於缺乏這些細節，限制了和解的實際效果。
兩家公司未來的廣告和隱私主張將受到最終命令中的禁令的約束。相關領域包括有關服務是否收集或使用語音資料、消費者是否同意該活動、人工智慧系統是否可以針對某個地理區域以及該服務實際提供哪些功能的聲明。這些類別追蹤執法行動中描述的索賠，並識別命令具體涉及的陳述。對這些領域的持續關注將顯示這些公司如何在最終確定的限制下運作。消息人士沒有說明是否會進一步執法。
該消息人士沒有解決該服務如何運作以及如何向客戶提出索賠的問題。它沒有識別所使用的替代資料來源，描述同意語言或客戶揭露，或說明是否曾經存取過智慧型裝置記錄。這些細節將有助於澄清任何現實世界暴露的範圍。他們也將更準確地區分所謂的行銷陳述和服務的實際數據實踐。在提供這些觀點之前，該帳戶支持有關指控和命令的結論，而不是任何基礎收集範圍的結論。
更廣泛的監管問題是，各機構將如何處理廣告中對人工智慧系統不受支援的描述。和解並未為「主動聆聽」產品建立通用技術標準，但它確實表明，當有關人工智慧功能、數據收集和消費者同意的聲明存在重大誤導時，公司可能會面臨執法。因此，該案提供了涉及一項廣告服務和三名被告的具體示例，而不是針對每項人工智慧行銷主張的完整規則。未來的發展將澄清類似的陳述是否會在其他事項上受到類似的審查。