Was ist passiert?
Ars Technica berichtet, dass Meta seine KI-Brille aktualisiert, sodass die Kamera die Aufnahme stoppt, wenn das Sicherheitslicht der Brille während einer aktiven Aufnahme verdeckt wird. Die Änderung folgt Berichten, dass Benutzer zunächst mit der Aufnahme beginnen und dann das Licht abdecken könnten, wodurch eine frühere Schutzmaßnahme umgangen wird.
Ars Technica berichtet, dass Meta ein Software-Update für seine KI-Brille herausbringt, nachdem Benutzer eine Möglichkeit demonstriert haben, aufzunehmen und gleichzeitig das Aufnahmelicht der Brille zu verbergen. Zuvor wurde Berichten zufolge die Aufnahme durch die Brille deaktiviert, als ein Benutzer versuchte, mit der Videoaufnahme zu beginnen, während bereits ein Aufkleber das Licht verdeckte. Der Bypass bestand darin, zuerst mit der Aufnahme zu beginnen und danach das Licht abzudecken.
Laut Ars Technica sagte Alex Himel, Executive Vice President of Wearables bei Meta, in einem Threads-Beitrag, dass die Kamera jetzt nicht mehr funktionieren würde, wenn das Licht während der Aufnahme verdeckt würde. Himel bezeichnete Menschen, die versuchen, den Schutz zu umgehen, als eine winzige Minderheit und sagte, Meta werde seinen Ansatz weiter verbessern. AI Understanding hat den Threads-Beitrag, den Rollout-Status oder den Betrieb des Updates auf allen Brillen nicht unabhängig bestätigt.
Dem Bericht zufolge geht die Änderung mit einer neuen Meta-Marketingkampagne einher, die darauf abzielt, das Aufnahmelicht für die Öffentlichkeit sichtbarer zu machen. Ars Technica zitiert den Bericht von The Verge, dass auf einer Werbetafel in Los Angeles ein Kind mit einer Meta-Brille zu sehen ist, und lenkt die Aufmerksamkeit auf das Licht mit der Botschaft, dass die Kamera Momente festhält, während das Licht Menschen in der Nähe alarmiert. Aus der Quelle geht nicht hervor, ob die Kampagne das öffentliche Verständnis des Indikators verändert hat.
Ars Technica berichtet außerdem, dass die Schutzmaßnahme möglicherweise nicht jede Umgehungsstraße abdeckt. In dem Artikel heißt es, dass Benutzer möglicherweise die Brille modifizieren oder das Licht manipulieren könnten, ohne die Aufzeichnung zu stoppen, und es ist unklar, ob halbtransparente Aufkleber den neuen Schutz auslösen würden. Bei diesen Möglichkeiten handelt es sich um gemeldete Risiken und nicht um unabhängig verifizierte Tests in der Quelle.
Quellenangaben: arstechnica.com ↗
Warum es wichtig ist
Das Update behebt ein direktes Datenschutzrisiko in einem KI-Produkt, das Personen in der Nähe ohne deren Wissen aufzeichnen kann. Dadurch wird möglicherweise eine Form der nicht einvernehmlichen Aufzeichnung erschwert, es wird jedoch nicht sichergestellt, dass Unbeteiligte zuverlässig verstehen, wann eine Aufzeichnung stattfindet, oder kontrollieren, was mit den erfassten Daten geschieht.
Die unmittelbare Bedeutung ist praktisch: Eine Person, die die Brille trägt, kann möglicherweise in öffentlichen oder privaten Umgebungen Videos aufnehmen, während Personen in der Nähe möglicherweise nicht wissen, dass ein KI-fähiges Gerät sie aufzeichnet. Die Softwareänderung verknüpft die Aufzeichnung enger mit der Sichtbarkeit des Indikators und schließt die spezifische Reihenfolge aus, in der die Aufzeichnung beginnt, bevor das Licht verdeckt wird.
Die Einschränkung besteht darin, dass ein Indikator nur dann nützlich ist, wenn die Menschen ihn erkennen, sehen können und seiner Bedeutung vertrauen können. Ars Technica berichtet, dass die Datenregulierungsbehörden der Europäischen Union prüfen, ob Meta das Licht ordnungsgemäß vor Ort getestet hat, damit die Öffentlichkeit seine Sicherheitsfunktion versteht. Der Bericht stellt keine endgültige Feststellung einer Regulierungsbehörde dar, daher ist noch nicht erwiesen, dass das Design gegen ein Gesetz verstößt oder in allen normalen Situationen versagt.
Die Datenfolgen können über den Zeitpunkt der Erfassung hinausgehen. Ars Technica berichtet, dass in einer vorgeschlagenen US-Sammelklage behauptet wird, dass das Datenschutzmarketing von Meta irreführend gewesen sei und dass menschliche Datenannotatoren in Kenia das von der Brille aufgenommene Filmmaterial überprüft haben, um die KI von Meta zu trainieren. In der Beschwerde geht es Berichten zufolge um sensible Videos, darunter Filmmaterial über sexuelle Aktivitäten, Toilettenbesuche, Zahlungskarteninformationen und private Nachrichten. Hierbei handelt es sich um Behauptungen in einem Rechtsstreit, nicht um Feststellungen, die von einem Gericht festgestellt oder von dieser Quelle unabhängig bestätigt wurden.
Das umfassendere Argument der Klage besteht, wie von Ars Technica beschrieben, darin, dass Brillenträger nicht vollständig kontrollieren können, was mit den von ihnen erfassten Daten passiert, einschließlich der Daten von Unbeteiligten. Die Klage zielt auf Schadensersatz und Änderungen am Marketing von Meta ab. Sollten sich die Behauptungen bestätigen, geht es nicht nur darum, ob die Aufzeichnung sichtbar ist, sondern auch um Einwilligung, Datenverwaltung, menschliche Überprüfung, emotionale Schädigung und die Verwendung von Bildern oder Aktivitäten von Unbeteiligten bei der KI-Entwicklung.
Interaktiver Mechanismus: Wie es tatsächlich funktioniert
Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Was Sie als nächstes sehen sollten
Die wichtigsten unbeantworteten Fragen sind, ob das Update alle Geräte erreicht hat, ob halbtransparente Aufkleber oder Hardware-Modifikationen es verhindern können und wie die Regulierungsbehörden reagieren. Achten Sie auch auf die Entwicklungen in der US-Sammelklage und auf Beweise, die die angebliche menschliche Überprüfung von Filmmaterial klären, das zum Trainieren der Meta-KI verwendet wurde.
Sehen Sie sich zunächst den Umfang und die Zuverlässigkeit des Rollouts von Meta an. Ars Technica sagt, dass das Update bald eingeführt wird, die Quelle gibt jedoch kein Fertigstellungsdatum, keine Liste unterstützter Geräte, keine geografische Verfügbarkeit, keine Versionsnummer oder keine unabhängigen Testergebnisse an. Diese Details sind wichtig, da eine teilweise Bereitstellung dazu führen würde, dass einige Benutzer unter der früheren Lücke arbeiten würden.
Zweitens: Beobachten Sie, ob Forscher, Regulierungsbehörden oder Benutzer verbleibende Möglichkeiten zur Aufzeichnung aufzeigen, während das Licht ausgeblendet wird. Der Bericht thematisiert insbesondere halbtransparente Aufkleber und physische Manipulationen, sagt jedoch nicht, ob eine der beiden Methoden funktioniert. Eine aussagekräftige Bewertung müsste zwischen gewöhnlichem Benutzerverhalten und speziellen Hardwaremodifikationen unterscheiden und testen, ob die Kamera unter jeder Bedingung tatsächlich stoppt.
Drittens: Beobachten Sie die Regulierungsmaßnahmen in Europa. Ars Technica berichtet, dass EU-Datenaufsichtsbehörden die Brille prüfen, dass Deutschland nach einer Strafanzeige einer gemeinnützigen Organisation über ein Verbot nachdenkt und dass der Europäische Datenschutzausschuss voraussichtlich einen Bericht über mögliche Schutzmaßnahmen herausgeben wird. Die Quelle gibt keine Auskunft über die rechtliche Begründetheit dieser Maßnahmen, ihren genauen Zeitpunkt oder ob eine Behörde zu dem Schluss gekommen ist, dass Meta gegen Datenschutzgesetze verstoßen hat.
Sehen Sie sich abschließend den US-Rechtsstreit und die Offenlegungen von Meta zur Datenverarbeitung an. Ars Technica berichtet, dass Meta noch keine Antwort auf die Sammelklage eingereicht hat und dass die Beschwerde Behauptungen in Frage stellt, dass die Brillen unter Berücksichtigung der Privatsphäre entworfen wurden. Zu den wichtigsten ungeklärten Sachfragen gehört, ob die angebliche kenianische Überprüfungspipeline die beschriebenen Kategorien von Filmmaterial abdeckte, welche Einwilligung oder Benachrichtigung Benutzer und Unbeteiligte erhielten, wie lange Aufnahmen aufbewahrt wurden und ob Meta seine Marketing- oder Produktstandards ändert.