Wat is er gebeurd
Tom's Hardware meldt dat ontwikkelaar Xusheng Li voorheen ongedocumenteerd watermerkgedrag ontdekte in Microsoft Paint en Photos wanneer hun AI-functies voor het genereren van afbeeldingen worden gebruikt. Volgens het rapport passen de apps in sommige gevallen zowel de zichtbare Copilot-branding toe als een onzichtbaar watermerk dat bedoeld is om te identificeren of te verifiëren dat AI heeft deelgenomen aan het maken van een afbeelding.
Tom's Hardware meldt dat ontwikkelaar Xusheng Li de AI-functies in Microsoft Paint op Windows 11 heeft onderzocht nadat hij had ontdekt dat de app een API voor het genereren van afbeeldingen op afstand kon aanroepen. Volgens het rapport heeft Li ook vier ogenschijnlijke modelbestanden gevonden in het applicatiepad voor lokale verwerking: één bestand dat lijkt op een ONNX-model en drie gecodeerde ONNX-achtige bestanden. Het artikel presenteert deze ontdekking als startpunt voor het onderzoeken hoe de AI-afbeelding van Microsoft door markeringen gegenereerde inhoud bevat.
Volgens Tom's Hardware vond Li een bestand met de naam watermarker.dll terwijl hij de applicatie onderzocht. Volgens het rapport geloofde Li aanvankelijk dat het bestand alleen zichtbare watermerken verwerkte, inclusief een Copilot-logo in de rechterbenedenhoek van een afbeelding. Het artikel zegt dat verdere analyse, bijgestaan door een AI-tool, een aparte functie heeft geïdentificeerd genaamd WmkWriteWatermark voor onzichtbare watermerken, naast de zichtbare watermerkfunctie AddPerceptibleWatermark.
Tom's Hardware meldt dat het onzichtbare watermerkproces een door de server uitgegeven Globally Unique Identifier, of GUID, mengt in beeldpixels. Het rapport zegt ook dat Paint C2PA-inhoudsreferenties aan opgeslagen bestanden koppelt, met code die is gekoppeld aan ProvenanceHelper.dll en provenancesdk.dll. De bron stelt niet vast wat de GUID specifiek identificeert, of deze betrekking heeft op een prompt, account, sessie of andere gebeurtenis, en of Microsoft een corresponderend record bewaart.
Het artikel rapporteert verschillende foutgedragingen in Paint en Photos. In Paint zegt Tom's Hardware dat het watermerk verplicht is voor de uitvoer van Stable Diffusion-afbeeldingen en dat het genereren van afbeeldingen mislukt als WmkWriteWatermark niet kan worden geschreven. In Foto's zegt het rapport dat de app nog steeds de afbeelding retourneert, maar een fout registreert wanneer het watermerkproces een probleem heeft. Tom's Hardware meldt ook dat aanwijzingen van lokale workflows voor het genereren van afbeeldingen ter moderatie naar de Microsoft-servers worden verzonden. Het artikel speculeert dat de verwerking mogelijk verband houdt met artikel 50 van de EU AI Act, waarvan het rapport zegt dat de transparantieregels op 2 augustus 2026 van kracht zijn geworden, waarbij wordt opgemerkt dat de regels niet specifiek om een prompt-specifieke GUID vragen. De eventuele reactie van Microsoft is niet opgenomen in het aangeleverde rapport.
Brongegevens: tomshardware.com ↗
Waarom het ertoe doet
Het gerapporteerde gedrag zou gebruikers, platforms en onderzoekers een andere manier kunnen bieden om AI-ondersteunde beelden te identificeren, maar het roept ook onbeantwoorde vragen op over welke informatie is ingebed, hoe deze aan een gebruiker of verzoek is gekoppeld en hoe lang gerelateerde gegevens kunnen worden bewaard. De bron bevestigt niet onafhankelijk de implementatie van Microsoft en geeft geen uitleg over de privacywaarborgen ervan.
Als het rapport klopt, behandelen de consumentengerichte beeldtools van Microsoft de herkomst als onderdeel van de generatiepijplijn in plaats van als een optionele nabewerkingsfunctie. Dat is van belang omdat een beeld er voor de kijker gewoon uit kan zien terwijl het machinaal leesbare informatie bevat die aangeeft dat AI heeft deelgenomen aan de creatie ervan. C2PA-referenties en watermerken op pixelniveau vervullen verschillende technische rollen, maar de bron biedt niet genoeg details om te beoordelen hoe ze op elkaar inwerken of hoe betrouwbaar beide mechanismen in de praktijk zijn.
Het gerapporteerde onderscheid tussen zichtbare en onzichtbare markeringen is belangrijk voor het publieke begrip. Een zichtbaar Copilot-logo kan de betrokkenheid van AI signaleren bij een persoon die naar de afbeelding kijkt, terwijl een onzichtbare markering nuttig kan zijn voor software die grote aantallen bestanden verwerkt. Tom’s Hardware rapporteert geen tests die aantonen of de verborgen markering het formaat wijzigen, bijsnijden, opnieuw comprimeren, schermafbeeldingen, formaatconversie of opzettelijke verwijdering overleeft. Zonder die tests blijft de praktische detectiewaarde onzeker.
Het gerapporteerde gebruik van een door de server uitgegeven GUID creëert ook een privacyvraag die niet wordt opgelost in het artikel. Een GUID zou alleen kunnen worden ontworpen om herkomstverificatie te ondersteunen, maar de implicaties ervan hangen af van wat Microsoft ermee associeert en wie die associatie kan opvragen of interpreteren. De bron zegt niet of de identificatie uniek is voor een prompt, afbeelding, account, apparaat, moderatieverzoek of generatiegebeurtenis. Het rapporteert ook geen bewaartermijnen, toegangsregels, openbaarmakingen van gebruikers of de vraag of de identificatie kan worden losgekoppeld van persoonlijke informatie.
Het verhaal is daarom vooral bedoeld als rapport over productgedrag en verantwoording, en niet als bewijs dat Microsoft een uitgebreid volgsysteem heeft gecreëerd. Tom’s Hardware schrijft de technische bevindingen toe aan Li’s reverse engineering, en de geleverde bron bevat geen onafhankelijke replicatie, Microsoft-documentatie of Microsoft-verklaring die de implementatie bevestigt. Het rapport stelt ook niet vast dat het mechanisme wettelijk verplicht is, dat het van toepassing is op elke AI-functie in Paint en Photos, of dat het een betrouwbaar antwoord geeft over de oorsprong van een afbeelding.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
De belangrijkste volgende stappen zijn de reactie van Microsoft, technische documentatie en verduidelijking van welke Paint- en Photos-versies getroffen zijn. Nader onderzoek moet uitwijzen of het gerapporteerde watermerk algemene bewerkingen overleeft, wat de door de server uitgegeven GUID vertegenwoordigt, hoe C2PA-inloggegevens worden verwerkt en of gebruikers betekenisvolle kennisgeving of controle ontvangen.
De publieke reactie van Microsoft zou helpen vaststellen of de gerapporteerde functies opzettelijk zijn, welke versies van Paint en Photos deze bevatten, en of het gedrag varieert per regio, accounttype of generatiemodel. Documentatie moet de relatie tussen het zichtbare watermerk, GUID-inbedding op pixelniveau en C2PA-referenties verduidelijken. Het moet ook uitleggen welke informatie de GUID codeert en of Microsoft een opzoekservice of bijbehorende logbestanden bijhoudt.
Er zijn onafhankelijke technische tests nodig om de duurzaamheid van het watermerk in de praktijk te bepalen. Onderzoekers moeten afbeeldingen onderzoeken die zijn geproduceerd via lokale en externe workflows en gewone bewerkingsbewerkingen testen, inclusief bijsnijden, vergroten of verkleinen, compressie en wijzigingen in bestandsformaten. Ze moeten ook het gedrag bij het afbreken bij fouten van Paint vergelijken met het foutregistratiegedrag van Photos om te zien of beide applicaties dezelfde implementatie gebruiken en of fouten zichtbaar zijn voor gebruikers.
Vragen over privacy en gebruikerscontrole verdienen bijzondere aandacht. Gebruikers moeten duidelijk op de hoogte worden gesteld wanneer een zogenaamd lokale workflow een prompt naar de Microsoft-servers stuurt voor moderatie, zoals gerapporteerd door Tom's Hardware. Ze moeten ook weten of de inloggegevens van opgeslagen bestanden kunnen worden verwijderd, of het verwijderen ervan de functionaliteit beïnvloedt en of organisaties het proces kunnen beheren of controleren. Geen van deze controles of beleidsregels wordt beschreven in de meegeleverde bron.
De juridische en standaardcontext blijft onzeker. Tom’s Hardware koppelt het gedrag voorlopig aan artikel 50 van de EU AI Act, maar merkt expliciet op dat een prompt-specifieke GUID niet is wat het artikel zegt dat de regel vereist. In de toekomstige rapportage moet onderscheid worden gemaakt tussen naleving van de wetgeving, vrijwillige herkomsttechniek en productspecifieke ontwerpkeuzes. Totdat Microsoft of onafhankelijke onderzoekers meer bewijs leveren, moeten de reikwijdte, duurzaamheid, identificeerbaarheid en effectiviteit van de gerapporteerde watermerken worden behandeld als betekenisvolle onbekenden.