DalšíDalší průvodce
Indická pravidla IT pro Deepfakes a štítky se syntetickým obsahem
Společnost
PRŮVODCE společností
Štítky obsahu AI jsou oznámení, jako je značka „AI info“ Meta nebo štítek se změněným nebo syntetickým obsahem YouTube, které platformy připojují k příspěvkům vytvořeným nebo výrazně změněným pomocí generativní umělé inteligence.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Jsou spouštěny buď vlastním odhalením tvůrce, nebo signály, které platforma v souboru detekuje. Záleží na nich, protože jsou hlavním způsobem, jak se diváci dozvídají, že realistický obraz, video nebo hlas nemusí být skutečné, přesto závisí na metadatech a poctivosti tvůrce, které lze snadno ztratit.
Platformy označují obsah AI dvěma způsoby: sebeodhalení tvůrců a automatická detekce. Automatizovaná detekce většinou čte signály zanechané nástroji, které vytvořily obsah. Jedním z nich jsou metadata, jako jsou C2PA Content Credentials a pole typu digitálního zdroje IPTC, která mohou zaznamenat, že obrázek byl vygenerován nebo upraven AI. Dalším jsou neviditelné vodoznaky, jako je SynthID Google, vložené do pixelů nebo zvuku. Platformy se méně spoléhají na klasifikátory, které odhadují ze samotného obsahu, protože ty dělají více chyb. Meta začal v roce 2024 označovat obrázky AI napříč Facebook, Instagram a Threads štítkem „Made with AI“. Fotografové si stěžovali, že drobné úpravy za pomoci AI to spustily na skutečných fotografiích, a tak jej Meta přejmenoval na „AI info“ a přesunul štítek do nabídky pro lehce upravený obsah. YouTube vyžaduje, aby tvůrci zveřejnili realistický obsah, který je pozměněný nebo syntetický, jako je například skutečná osoba, která vypadá, že říká něco, co neřekla. Nevyžaduje zveřejnění jasně nerealistického obsahu, filtrů krásy nebo umělé inteligence používané pouze pro úkoly, jako je skriptování. Označení je výraznější pro citlivá témata, jako jsou volby, zdraví a zprávy. TikTok vyžaduje, aby tvůrci označili realistický obsah umělé inteligence, a v roce 2024 začali číst pověření obsahu, aby automaticky označili některá nahraná videa. Google a Meta také vyžadují zveřejnění v politických reklamách, které obsahují realistický syntetický obsah. Tvůrcům, kteří tato pravidla poruší, hrozí odebrání obsahu nebo sankce. Mezery jsou vážné. Snímky obrazovky, překódování a mnoho aplikací pro úpravy odstraňuje metadata. Mnoho modelů s otevřenou váhou nepřidává žádný vodoznak. Pravidla se liší platformu od platformy. Diváci také špatně čtou štítky. Štítek na skutečné fotografii s malou úpravou může naznačovat, že je falešná, a absence štítku nedokazuje, že obsah je skutečný.
YouTuber, který použil klonovaný hlas k vyprávění realistického zopakování, vybere během nahrávání upravený nebo syntetický obsah ve Studiu YouTube.
Fotograf odstraní zbloudilý objekt pomocí nástroje pro generativní výplň a Instagram automaticky přidá štítek s informacemi o AI, protože editační software zapsal do souboru metadata AI.
Tvůrce TikTok nahraje video z nástroje, který připojí pověření obsahu, a TikTok jej označí jako vytvořené umělou inteligencí, aniž by tvůrce cokoliv udělal.
Jiný účet znovu zveřejní snímek obrazovky AI. Snímek obrazovky neobsahuje žádná metadata, takže se neobjeví žádný automatický štítek, který ukazuje jednu z hlavních nedostatků v prosazování.
Regulace zvyšuje tlak. Článek 50 zákona EU o umělé inteligenci stanoví povinnosti týkající se transparentnosti, včetně strojově čitelného označování syntetických výstupů poskytovateli a zveřejňování deepfakes ze strany nasazovatelů, přičemž tyto povinnosti mají platit od srpna 2026, ačkoli zákonodárci EU projednali přechodná období pro některé stávající systémy. Několik jurisdikcí také schválilo pravidla týkající se klamavého obsahu AI ve volbách. Více fotoaparátů, telefonů a nástrojů pro úpravy přijímá pověření obsahu, díky čemuž by mohlo být označování konzistentnější. Někteří v tomto odvětví argumentují ověřováním autentického obsahu i označováním syntetického obsahu, protože detekce nikdy nezachytí vše. Jak důsledně platformy prosazují svá pravidla a zda publikum pochopí, co označení znamenají, zůstává nejisté.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Štítky obsahu AI jsou oznámení, jako je značka „AI info“ Meta nebo štítek se změněným nebo syntetickým obsahem YouTube, které platformy připojují k příspěvkům vytvořeným nebo výrazně změněným pomocí generativní umělé inteligence. Jsou spouštěny buď vlastním odhalením tvůrce, nebo signály, které platforma v souboru detekuje. Záleží na nich, protože jsou hlavním způsobem, jak se diváci dozvídají, že realistický obraz, video nebo hlas nemusí být skutečné, přesto závisí na metadatech a poctivosti tvůrce, které lze snadno ztratit.
Malé úpravy provedené pomocí nástrojů AI způsobily, že skutečné fotografie byly označeny jako „Vyrobeno pomocí AI“. Měkčí formulace „AI info“ a umístění nabídky pro lehké úpravy to měly vyřešit.
Pravidlo YouTube cílí na realistický obsah, který by mohl diváky uvést v omyl. Nerealistický obsah, filtry krásy a AI používané pouze pro produkční úkoly jsou vyloučeny.
Automatizované označování většinou čte signály původu zanechané nástrojem pro vytváření, což znamená metadata a vodoznaky, místo toho, aby se spoléhalo na klasifikátory náchylné k chybám.
Detekce založená na metadatech závisí na souboru, který nese svá původní data. Snímky obrazovky a překódování to zahodí, takže se na platformu nedostane žádný signál.
'trainedAlgorithmicMedia' označuje plně generovaný obsah. 'compositeWithTrainedAlgorithmicMedia' označuje kompozity, které obsahují generované prvky.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Indická pravidla IT pro Deepfakes a štítky se syntetickým obsahem
Společnost