Mi történt
A Verge jelentése szerint a Instagram megváltoztatja a mesterséges intelligencia által létrehozott embereket bemutató profilok címkézését. A platform átnevezi „AI-alkotó” címkéjét „AI által generált profil”-ra, és korlátozza azon fiókok elérhetőségét, amelyek nem tudnak öncímkézni.
A The Verge jelentése szerint a Instagram az AI-befolyásoló fiókok térnyerésére reagál, amelyeket egyre nehezebb megkülönböztetni a valódi embereket ábrázoló profiloktól. A platform a meglévő „AI-alkotó” címkét „AI-generated profile”-ra nevezi át. A Instagram a The Verge által idézett blogbejegyzésében azt mondta, hogy a felhasználók tudni akarják, ha egy profilban MI által létrehozott személy szerepel, nem pedig valódi ember. A szövegmódosítás célja, hogy egyértelműbbé tegye ezt a különbségtételt. A jelentett terminológia ezért magát a fiókot írja le, nem egyszerűen egy egyedi képet, videót vagy feliratot, amely AI-eszközt használhatott.
A The Verge szerint a Instagram olyan fiókokat fog keresni, amelyek mesterséges intelligencia által generált profilokat tartalmaznak, de nem címkézik magukat. A bejelentett büntetés inkább az elosztás csökkentése, mint a szolgáltatásból való eltávolítás. A Instagram megjelölt fiókokból származó bejegyzéseket nem ajánljuk azoknak, akik még nem követik őket a Reels and Explore szolgáltatásban. A The Verge arról is beszámol, hogy a profiltulajdonosok fellebbezhetnek, ha a Instagram helytelenül jelöli meg őket. Emiatt a bejelentett változás nyilvánosságra hozatalhoz kötött terjesztési következmény, és a fellebbezési lehetőség a hibás megjelölés orvoslására szolgál.
A jelentett irányelvnek meghatározott határai vannak. Instagram elmondta a The Verge-nek, hogy azoknak, akik mesterséges intelligencia eszközöket használnak a tartalom létrehozásához, nem feltétlenül kell hozzáadniuk a címkét. Az akció tehát olyan profilokra vonatkozik, amelyek egy MI által létrehozott személyt mutatnak be egy fiók látszólagos alanyaként, nem pedig minden olyan bejegyzést, amelyet MI-vel szerkesztettek, javítottak vagy más módon készítettek. A forrás nem ad közzé közzétételi ütemtervet, észlelési feltételeket, példákat végrehajtási határozatokra vagy adatokat, amelyek megmutatják, hogy hány fiókot érinthet. Más szóval, a mellékelt jelentés határvonalat húz a szintetikus identitás és a mesterséges intelligencia gyártás közbeni használata között, miközben nyitva hagyja a megvalósítás részleteit.
Forrás részletei: theverge.com ↗
Miért számít
A változtatás a mesterséges intelligencia által generált személyeket célozza meg, akik valós embereknek tűnhetnek, de nem hoz létre általános szűrőt a mesterséges intelligencia által készített tartalomhoz. A Verge jelentése szerint az érintett bejegyzések ki lesznek zárva a Reels és Explore nem követőinek szóló ajánlások közül, míg a tulajdonosok fellebbezhetnek a hibás döntések ellen.
A változás a zűrzavar egy sajátos formájára vonatkozik: egy fiók egy átlagos személyes vagy befolyásoló profilnak tűnhet akkor is, ha a képviselt személy nem létezik. A The Verge jelentése szerint a Instagram indoklása azon alapul, hogy a felhasználók csak később fedezték fel, hogy egy látszólag emberi profilt mesterséges intelligencia generált. A látható profilszintű címke fontos kontextust adhat a felhasználóknak, mielőtt követnék, megosztanák vagy megbíznának a fiók bemutatásában. A kívánt haszon a kontextus azon a ponton, ahol a profillal találkozik, még mielőtt a számla bemutatását névértékre vesszük.
Az elérési büntetés megváltoztatja a számlavezetők gyakorlati tétjét is. Ha a bejegyzéseket kizárják a nem követőknek szóló ajánlások közül a Reels és Explore alkalmazásban, akkor előfordulhat, hogy a címkézetlen AI által generált profil kevésbé képes túllépni a meglévő közönségén. Ez lényegesen különbözik attól a címkétől, amely csupán információt ad hozzá, miközben a terjesztés változatlan marad. Ugyanakkor a The Verge nem számol be törlési szabályzatról, pénzügyi szankcióról vagy általános tiltásról az AI által generált profilokra vonatkozóan. A különbség azért számít, mert az ajánlásoknak való kitettség része annak, hogy egy fiók hogyan éri el azokat az embereket, akik nem követik azt.
Az irányelv korlátozva van olyan módokon, amelyek fontosak a felhasználók számára, akik megpróbálják megérteni, amit látnak. A The Verge jelentése szerint a mesterséges intelligencia által generált tartalomhoz önmagában nem mindig szükséges a profilcímke, így a változtatás nem ad átfogó módot az embereknek az AI által készített képek, videók vagy feliratok azonosítására vagy szűrésére. Az is megoldatlan marad, hogy a Instagram hogyan fogja megkülönböztetni a teljesen szintetikus személyiséget a valódi személytől, AI-eszközöket használva. A jelentés nem állapítja meg önállóan, hogy mennyire lesz pontos a Instagram észlelése, milyen gyakran fordulhatnak elő téves pozitív eredmények, vagy hogy az új megfogalmazás javítja-e a felhasználók megértését. Ez a korlátozás azt jelenti, hogy a címkét profilspecifikus jelzésként kell értelmezni, nem pedig az egyes bejegyzések készítéséhez használt eszközök teljes leírásaként.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A legfontosabb ismeretlenek az, hogy a Instagram hogyan azonosítja a mesterséges intelligencia által generált profilt, mennyire alkalmazza következetesen a címkét és az elérési korlátokat, és hogyan működik a fellebbezés. Az irányelv hatása attól is függ, hogy a felhasználók meg tudják-e különböztetni az AI által generált embereket a hétköznapi profiloktól és az AI által támogatott tartalmaktól.
Az első gyakorlati kérdés az, hogy a Instagram hogyan határozza meg, hogy egy profilban MI által létrehozott személy szerepel-e. A The Verge arról számol be, hogy a Instagram olyan fiókok felkutatását tervezi, amelyek nem öncímkéznek fel, de a cikk nem írja le a jelzéseket, a felülvizsgálati folyamatot vagy a küszöböt, amellyel ezt a döntést meghozták. Nézze meg a közzétett végrehajtási útmutatásokat, a megjelölt profilokra vonatkozó példákat és bizonyítékokat arra vonatkozóan, hogy a rendszer támaszkodik-e az automatikus észlelésre, a felhasználói jelentésekre, az emberi ellenőrzésre vagy a módszerek kombinációjára. E részletek nélkül a forrás meghatározza a tervezett célt, de nem a gyakorlatban alkalmazandó Instagram működési szabvány.
A fellebbezési folyamat fontos lesz, mert a jelentett következmény nem csak a közzétételre, hanem a terjesztésre is hatással van. A The Verge szerint a Instagram szerint a tulajdonosok fellebbezhetnek, ha tévesen jelölték meg őket, de a forrás nem mondja meg, hogy milyen gyorsan fogják felülvizsgálni a fellebbezéseket, visszaállítják-e az elérést a felülvizsgálat során, vagy milyen bizonyítékokat nyújthatnak be a fióktulajdonosok. Ezek a részletek határozzák meg, hogy a politika célzott átláthatósági intézkedésként működik-e, vagy jelentős kockázatot jelent a téves elnyomásra. A rendelkezésre álló leírás ezért azonosít egy fellebbezési utat anélkül, hogy meghatározná annak biztosítékait, időzítését vagy várható kimenetelét.
A szélesebb körű megoldatlan probléma a mesterséges intelligencia által generált profil és a szokásos mesterséges intelligencia által támogatott közzététel közötti határvonal. A Instagram jelentése szerint az AI-eszközök tartalom létrehozásához való használata önmagában nem igényli a címkét. Figyelje meg, hogy a felhasználók megbízhatóan megértik-e ezt a különbséget, hogy a Instagram kiterjeszti-e a címkézést a szintetikus médiák más formáira is, és hogy az elérési korlátok mérhetően csökkentik-e a nyilvánosságra nem hozott AI-személyek terjedését. A Verge jelentése még nem ad független mérést a politika hatékonyságáról. Ezek a kérdések nyitva maradnak a benyújtott jelentésben, amely leírja a politikát, de még nem ad eredményértékelést.