Mi történt
Az Infosecurity Magazine arról számol be, hogy a Linux Foundation bevezeti a Trust, Runtime Attestation and Compliance Evidence vagy TRACE-t, egy nyílt specifikációt, amely az AI-ügynök tevékenységét auditálhatóvá teszi. A jelentés szerint a TRACE-t az OPAQUE bizalmas számítástechnikai gyártó fejlesztette ki az AMD, az Intel, a Microsoft és a Technology Innovation Institute támogatásával.
Az Infosecurity Magazine arról számol be, hogy a Linux Foundation bevezeti a Trust, Runtime Attestation és Compliance Evidence (Trust, Runtime Attestation and Compliance Evidence) rendszert, rövidítve TRACE. A jelentés a hardver által tanúsított AI-ügynök irányítási rekordok nyílt specifikációjaként írja le. Célja, hogy bizonyítékokat állítson elő arról, hogy egy mesterséges intelligencia terhelése mit végzett futás közben, beleértve a futási környezetet, a végrehajtott szoftvereket, az alkalmazott irányelveket, az adatok osztályozását és a használt eszközöket. A jelentés szerint az OPAQUE, egy bizalmas számítástechnikai gyártó az AMD, az Intel, a Microsoft és a Technology Innovation Institute támogatásával fejlesztette ki a TRACE-t. Ezek a részletek a mellékelt Infosecurity Magazine jelentéséből származnak, és a mellékelt anyagban nem erősítik meg őket függetlenül.
Az Infosecurity Magazine szerint a TRACE számos meglévő műszaki szabványt egyesít. A jelentés az Internet Engineering Task Force Entity Attestation Token-jét (EAT) azonosítja az RFC 9711-ben a követelés borítékaként; az RFC 9334-ben található Remote ATtestation procedúrák architektúrája a tanúsítók, ellenőrzők és támaszkodó felek kereteként; és a SCITT-tervezet az iratok átlátszósági főkönyvben való rögzítésére. Az így létrejött kialakítást hardverrel támogatott, kriptográfiailag ellenőrizhető rekordként írják le, amely úgy működik, mint az ügynöki tevékenység manipulációbiztos nyugta. A jelentés nem részletezi a megvalósítást kellőképpen ahhoz, hogy felmérje, hogyan működnek együtt ezek az összetevők az egyes telepítések során, vagy hogyan ellenőriznék a bizonyítékokat működésük során.
A jelentés szerint a TRACE az AMD Secure Encrypted Virtualization (SEV) segítségével titkosítja a virtuális gép memóriáját, így a gazdagép hipervizor és a felhőrendszergazdák nem férhetnek hozzá az érzékeny adatokhoz. Az Infosecurity Magazine továbbá arról számol be, hogy a bizonyítékokat úgy tervezték, hogy hordozhatóak legyenek felhőszolgáltatók, bizalmas számítástechnikai környezetek és szuverén infrastruktúra között. A cikk nem bizonyítja önállóan a hordozhatóságot, és azt sem állapítja meg, hogy a részt vevő szervezetek által támogatott összes hardveren elérhető-e egyenértékű védelem. Leírása ezért a megadott tervezési célokat dokumentálja, nem pedig az ellenőrzött telepítési eredményeket.
Az Infosecurity Magazine jelentése szerint a Linux Foundation szállító-semleges irányítást biztosít a specifikációhoz, míg a Coalition for Secure AI ad otthont a technikai munkafolyamatnak. A cikk idézi a Linux Foundation vezérigazgatóját, Jim Zemlint egy augusztus 25-i nyilvános nyilatkozatából, amely szerint az irányítási modellnek nyitottá, hordozhatóvá és ellenőrizhetővé kell tennie a mesterséges intelligencia iránti bizalmat. A jelentés arról is beszámol, hogy a TRACE referenciakönyvtára közel 135 000 PyPI-letöltést rögzített a 2026. júniusi Bizalmas Számítástechnikai Csúcstalálkozón történt kezdeti bevezetést követő 10 hét alatt. A jelentés szerint a specifikáció, a műszaki dokumentáció és a referencia-megvalósítások elérhetők a projekt erőforrásain és egy GitHub tárolón keresztül, de nem határozza meg az aktív letöltések számát.
Forrás részletei: infosecurity-magazine.com ↗
Miért számít
Az AI-ügynökök érzékeny adatokkal, szoftverekkel és külső eszközökkel kommunikálhatnak, de előfordulhat, hogy a házirend-dokumentumok önmagukban nem mutatják meg, hogy mely vezérlők voltak aktívak a végrehajtás során. A TRACE hordozható módot biztosíthat a szervezeteknek az ügynök futási környezetének, szoftverének, házirendjének, adatosztályozásának és használt eszközeinek ellenőrzésére. A mellékelt jelentés önállóan nem erősíti meg a TRACE biztonsági állításait, a gyártási átvételt vagy a valódi támadásokkal szembeni hatékonyságát.
A TRACE által kezelt gyakorlati probléma a deklarált ellenőrzések és a megfigyelt végrehajtás közötti szakadék. Az Infosecurity Magazine arról számol be, hogy a szervezetek az AI-ügynököket elszigetelt kísérletekből olyan éles rendszerekbe helyezik át, amelyek érzékeny információkat kezelnek, és több eszközzel és szolgáltatással is együttműködnek. Ezekben a beállításokban a szervezetnek nemcsak azt kell bemutatnia, hogy létezik egy szabályzat, hanem azt is, hogy melyik modell vagy szoftver futott, milyen adatokhoz férhetett hozzá, milyen eszközöket használt, és milyen korlátozások voltak érvényben. A kriptográfiailag ellenőrizhető futásidejű rekord megkönnyítheti ezeknek a kérdéseknek az ellenőrzését, ha az alapul szolgáló hardver, szoftver és ellenőrzési folyamat megbízható. Ez különösen az autonóm rendszerek esetében számít, mivel az ügynök tevékenységei átléphetik a szervezeti és technikai határokat. A hordozható bizonyítékformátum segíthet a felhőalapú ügyfeleknek, a belső biztonsági csapatoknak, az auditoroknak és a szabályozóknak az infrastruktúra-szolgáltatók rekordjainak összehasonlításában, ahelyett, hogy teljes mértékben a szállítóspecifikus naplókra hagyatkozna. Ez a jelentés által leírt lehetséges nyilvános és működési érték. Ez továbbra is potenciális: a szállított anyag nem tartalmaz független auditot, összehasonlító tesztet, incidensvizsgálatot vagy ügyfélfiókot, amely azt mutatná, hogy a TRACE már javította az elszámoltathatóságot egy élő mesterséges intelligencia bevezetése során.
A jelentés összekapcsolja a szabványt egy különálló incidenssel, amely a OpenAI ügynököket és a Hugging Face infrastruktúrát érinti a kiberbiztonsági értékelés során. Az Infosecurity Magazine szerint az OPAQUE ezt az incidenst annak bizonyítékaként jellemezte, hogy a dokumentált irányelvek és a sandbox-konfigurációk önmagukban nem igazolják, hogy mely vezérlők maradtak aktívak, vagy mit csinált a rendszer valójában a végrehajtás során. A mellékelt cikk nem ellenőrzi önállóan az OPAQUE incidens leírását, és nem bizonyítja, hogy a TRACE megakadályozta volna. Az incidens tehát releváns összefüggés a bizonyítékokkal kapcsolatos probléma szempontjából, nem pedig a TRACE hatékonyságának bizonyítéka.
A következmények kiterjednek a nyitott súlyú modellekre és a magánvezérelt infrastruktúrára. Az Infosecurity Magazine beszámol az OPAQUE azon állításával, miszerint a modellsúlyok birtoklása és az infrastruktúra vezérlése nem bizonyítja, hogy egy jóváhagyott modell módosítatlanul futott volna, vagy hogy a használatára vonatkozó szabályok szabályozták. Egy futásidejű tanúsító rendszer elvileg bizonyítékkal szolgálhat ezekről a feltételekről. A jelentés azonban nem határozza meg a pontos követeléseket, amelyeket a TRACE ellenőrizhet, hogyan kezeli a modellfrissítéseket, hogyan kezeli a kompromittált szoftver-ellátási láncokat, vagy hogyan reagáljanak a szervezetek, ha egy tanúsítvány hiányzik vagy vitatott.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Mit nézzünk ezután
A következő fontos kérdések az, hogy a TRACE kap-e támogatást a kezdeti támogatóin túl, hogy a megvalósítások működnek-e különböző hardver- és felhőkörnyezetekben, és hogy a független biztonsági felülvizsgálatok érvényesítik-e a tanúsítványokat. Az elfogadás mérőszámait is el kell különíteni a termelési felhasználás bizonyítékaitól: az Infosecurity Magazine közel 135 000 PyPI-letöltést idéz egy referenciakönyvtárhoz, de a jelentés nem állapítja meg, hogy hány szervezet telepítette vagy támaszkodott bizonyítékaira.
Az első figyelendő kérdés az irányítás és a végrehajtás. A Linux Foundation szerepe gyártósemleges, míg a CoSAI a technikai munkafolyamat házigazdája, az OPAQUE pedig kidolgozta a specifikációt. Ez a struktúra segíthet a versengő infrastruktúra-szolgáltatók koordinálásában, de a jelentés nem magyarázza meg a döntési jogokat, a megfelelőségi tesztelést, a tanúsítást, a vitarendezést vagy a szabvány módosításainak jóváhagyását. Ezek a részletek határozzák meg, hogy a TRACE széles körben interoperábilis szabvány lesz-e, vagy továbbra is elsősorban a kezdeti szponzorokhoz kapcsolódik.
A második probléma a hardver és a felhő lefedettség. A cikk kiemeli az AMD SEV-t, és elmondja, hogy a TRACE-t úgy tervezték, hogy felhőszolgáltatók, bizalmas számítástechnikai környezetek és szuverén infrastruktúra között működjön. Ez az állítás gyakorlati ellenőrzést igényel a különböző processzorok, hipervizorok, hangszerelési rendszerek és telepítési modellek között. Azt is fontos meghatározni, hogy mi történik, ha a munkaterhelés a támogatott és a nem támogatott környezetek között mozog, vagy ha a szolgáltató hardver-hitelesítési szolgáltatása nem érhető el. A mellékelt jelentés nem ad választ ezekre a kérdésekre.
A harmadik kérdés az, hogy a bizonyítékok teljesek és értelmesek-e. Az aláírt rekord kimutathatja, hogy bizonyos igényeket tanúsított környezet támasztott alá, de a jelentés nem mondja meg, hogy a TRACE hogyan kezeli a rejtett függőségeket, az eszközoldali műveleteket, az adatosztályozási hibákat, az azonnali befecskendezést, a feltört alkalmazásokat vagy a tanúsított határokon kívül végrehajtott műveleteket. Független kutatóknak és telepítőknek meg kell vizsgálniuk, hogy a rekordok rögzítik-e az ügynök tevékenységének teljes láncát, és hogy az auditorok értelmezni tudják-e azokat anélkül, hogy a rendszerüzemeltető saját állításaira hagyatkoznának.
Végül az örökbefogadást alaposan meg kell mérni. Az Infosecurity Magazine közel 135 000 PyPI-letöltést idéz a TRACE referenciakönyvtárához 10 hét alatt, ami a jelentés szerint korai fejlesztői érdeklődést jelez. A letöltésekből nem derül ki, hogy hány telepítés aktív, hányat használnak termelésben, hogy a szervezetek a megfelelőségi döntésekhez támaszkodnak-e a bizonyítékokra, vagy hogy a független megvalósítások együttműködnek-e. A következő jelentős bizonyíték a nyilvános megfelelőségi tesztek, a külső biztonsági értékelések, a dokumentált telepítések és a korlátozásokról vagy hibákról szóló egyértelmű jelentés.