Mi történt
Patrick Wardle, az Objective-See alapítója felfedte a Meta macOS rendszerhez készült Muse AI-ügynökének nulladik napi sebezhetőségét. A hiba egy nem dokumentált konfigurációs beállítást, az endo_voyager_dictation_endpointot tartalmaz, amelyet egy nem jogosult helyi folyamat módosíthat, hogy átirányítsa a diktált forgalmat egy támadó által vezérelt kiszolgálóra. Ez lehetővé teszi a felszólítások lehallgatását, a rosszindulatú utasítások beszúrását és a hitelesítési anyagok ellopását. Wardle kiadott egy proof-of-concept exploitot "nem-a-mused" néven. A biztonsági rés előzetes helyi kódfuttatást igényel, de felerősíti az alacsony jogosultságokkal rendelkező rosszindulatú programok hatását azáltal, hogy kihasználja a Muse kiterjedt delegált engedélyeit a kapcsolódó szolgáltatások között.
Patrick Wardle biztonsági kutató nulladik napi sebezhetőséget tárt fel a Meta macOS-hez készült Muse AI-ügynökében. A hiba lehetővé teszi, hogy a már felhasználói fiók alatt futó rosszindulatú programok eltérítsék az asszisztenst az endo_voyager_dictation_endpoint nevű, nem dokumentált konfigurációs beállítás módosításával. Ez a módosítás átirányítja a Muse diktálási forgalmát a rendeltetési helyéről egy támadó által vezérelt szerverre.
A végpont átirányítása után a támadó rögzítheti a diktált hangot és figyelmeztetéseket, mielőtt azok elérnék a Muse háttérrendszerét. Ez lehetővé teszi az ügynöknek adott utasítások manipulálását és az áldozat fiókjához kapcsolódó hitelesítési adatok ellopását. Wardle kiadott egy proof-of-concept exploitot „not-a-mused” néven, hogy demonstrálja ezt a képességet.
A biztonsági rés nem tesz lehetővé távoli kódfuttatást tiszta Mac számítógépen; a támadónak először meg kell szereznie a kód futtatásának képességét helyi felhasználóként. Wardle azonban azzal érvel, hogy a hiba hozzáférés-erősítőként működik, lehetővé téve a macOS adatvédelmi szabályozása által korlátozott közönséges rosszindulatú programok számára, hogy kihasználják az ügynöknek már biztosított szélesebb körű jogosultságot.
A Meta kijelenti, hogy a Muse képes dolgozni fájlokkal, alkalmazásokkal és böngészőlapokkal, csatlakozni e-mailekhez és naptárokhoz, böngészhet az interneten, vásárolhat, és a háttérben folytathatja a feladatok végrehajtását. A Wardle proof of concept a Muse által közzétett több mint 50 parancsból álló részhalmazt valósítja meg, külön bemutatókkal, amelyek bemutatják, hogy a feltört fiók azonosítja a kapcsolt eszközöket, és irányítja az online iPhone-t a helyadatok visszaadására vagy a Bluetooth Low Energy vizsgálat kezdeményezésére.
Forrás részletei: cybersecuritynews.com ↗
Miért számít
Ez a közzététel rávilágít azokra a biztonsági kockázatokra, amelyek a felhasználói adatokhoz, fájlokhoz és kapcsolódó szolgáltatásokhoz széles körű hozzáféréssel rendelkező, kiemelten privilegizált AI-ügynökökhöz kapcsolódnak. Ha egy megbízható ügynököt feltörnek, az egyetlen hibapontként működhet, lehetővé téve a támadók számára, hogy megkerüljék a szabványos macOS adatvédelmi vezérlőket, és több eszközön is hozzáférjenek a bizalmas információkhoz. Az incidens rávilágít arra, hogy az AI-ügynökök tervezésében robusztus biztonsági intézkedésekre van szükség, különös tekintettel az engedélykezelésre és az ügynökfolyamatok elszigetelésére a helyi rendszer sérülékenységeitől. Aggályokat vet fel a rosszindulatú műveletek észlelésének nehézségei miatt is, ha azokat megbízható, aláírt alkalmazáson keresztül hajtják végre.
A biztonsági rés rávilágít arra, hogy az alacsony jogosultságokkal rendelkező támaszték hogyan válhat veszélyessé, ha egy megbízható ügynök kiterjedt delegált jogosultságokkal rendelkezik a csatlakoztatott szolgáltatások között. A feltört ügynök örökölheti a felhasználók által a Muse-ra bízott kiterjedt engedélyeket és a csatlakoztatott szolgáltatásokhoz való hozzáférést, így létrehozva egy utat az azonnali adatbevitelhez és a munkamenet-eltérítéshez.
A végpontészlelő eszközök nehezen tudják megkülönböztetni a felhasználó, az ügynök vagy a támadó által kezdeményezett műveleteket, amikor a parancsokat megbízható, aláírt alkalmazáson keresztül hajtják végre. Ez megnehezíti a biztonsági rendszerek számára a feltört ügynökön keresztül végrehajtott rosszindulatú tevékenységek észlelését és reagálását.
A nyilvánosságra hozatal fokozza az aggodalmakat azzal kapcsolatban, hogy a kiemelten privilegizált AI-ügynökök egyetlen kudarcponttá válnak. Ha egy támadó felügyeli a megbízható parancscsatornát, akkor előfordulhat, hogy visszaélnek a csatlakoztatott erőforrásokkal, ami a fertőzött Mac-en kívülre kiterjesztheti a hatást más kapcsolódó eszközökre és szolgáltatásokra is.
A Meta a Muse-t biztonságra összpontosító személyi ügynökként forgalmazza, amely egy dedikált biztonságos virtuális gép, védett hitelesítő adatok tárolására és a felhasználó által vezérelt engedélyekre épül. Ez a biztonsági rés azonban azt sugallja, hogy ezek a biztonsági intézkedések nem feltétlenül elegendőek a kihasználás megakadályozásához, ha az ügynök konfigurációját a helyi rosszindulatú programok módosíthatják.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').What most distinguishes an AI agent from a basic chatbot?
Mit nézzünk ezután
Figyelemmel kíséri a Meta biztonsági javítását, amely az endo_voyager_dictation_endpoint sebezhetőségét orvosolja. Nézze meg a további részleteket a kihasználás hatóköréről, beleértve azt is, hogy az érint-e más platformokat vagy a Muse verzióit. Figyelje meg, hogyan reagál a Meta a közzétételre, beleértve a hibajavító program frissítéseit vagy a felhasználóknak szóló biztonsági irányelveket. Ezenkívül nyomon követheti az iparág reakcióit és a lehetséges szabályozói ellenőrzéseket a magas szintű rendszer-hozzáféréssel rendelkező AI-ügynökök biztonsági szabványaival kapcsolatban.
Figyelemmel kíséri a Meta biztonsági javítását, amely az endo_voyager_dictation_endpoint biztonsági rést kezeli. Amíg nem áll rendelkezésre ellenőrzött javítás, a Mac-felhasználóknak a Muse-t nagy értékű biztonsági célpontként kell kezelniük, és fontolóra kell venniük az alkalmazás szüneteltetését vagy a szükségtelen engedélyek visszavonását.
Nézze meg a további részleteket a kihasználás hatóköréről, beleértve azt is, hogy az érinti-e a Muse más platformjait vagy verzióit. A Wardle koncepciója jelenleg a macOS-re összpontosít, de a mögöttes sebezhetőség szélesebb körű következményekkel járhat más operációs rendszerekre vagy ügynök-megvalósításokra.
Figyelje meg, hogyan reagál a Meta a közzétételre, beleértve a hibajavító program frissítéseit vagy a felhasználóknak szóló biztonsági irányelveket. A Meta nyilvános hibajavaslatot működtet, amely akár 300 000 dolláros jutalmat kínál a Muse minősített biztonsági hibáiért vagy a hatásos azonnali injekciós jelentésekért, de az első jelentések megjelenésekor nem reagált nyilvánosan Wardle konkrét megállapításaira.
Kövesse nyomon az iparág reakcióit és a lehetséges szabályozói ellenőrzéseket a magas szintű rendszer-hozzáféréssel rendelkező AI-ügynökök biztonsági szabványaival kapcsolatban. Az incidens vitákat indíthat el a mesterséges intelligencia-ügynökök biztonságának és a felhasználói adatok védelmének legjobb gyakorlatairól a felmerülő fenyegetésekkel szemben.