Mi történt
A Verge gyakorlati tesztet végzett a Meta Muse AI ügynökével, egy virtuális asszisztenssel, amelyet a személyes feladatok automatizálására terveztek. A személyre szabható avatárt használó ügynök feladata volt az e-mailes levelezés kezelése, a cserealkatrészek beszerzése, a fiókok leminősítésének navigálása és a fogyasztási cikkek kutatása. A tesztelés feltárta, hogy bár az ügynök hatékonyan tud navigálni a webhelyeken és a kommunikációs tervezeteket, továbbra is korlátozza, hogy nem képes telefonalapú feladatokat végrehajtani, és a végső fizetés engedélyezése során a felhasználói beavatkozásra támaszkodik.
A Verge úgy tesztelte a Meta Muse AI ügynökét, hogy több valós adminisztrációs feladatot is kiosztott neki. Az ügynök sikeresen elkészítette a tereprendezéssel foglalkozó cégnek küldött e-mail üzeneteket, bár a felhasználó megjegyezte, hogy a kezdeti hang túlságosan "csípős" volt. Vásárlás céljából az ügynök meg tudott találni bizonyos eszpresszógép-alkatrészeket és kempingfelszerelést, bár a Amazon szolgáltatási feltételei blokkolták, amikor megpróbált hozzáférni ehhez a platformhoz.
Ami a fiókkezelést illeti, az ügyintéző be tudott jelentkezni egy biztonsági rendszer fiókjába, hogy azonosítsa a csomag visszaminősítésének szükséges lépéseit, de nem tudta befejezni a folyamatot, mert a szolgáltató telefonhívást kért. Az ügynök azt is bebizonyította, hogy képes kutatni és árajánlatot kérni a szemételtávolító szolgáltatásoktól a megadott személyes adatok, köztük a cím és a fényképek felhasználásával.
Az ügynök jelentős felhasználói bizalmat igényel, mivel a tesztelő megadta a teljes nevet, lakcímet, hitelkártya-adatokat a Stripe-n keresztül, és bejelentkezési hitelesítő adatokat egy otthoni biztonsági fiókhoz. Míg a Meta azt állítja, hogy ezeket az adatokat biztonságosan tárolják, és nem közvetlenül az ügynök avatarja látja őket, a tesztelő felhívta a figyelmet az ilyen érzékeny információk központosításának kockázatára egy mesterséges intelligencia eszközben.
Forrás részletei: theverge.com ↗
Miért számít
Az olyan mesterséges intelligencia-ügynökök megjelenése, mint a Muse, az „ügynöki” munkafolyamatok felé való elmozdulást jelez, ahol a szoftver többlépcsős műveleteket hajt végre a különböző platformokon, ahelyett, hogy csak szöveget generálna. Ez az átállás rávilágít a személyes termelékenység növekedésének lehetőségére és a személyes adatok védelmével kapcsolatos jelentős kompromisszumokra. A felhasználóknak mérlegelniük kell az adminisztratív „kavics a cipőben” feladatok átruházásának kényelmét azokkal a kockázatokkal szemben, amelyek egy mesterséges intelligencia számára széles körű hozzáférést biztosítanak a személyes hitelesítő adatokhoz, pénzügyi információkhoz és privát kommunikációhoz. Ezenkívül az automatizált vásárlás egyszerűsége kérdéseket vet fel a fogyasztói költési szokásokkal kapcsolatban a mesterséges intelligencia által támogatott kereskedelem korszakában.
Az AI-ügynökök felé való elmozdulás a passzív információ-visszakeresésről az aktív feladatvégrehajtás felé való elmozdulást jelent. A mindennapi élet „unalmas” aspektusainak automatizálásával ezek az eszközök csökkentik a személyes teendőlisták kezelésével járó kognitív terhelést. A tesztelő azonban megfigyelte, hogy ez a hatékonyság „termelékenységi paradoxonhoz” vezethet, ahol a megspórolt időt gyakran átirányítják magának az AI-nak a kezelésére vagy további, nem alapvető kötelezettségek vállalására.
A pénzügyi vonzatok figyelemre méltóak; az ügynök azon képessége, hogy kiszámítja az értéket és kezeli a bevásárlókocsikat, „veszélyesen egyszerűvé” teszi a pénzköltést. Ez új dinamikát hoz létre a fogyasztói magatartásban, ahol lecsökken a vásárlás előtti akadály, ami impulzív vagy túl elkötelezett költési mintákhoz vezethet.
Az ezekre az ágensekre való támaszkodás magas szintű adatexpozíciót tesz szükségessé. Az e-mail-, banki és szolgáltatási fiókokhoz szükséges hitelesítési adatok megadásának szükségessége egyetlen kudarcpontot teremt a személyes biztonságban, és kérdéseket vet fel azzal kapcsolatban, hogy az ilyen magas szintű feladatokat egy harmadik fél mesterséges intelligenciájára ruházzák át hosszú távon.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').What most distinguishes an AI agent from a basic chatbot?
Mit nézzünk ezután
Az elsődleges figyelendő fejlesztés a hangalapú képességek integrálása, mivel a Muse jelenlegi iterációja nem tud telefonhívásokat lebonyolítani, ami gyakran szükséges a szolgáltatással kapcsolatos fiókmódosításokhoz. Ezen túlmenően az iparágban valószínűleg megnövekszik a súrlódás az AI-ügynökök és az automatizált hozzáférést blokkoló webhelyek között, amint az az ügynök sikertelen kísérletéből is látszik, hogy kapcsolatba lépjen a Amazon-vel. Végül, a mesterséges intelligencia-ügynököknek az érzékeny pénzügyi és személyes adatokhoz való folyamatos hozzáférésének hosszú távú biztonsági következményei továbbra is kritikus aggodalomra adnak okot mind a felhasználók, mind a szabályozó hatóságok számára.
A következő logikai akadály az, hogy az AI-ügynökök hangalapú interakciókat hajthatnak végre. Ahogy az ügynökök képesek lesznek navigálni a telefon menüiben és beszélni az emberek képviselőivel, jelentősen megnő az általuk kezelhető feladatok összetettsége, valamint az automatizált szolgáltatási környezetekben a zűrzavar lehetősége.
A mesterséges intelligencia ügynökei és az e-kereskedelmi platformok közötti folyamatos konfliktus valószínűleg tovább fog erősödni. Amint az látható, hogy az ügynök nem tud hozzáférni a Amazon-hez, a vállalatok egyre gyakrabban vethetnek be technikai vagy jogi akadályokat annak megakadályozására, hogy az AI ügynökök lekaparják webhelyeiket vagy tranzakciókat hajtsanak végre a felhasználók nevében.
A napi döntéshozatal mesterséges intelligenciára való áthárításának pszichológiai hatása egyre nagyobb aggodalomra ad okot. A tesztelő megjegyezte, hogy a termelékenységre szánt időt ehelyett az ügynökkel való „csevegés” tölti el, ami azt sugallja, hogy ezek az eszközök megváltoztathatják a felhasználók szabadidejük eltöltését és a saját felelősségükkel való interakciót.