LegközelebbKövetkező útmutató
A munkahelyi mesterséges intelligencia elfogadható használatára vonatkozó szabályzat megírása
Társadalom
Társadalom ÚTMUTATÓ
A Shadow AI azt jelenti, hogy az alkalmazottak mesterséges intelligencia-eszközöket – például személyes chatbot-fiókokat, böngészőbővítményeket vagy mesterséges intelligencia-funkciókat – a szervezetük tudta vagy jóváhagyása nélkül használnak nem jóváhagyott alkalmazásokban.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ennek azért van jelentősége, mert felszólítások és feltöltések révén bizalmas adatok távozhatnak a cégből, és a megfelelési kötelezettségek megszeghetők anélkül, hogy bárki észrevenné. A határozott tilalmak inkább a föld alá szorítják a használatot, semmint megállítják.
A Shadow AI egy egyszerű szakadékból nő ki: az AI-eszközök hasznosak, olcsók és egy böngészőlapnyira vannak, míg a jóváhagyott alternatívák gyakran hiányoznak vagy kevésbé képesek. A legtöbb olyan alkalmazott, aki nem jóváhagyott mesterséges intelligenciát használ, nem rosszindulatú. Próbálnak gyorsabban írni, adatokat elemezni vagy kódot javítani. A kifejezés az „árnyék-IT” kifejezést követi, amely a nem engedélyezett szoftvereket és felhőszolgáltatásokat írja le, de a mesterséges intelligencia növeli a tétet, mert a lényeg a valós munkahelyi tartalom beillesztése. A kockázatok néhány csoportra oszlanak. Az első az adatszivárgás. Az üzeneteket és a feltöltött fájlokat a szolgáltató tárolhatja, és a szolgáltatástól és a beállításoktól függően felhasználhatja a modellek fejlesztésére. A fogyasztói és az üzleti szintek gyakran különböznek, és a nagyobb szolgáltatók üzleti ajánlatai alapértelmezés szerint kizárják az ügyfelek adatait a képzésből. A legismertebb eset a Samsung. A jelentések szerint 2023-ban a mérnökök bizalmas forráskódot és ülésjegyzeteket vittek be a ChatGPT-be, majd a Samsung korlátozta a generatív mesterséges intelligencia használatát a vállalati eszközökön. A második a megfelelés. A személyes adatok szerződés nélküli adatfeldolgozóval való megosztása sértheti az adatvédelmi törvényeket, például a GDPR-t, és a szabályozott ágazatokban további szabályok vonatkoznak. A harmadik a minőség és az elszámoltathatóság. A nem felülvizsgált mesterséges intelligencia kimenet a kliensek munkájába kerülhet anélkül, hogy a forrását rögzítenék. A negyedik maguk az eszközök, például a kiterjesztések és a bővítmények, amelyek széles körű engedélyeket kérnek. Azok a szervezetek, amelyek jól kezelik az árnyék-AI-t, általában több intézkedést alkalmaznak a tilalom helyett. Jóváhagyott vállalati eszközöket kínálnak megfelelő adatfeltételekkel. Írnak egy rövid elfogadható felhasználási szabályzatot, amely az AI-eszközökbe bekerülhet és nem. Olyan műszaki vezérlőket használnak, mint az adatvesztés megakadályozása és a mesterséges intelligencia-tartományok figyelése. És gyors módot adnak az embereknek új eszközök igénylésére. Általános tévhit, hogy egy népszerű chatbot blokkolása megoldja a problémát. Több száz mesterséges intelligencia szolgáltatás és beágyazott funkció létezik, és a személyzet használhatja a személyes telefonokat.
Egy mérnök saját forráskódot illeszt be egy személyes chatbot-fiókjába, hogy hibát találjon. Ez hasonló a Samsungnál 2023-ban bejelentett incidensekhez, amelyek miatt a vállalat korlátozta a generatív AI-eszközöket.
A toborzó feltölt egy táblázatot a jelöltek neveiről, fizetéseiről és interjújegyzeteiről egy ingyenes mesterséges intelligencia-eszközbe, hogy összefoglalja azokat, és elküldi a személyes adatokat egy olyan szolgáltatónak, akinek nincs adatkezelési megállapodása.
Egy marketingkoordinátor telepít egy mesterséges intelligencia írási böngésző-bővítményt, amely képes olvasni minden általa megnyitott weboldal tartalmát, beleértve a belső irányítópultokat is.
A kórházi adminisztrátor egy nem jóváhagyott átírási alkalmazást használ, hogy összefoglalja azt a megbeszélést, amelyen a betegek eseteit vitatták meg, ami az egészségügyi adatvédelmi megfelelési kockázatot jelent.
Mivel a mesterséges intelligencia jellemzői közönséges szoftverekbe, például irodai csomagokba, böngészőkbe és operációs rendszerekbe kerülnek, a határvonal a jóváhagyott és az árnyékos AI között elmosódik. A kérdés az, hogy mely mesterséges intelligencia funkciók vannak bekapcsolva, és milyen adatszolgáltatási feltételek mellett, nem pedig az, hogy az alkalmazottak mely webhelyeket keresik fel. Az adatokra fellépő autonóm ügynökök tovább növelik a tétet. A szervezetek valószínűleg olyan mesterségesintelligencia-irányítási programok felé mozdulnak el, amelyek leltárba veszik az eszközöket, osztályozzák az adatokat és képezik a személyzetet, ahelyett, hogy hálózati blokkokra hagyatkoznának. Az olyan szabályozások, mint például az EU MI-törvénye, bizonyos felhasználási módokra kötelezettségeket írnak elő, ami megnöveli annak szükségességét, hogy megtudjuk, mi az AI valójában használatban.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Shadow AI azt jelenti, hogy az alkalmazottak mesterséges intelligencia-eszközöket – például személyes chatbot-fiókokat, böngészőbővítményeket vagy mesterséges intelligencia-funkciókat – a szervezetük tudta vagy jóváhagyása nélkül használnak nem jóváhagyott alkalmazásokban. Ennek azért van jelentősége, mert felszólítások és feltöltések révén bizalmas adatok távozhatnak a cégből, és a megfelelési kötelezettségek megszeghetők anélkül, hogy bárki észrevenné. A határozott tilalmak inkább a föld alá szorítják a használatot, semmint megállítják.
A Shadow AI nem engedélyezett mesterséges intelligencia-használat, például személyes chatbot-fiókok, bővítmények vagy nem jóváhagyott AI-funkciók.
A mesterséges intelligencia értéke abból fakad, hogy valós munkatartalommal táplálja be, ami közvetlenül az adatexpozíció kockázatát okozza.
A jelentések szerint a bizalmas forráskódot és a megbeszélésekről szóló feljegyzéseket bevitték a ChatGPT-be, ami a vállalati eszközök korlátozásához vezetett.
Az üzleti szintek általában alapértelmezés szerint kizárják az ügyféladatokat a képzésből, ez az egyik oka annak, hogy a jóváhagyott vállalati eszközök csökkentik a kockázatot.
Egy chatbot letiltása számos alternatívát hagy maga után, és a személyzet átválthat személyes eszközökre, így a használat továbbra is láthatatlan.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
A munkahelyi mesterséges intelligencia elfogadható használatára vonatkozó szabályzat megírása
Társadalom