Társadalom ÚTMUTATÓ

Shadow AI a munkahelyen

A Shadow AI azt jelenti, hogy az alkalmazottak mesterséges intelligencia-eszközöket – például személyes chatbot-fiókokat, böngészőbővítményeket vagy mesterséges intelligencia-funkciókat – a szervezetük tudta vagy jóváhagyása nélkül használnak nem jóváhagyott alkalmazásokban.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A Shadow AI jövője a munkahelyen
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Ennek azért van jelentősége, mert felszólítások és feltöltések révén bizalmas adatok távozhatnak a cégből, és a megfelelési kötelezettségek megszeghetők anélkül, hogy bárki észrevenné. A határozott tilalmak inkább a föld alá szorítják a használatot, semmint megállítják.

Mély merülés

A Shadow AI egy egyszerű szakadékból nő ki: az AI-eszközök hasznosak, olcsók és egy böngészőlapnyira vannak, míg a jóváhagyott alternatívák gyakran hiányoznak vagy kevésbé képesek. A legtöbb olyan alkalmazott, aki nem jóváhagyott mesterséges intelligenciát használ, nem rosszindulatú. Próbálnak gyorsabban írni, adatokat elemezni vagy kódot javítani. A kifejezés az „árnyék-IT” kifejezést követi, amely a nem engedélyezett szoftvereket és felhőszolgáltatásokat írja le, de a mesterséges intelligencia növeli a tétet, mert a lényeg a valós munkahelyi tartalom beillesztése. A kockázatok néhány csoportra oszlanak. Az első az adatszivárgás. Az üzeneteket és a feltöltött fájlokat a szolgáltató tárolhatja, és a szolgáltatástól és a beállításoktól függően felhasználhatja a modellek fejlesztésére. A fogyasztói és az üzleti szintek gyakran különböznek, és a nagyobb szolgáltatók üzleti ajánlatai alapértelmezés szerint kizárják az ügyfelek adatait a képzésből. A legismertebb eset a Samsung. A jelentések szerint 2023-ban a mérnökök bizalmas forráskódot és ülésjegyzeteket vittek be a ChatGPT-be, majd a Samsung korlátozta a generatív mesterséges intelligencia használatát a vállalati eszközökön. A második a megfelelés. A személyes adatok szerződés nélküli adatfeldolgozóval való megosztása sértheti az adatvédelmi törvényeket, például a GDPR-t, és a szabályozott ágazatokban további szabályok vonatkoznak. A harmadik a minőség és az elszámoltathatóság. A nem felülvizsgált mesterséges intelligencia kimenet a kliensek munkájába kerülhet anélkül, hogy a forrását rögzítenék. A negyedik maguk az eszközök, például a kiterjesztések és a bővítmények, amelyek széles körű engedélyeket kérnek. Azok a szervezetek, amelyek jól kezelik az árnyék-AI-t, általában több intézkedést alkalmaznak a tilalom helyett. Jóváhagyott vállalati eszközöket kínálnak megfelelő adatfeltételekkel. Írnak egy rövid elfogadható felhasználási szabályzatot, amely az AI-eszközökbe bekerülhet és nem. Olyan műszaki vezérlőket használnak, mint az adatvesztés megakadályozása és a mesterséges intelligencia-tartományok figyelése. És gyors módot adnak az embereknek új eszközök igénylésére. Általános tévhit, hogy egy népszerű chatbot blokkolása megoldja a problémát. Több száz mesterséges intelligencia szolgáltatás és beágyazott funkció létezik, és a személyzet használhatja a személyes telefonokat.

Valós megvalósítás

Egy mérnök saját forráskódot illeszt be egy személyes chatbot-fiókjába, hogy hibát találjon. Ez hasonló a Samsungnál 2023-ban bejelentett incidensekhez, amelyek miatt a vállalat korlátozta a generatív AI-eszközöket.

A toborzó feltölt egy táblázatot a jelöltek neveiről, fizetéseiről és interjújegyzeteiről egy ingyenes mesterséges intelligencia-eszközbe, hogy összefoglalja azokat, és elküldi a személyes adatokat egy olyan szolgáltatónak, akinek nincs adatkezelési megállapodása.

Egy marketingkoordinátor telepít egy mesterséges intelligencia írási böngésző-bővítményt, amely képes olvasni minden általa megnyitott weboldal tartalmát, beleértve a belső irányítópultokat is.

A kórházi adminisztrátor egy nem jóváhagyott átírási alkalmazást használ, hogy összefoglalja azt a megbeszélést, amelyen a betegek eseteit vitatták meg, ami az egészségügyi adatvédelmi megfelelési kockázatot jelent.

A Shadow AI jövője a munkahelyen

Mivel a mesterséges intelligencia jellemzői közönséges szoftverekbe, például irodai csomagokba, böngészőkbe és operációs rendszerekbe kerülnek, a határvonal a jóváhagyott és az árnyékos AI között elmosódik. A kérdés az, hogy mely mesterséges intelligencia funkciók vannak bekapcsolva, és milyen adatszolgáltatási feltételek mellett, nem pedig az, hogy az alkalmazottak mely webhelyeket keresik fel. Az adatokra fellépő autonóm ügynökök tovább növelik a tétet. A szervezetek valószínűleg olyan mesterségesintelligencia-irányítási programok felé mozdulnak el, amelyek leltárba veszik az eszközöket, osztályozzák az adatokat és képezik a személyzetet, ahelyett, hogy hálózati blokkokra hagyatkoznának. Az olyan szabályozások, mint például az EU MI-törvénye, bizonyos felhasználási módokra kötelezettségeket írnak elő, ami megnöveli annak szükségességét, hogy megtudjuk, mi az AI valójában használatban.

A gyakorlatba ültetés

Miért számít

  • Kockázat és biztonság. A katasztrofális és a mindennapi mesterséges intelligencia okozta károk egyaránt attól függnek, hogy ki érti a kockázatokat, és ki tud cselekedni.
  • Tisztább döntések. A közéleti és szakmai műveltség határozza meg, hogy politikailag lehetséges-e az erős biztonsági politika.
  • Átvágva a felhajtáson. A világos magyarázatok csökkentik a hírverés, a laboratóriumi PR és a homályos etikai színház általi elkapását.

Vigyázz

  • Az egzisztenciális kockázat sci-fiként való kezelése, miközben a képesség összetett.
  • Zavaros felületi termékbiztonság a nagy autonómia melletti igazítással.
  • A nem angol nyelvű és nem szakértő közönségnek csak rossz minőségű forrásokat kell hagynia.

Következő lépések

  1. Különítse el a termékkárok, a visszaélések és az ellenőrzés elvesztésének/hibás beállításának kockázatait.
  2. Kérdezd meg, milyen bizonyítékok változtatnák meg az idővonalakról és a súlyosságról alkotott nézetedet.
  3. Részesítse előnyben az elsődleges forrásokat és a konkrét értékeléseket a marketinges állításokkal szemben.
  4. Határozzon meg egy cselekvési utat: karrier, politika, finanszírozás vagy készségek – nem csak a tudatosság.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Shadow AI in the Workplace quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a Shadow AI a munkahelyen?

A Shadow AI azt jelenti, hogy az alkalmazottak mesterséges intelligencia-eszközöket – például személyes chatbot-fiókokat, böngészőbővítményeket vagy mesterséges intelligencia-funkciókat – a szervezetük tudta vagy jóváhagyása nélkül használnak nem jóváhagyott alkalmazásokban. Ennek azért van jelentősége, mert felszólítások és feltöltések révén bizalmas adatok távozhatnak a cégből, és a megfelelési kötelezettségek megszeghetők anélkül, hogy bárki észrevenné. A határozott tilalmak inkább a föld alá szorítják a használatot, semmint megállítják.

Mi az az árnyék AI?

A Shadow AI nem engedélyezett mesterséges intelligencia-használat, például személyes chatbot-fiókok, bővítmények vagy nem jóváhagyott AI-funkciók.

Miért emeli a mesterséges intelligencia a tétet a hagyományos árnyék informatikához képest?

A mesterséges intelligencia értéke abból fakad, hogy valós munkatartalommal táplálja be, ami közvetlenül az adatexpozíció kockázatát okozza.

Mi történt a Samsungnál 2023-ban?

A jelentések szerint a bizalmas forráskódot és a megbeszélésekről szóló feljegyzéseket bevitték a ChatGPT-be, ami a vállalati eszközök korlátozásához vezetett.

Az útmutató szerint alapértelmezés szerint mit csinálnak a nagy mesterségesintelligencia-szolgáltatók üzleti ajánlatai?

Az üzleti szintek általában alapértelmezés szerint kizárják az ügyféladatokat a képzésből, ez az egyik oka annak, hogy a jóváhagyott vállalati eszközök csökkentik a kockázatot.

Miért mondja az útmutató, hogy a határozott tiltások gyakran kudarcot vallanak?

Egy chatbot letiltása számos alternatívát hagy maga után, és a személyzet átválthat személyes eszközökre, így a használat továbbra is láthatatlan.