DalšíDalší průvodce
Sepsání zásad přijatelného používání AI na pracovišti
Společnost
PRŮVODCE společností
Shadow AI je používání nástrojů AI zaměstnanci, jako jsou osobní účty chatbotů, rozšíření prohlížeče nebo funkce AI v neschválených aplikacích, bez vědomí nebo schválení jejich organizace.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Je to důležité, protože důvěrná data mohou opustit společnost prostřednictvím výzev a nahrávání a povinnosti dodržování předpisů lze porušit, aniž by si toho kdokoli všiml. Úplné zákazy mají tendenci zatlačit používání hlouběji do podzemí, spíše než jej zastavit.
Shadow AI grows out of a simple gap: AI tools are useful, cheap and a browser tab away, while approved alternatives are often missing or less capable. Most employees who use unapproved AI are not being malicious. They are trying to write faster, analyze data or fix code. The term follows 'shadow IT', which describes unsanctioned software and cloud services, but AI raises the stakes because the whole point is to paste in real work content. The risks fall into a few groups. The first is data leakage. Prompts and uploaded files may be stored by the provider and, depending on the service and settings, used to improve models. Consumer and business tiers often differ, and business offerings from major providers generally exclude customer data from training by default. The best-known case is Samsung. In 2023 engineers reportedly entered confidential source code and meeting notes into ChatGPT, and Samsung then restricted generative AI use on company devices. The second is compliance. Sharing personal data with a processor that has no contract can breach privacy laws such as the GDPR, and regulated sectors have extra rules. The third is quality and accountability. Unreviewed AI output can end up in client work with no record of its source. The fourth is the tools themselves, such as extensions and plugins that ask for broad permissions. Organizations that manage shadow AI well tend to use a mix of measures instead of a ban. They offer approved enterprise tools with suitable data terms. They write a short acceptable-use policy that sorts data into what can and cannot go into AI tools. They use technical controls such as data loss prevention and monitoring of AI domains. And they give people a quick way to request new tools. A common misconception is that blocking one popular chatbot solves the problem. Hundreds of AI services and embedded features exist, and staff can use personal phones.
Technik vloží proprietární zdrojový kód do účtu osobního chatbota, aby našel chybu. Je to podobné jako v případě hlášených incidentů v roce 2023 u Samsungu, které vedly společnost k omezení generativních nástrojů AI.
Náborový pracovník nahraje tabulku se jmény kandidátů, platy a poznámkami k pohovorům do bezplatného nástroje umělé inteligence, aby to shrnul a odeslal osobní údaje poskytovateli, který nemá uzavřenou smlouvu o zpracování údajů.
Marketingová koordinátorka nainstaluje rozšíření prohlížeče pro psaní AI, které dokáže číst obsah každé webové stránky, kterou otevře, včetně interních panelů.
Administrátor nemocnice používá neschválenou aplikaci pro přepisy ke shrnutí schůzky, na které byly projednány případy pacientů, což představuje riziko pro dodržování zdravotních předpisů.
Jak se funkce umělé inteligence dostávají do běžného softwaru, jako jsou kancelářské balíky, prohlížeče a operační systémy, hranice mezi schválenou a stínovou umělou inteligencí se stírá. Otázkou je, které funkce umělé inteligence jsou zapnuté a za jakých datových podmínek, nikoli jaké webové stránky zaměstnanci navštěvují. Autonomní agenti, kteří mohou jednat na základě dat, zvyšují sázky dále. Organizace pravděpodobně přejdou k programům řízení umělé inteligence, které inventarizují nástroje, klasifikují data a školí zaměstnance, než aby se spoléhaly na síťové bloky. Nařízení, jako je zákon EU o umělé inteligenci přidávají povinnosti pro některá použití, což zvyšuje potřebu vědět, jaká umělá inteligence se skutečně používá.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Shadow AI je používání nástrojů AI zaměstnanci, jako jsou osobní účty chatbotů, rozšíření prohlížeče nebo funkce AI v neschválených aplikacích, bez vědomí nebo schválení jejich organizace. Je to důležité, protože důvěrná data mohou opustit společnost prostřednictvím výzev a nahrávání a povinnosti dodržování předpisů lze porušit, aniž by si toho kdokoli všiml. Úplné zákazy mají tendenci zatlačit používání hlouběji do podzemí, spíše než jej zastavit.
Shadow AI je nepovolené použití AI, jako jsou osobní účty chatbotů, rozšíření nebo neschválené funkce AI.
Hodnota umělé inteligence pochází z toho, že jí dodává skutečný pracovní obsah, což přímo vytváří riziko vystavení dat.
Do ChatGPT byly údajně vloženy důvěrné zdrojové kódy a poznámky ze schůzek, což vedlo k omezení firemních zařízení.
Obchodní úrovně obecně standardně vylučují zákaznická data ze školení, což je jeden z důvodů, proč schválené podnikové nástroje snižují riziko.
Zablokování jednoho chatbota ponechává mnoho alternativ a zaměstnanci mohou přejít na osobní zařízení, takže používání pokračuje neviditelně.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Sepsání zásad přijatelného používání AI na pracovišti
Společnost