NastępnyNastępny poradnik
Stworzenie Polityki dopuszczalnego użytkowania sztucznej inteligencji w miejscu pracy
Społeczeństwo
PRZEWODNIK Społeczny
Cień AI w miejscu pracy
Shadow AI to korzystanie przez pracowników z narzędzi AI, takich jak osobiste konta chatbotów, rozszerzenia przeglądarki lub funkcje AI w niezatwierdzonych aplikacjach, bez wiedzy i zgody ich organizacji.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
Ma to znaczenie, ponieważ poufne dane mogą opuścić firmę poprzez monity i przesyłanie, a zobowiązania dotyczące zgodności mogą zostać złamane niezauważenie. Całkowite zakazy zamiast je powstrzymywać, spychają je jeszcze głębiej pod ziemię.
Głębokie nurkowanie
Shadow AI wyrasta z prostej luki: narzędzia AI są przydatne, tanie i dostępne w przeglądarce, podczas gdy często brakuje zatwierdzonych alternatyw lub są one mniej wydajne. Większość pracowników korzystających z niezatwierdzonej sztucznej inteligencji nie jest złośliwa. Próbują pisać szybciej, analizować dane lub naprawiać kod. Termin ten następuje po „cieniowym IT”, które opisuje niesankcjonowane oprogramowanie i usługi w chmurze, ale sztuczna inteligencja podnosi stawkę, ponieważ chodzi o wklejenie prawdziwej treści służbowej. Zagrożenia można podzielić na kilka grup. Pierwszym z nich jest wyciek danych. Podpowiedzi i przesłane pliki mogą być przechowywane przez dostawcę i, w zależności od usługi i ustawień, wykorzystywane do ulepszania modeli. Poziomy konsumenckie i biznesowe często się różnią, a oferty biznesowe głównych dostawców zazwyczaj domyślnie wykluczają dane klientów ze szkoleń. Najbardziej znanym przypadkiem jest Samsung. Według doniesień w 2023 r. inżynierowie wprowadzili poufny kod źródłowy i notatki ze spotkań do ChatGPT, a następnie Samsung ograniczył wykorzystanie generatywnej sztucznej inteligencji na urządzeniach firmowych. Drugie to zgodność. Udostępnianie danych osobowych podmiotowi przetwarzającemu, który nie ma umowy, może naruszyć przepisy dotyczące prywatności, takie jak RODO, a w sektorach regulowanych obowiązują dodatkowe zasady. Trzeci to jakość i odpowiedzialność. Nieprzejrzane wyniki AI mogą trafić do pracy klienta bez zapisów o ich źródle. Czwartym są same narzędzia, takie jak rozszerzenia i wtyczki, które proszą o szerokie uprawnienia. Organizacje, które dobrze zarządzają sztuczną inteligencją typu Shadow, zwykle stosują kombinację środków zamiast zakazów. Oferują zatwierdzone narzędzia dla przedsiębiorstw z odpowiednimi warunkami dotyczącymi danych. Piszą krótką politykę dopuszczalnego użytkowania, która sortuje dane według tego, co może, a czego nie może przejść do narzędzi AI. Stosują kontrole techniczne, takie jak zapobieganie utracie danych i monitorowanie domen AI. Umożliwiają też użytkownikom szybki sposób zamawiania nowych narzędzi. Powszechnym błędnym przekonaniem jest to, że zablokowanie jednego popularnego chatbota rozwiązuje problem. Istnieją setki usług AI i wbudowanych funkcji, a pracownicy mogą korzystać z telefonów osobistych.
Implementacja w świecie rzeczywistym
Inżynier wkleja zastrzeżony kod źródłowy do osobistego konta chatbota, aby znaleźć błąd. Przypomina to incydenty zgłoszone w firmie Samsung w 2023 r., które skłoniły firmę do ograniczenia narzędzi generatywnej sztucznej inteligencji.
Rekruter przesyła arkusz kalkulacyjny zawierający nazwiska kandydatów, wynagrodzenia i notatki z rozmów kwalifikacyjnych do bezpłatnego narzędzia AI, aby je podsumować, wysyłając dane osobowe do dostawcy, który nie ma zawartej umowy o przetwarzaniu danych.
Koordynatorka ds. marketingu instaluje rozszerzenie przeglądarki obsługujące sztuczną inteligencję, które może odczytać zawartość każdej otwartej przez nią strony internetowej, w tym wewnętrznych pulpitów nawigacyjnych.
Administrator szpitala używa niezatwierdzonej aplikacji do transkrypcji, aby podsumować spotkanie, podczas którego omawiano przypadki pacjentów, co stwarza ryzyko naruszenia prywatności i zdrowia.
Przyszłość Shadow AI w miejscu pracy
Ponieważ funkcje sztucznej inteligencji są dostarczane w zwykłym oprogramowaniu, takim jak pakiety biurowe, przeglądarki i systemy operacyjne, granica między zatwierdzoną sztuczną inteligencją a cieniem AI zaciera się. Pojawia się pytanie, które funkcje AI są włączone i na jakich warunkach dotyczących danych, a nie jakie strony internetowe odwiedzają pracownicy. Autonomiczni agenci, którzy mogą działać na danych, jeszcze bardziej podnoszą stawkę. Organizacje prawdopodobnie pójdą w stronę programów zarządzania sztuczną inteligencją, które inwentaryzują narzędzia, klasyfikują dane i szkolą personel, zamiast polegać na blokach sieciowych. Rozporządzenia takie jak unijna ustawa o sztucznej inteligencji dodają obowiązki w przypadku niektórych zastosowań, co zwiększa potrzebę wiedzy, jaka sztuczna inteligencja jest faktycznie używana.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Ryzyko i bezpieczeństwo. Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
- Jaśniejsze decyzje. Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
- Przebijanie się przez szum. Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Uważaj na
- Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
- Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
- Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Kolejne kroki
- Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
- Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
- Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
- Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Shadow AI in the Workplace quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym jest Shadow AI w miejscu pracy?
Shadow AI to korzystanie przez pracowników z narzędzi AI, takich jak osobiste konta chatbotów, rozszerzenia przeglądarki lub funkcje AI w niezatwierdzonych aplikacjach, bez wiedzy i zgody ich organizacji. Ma to znaczenie, ponieważ poufne dane mogą opuścić firmę poprzez monity i przesyłanie, a zobowiązania dotyczące zgodności mogą zostać złamane niezauważenie. Całkowite zakazy zamiast je powstrzymywać, spychają je jeszcze głębiej pod ziemię.
Czym jest sztuczna inteligencja cieni?
Shadow AI to niezatwierdzone użycie sztucznej inteligencji, takie jak osobiste konta chatbotów, rozszerzenia lub niezatwierdzone funkcje sztucznej inteligencji.
Dlaczego sztuczna inteligencja podnosi stawkę w porównaniu ze zwykłym Shadow IT?
Wartość sztucznej inteligencji wynika z dostarczania jej prawdziwych treści zawodowych, co bezpośrednio stwarza ryzyko narażenia danych.
Co wydarzyło się w Samsungu w 2023 roku?
Według doniesień w ChatGPT wprowadzono poufny kod źródłowy i notatki ze spotkań, co doprowadziło do ograniczeń na urządzeniach firmowych.
Według przewodnika, co zazwyczaj domyślnie oferują oferty biznesowe głównych dostawców sztucznej inteligencji?
Poziomy biznesowe zazwyczaj domyślnie wykluczają dane klientów ze szkolenia, co jest jednym z powodów, dla których zatwierdzone narzędzia dla przedsiębiorstw zmniejszają ryzyko.
Dlaczego w przewodniku jest napisane, że całkowite zakazy często kończą się niepowodzeniem?
Zablokowanie jednego chatbota pozostawia wiele alternatyw, a pracownicy mogą przełączyć się na urządzenia osobiste, więc korzystanie z niego pozostaje niezauważone.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat