PANDUAN Masyarakat

Shadow AI di Tempat Kerja

Shadow AI ialah penggunaan alat AI oleh pekerja, seperti akaun chatbot peribadi, sambungan penyemak imbas atau ciri AI dalam apl yang tidak diluluskan, tanpa pengetahuan atau kelulusan organisasi mereka.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan Shadow AI di Tempat Kerja
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Ini penting kerana data sulit boleh meninggalkan syarikat melalui gesaan dan muat naik, dan kewajipan pematuhan boleh dilanggar tanpa disedari oleh sesiapa. Larangan secara terang-terangan cenderung untuk menolak penggunaan lebih jauh di bawah tanah daripada menghentikannya.

Menyelam dalam

Shadow AI berkembang daripada jurang yang mudah: Alat AI berguna, murah dan tab penyemak imbas jauh, manakala alternatif yang diluluskan selalunya hilang atau kurang berkemampuan. Kebanyakan pekerja yang menggunakan AI yang tidak diluluskan tidak berniat jahat. Mereka cuba menulis dengan lebih pantas, menganalisis data atau membetulkan kod. Istilah ini mengikuti 'IT bayang-bayang', yang menerangkan perisian dan perkhidmatan awan yang tidak dibenarkan, tetapi AI meningkatkan kepentingan kerana intinya adalah untuk menampal dalam kandungan kerja sebenar. Risiko jatuh ke dalam beberapa kumpulan. Yang pertama ialah kebocoran data. Gesaan dan fail yang dimuat naik mungkin disimpan oleh pembekal dan, bergantung pada perkhidmatan dan tetapan, digunakan untuk menambah baik model. Peringkat pengguna dan perniagaan sering berbeza, dan tawaran perniagaan daripada penyedia utama biasanya mengecualikan data pelanggan daripada latihan secara lalai. Kes yang paling terkenal ialah Samsung. Pada tahun 2023 jurutera dilaporkan memasukkan kod sumber sulit dan nota mesyuarat ke dalam ChatGPT, dan Samsung kemudiannya mengehadkan penggunaan AI generatif pada peranti syarikat. Yang kedua ialah pematuhan. Berkongsi data peribadi dengan pemproses yang tidak mempunyai kontrak boleh melanggar undang-undang privasi seperti GDPR dan sektor terkawal mempunyai peraturan tambahan. Ketiga ialah kualiti dan akauntabiliti. Output AI yang tidak disemak boleh berakhir dalam kerja pelanggan tanpa rekod sumbernya. Keempat ialah alatan itu sendiri, seperti sambungan dan pemalam yang meminta kebenaran luas. Organisasi yang mengurus shadow AI dengan baik cenderung menggunakan gabungan langkah dan bukannya larangan. Mereka menawarkan alat perusahaan yang diluluskan dengan syarat data yang sesuai. Mereka menulis dasar penggunaan ringkas yang boleh diterima yang menyusun data kepada perkara yang boleh dan tidak boleh dimasukkan ke dalam alatan AI. Mereka menggunakan kawalan teknikal seperti pencegahan kehilangan data dan pemantauan domain AI. Dan mereka memberi orang cara cepat untuk meminta alat baharu. Kesalahpahaman biasa ialah menyekat satu chatbot popular menyelesaikan masalah. Beratus-ratus perkhidmatan AI dan ciri terbenam wujud, dan kakitangan boleh menggunakan telefon peribadi.

Pelaksanaan Dunia Sebenar

Seorang jurutera menampal kod sumber proprietari ke dalam akaun chatbot peribadi untuk mencari pepijat. Ini serupa dengan insiden 2023 yang dilaporkan di Samsung yang menyebabkan syarikat itu menyekat alat AI generatif.

Seorang perekrut memuat naik hamparan nama calon, gaji dan nota temu duga ke alat AI percuma untuk meringkaskannya, menghantar data peribadi kepada pembekal tanpa perjanjian pemprosesan data disediakan.

Penyelaras pemasaran memasang sambungan penyemak imbas penulisan AI yang boleh membaca kandungan setiap halaman web yang dibukanya, termasuk papan pemuka dalaman.

Pentadbir hospital menggunakan apl transkripsi yang tidak diluluskan untuk meringkaskan mesyuarat di mana kes pesakit dibincangkan, yang mewujudkan risiko pematuhan privasi kesihatan.

Masa Depan Shadow AI di Tempat Kerja

Memandangkan ciri AI dihantar ke dalam perisian biasa seperti suite pejabat, penyemak imbas dan sistem pengendalian, garis antara AI yang diluluskan dan bayangan akan kabur. Persoalannya ialah ciri AI yang dihidupkan dan di bawah istilah data apa, bukan tapak web yang dilawati oleh pekerja. Ejen autonomi yang boleh bertindak ke atas data meningkatkan lagi kepentingan. Organisasi mungkin akan bergerak ke arah program tadbir urus AI yang menggunakan alatan inventori, mengelaskan data dan melatih kakitangan, dan bukannya bergantung pada blok rangkaian. Peraturan seperti Akta AI EU menambah kewajipan untuk beberapa kegunaan, yang meningkatkan keperluan untuk mengetahui apa sebenarnya AI yang digunakan.

Mempraktikkannya

Mengapa ia penting

  • Risiko dan keselamatan. Kemudaratan AI malapetaka dan setiap hari bergantung pada siapa yang memahami risiko dan siapa yang boleh bertindak.
  • Keputusan yang lebih jelas. Celik awam dan profesional membentuk sama ada dasar keselamatan yang kukuh adalah mungkin dari segi politik.
  • Memotong keterujaan. Penjelasan yang jelas mengurangkan tangkapan oleh gembar-gembur, PR makmal dan teater etika yang tidak jelas.

Berhati-hati untuk

  • Merawat risiko kewujudan sebagai sci-fi manakala sebatian keupayaan.
  • Mengelirukan keselamatan produk permukaan dengan penjajaran di bawah autonomi tinggi.
  • Meninggalkan khalayak bukan Inggeris dan bukan pakar dengan hanya sumber berkualiti rendah.

Langkah seterusnya

  1. Asingkan bahaya produk, penyalahgunaan dan kehilangan kawalan / risiko salah jajaran.
  2. Tanya apakah bukti yang akan mengubah pandangan anda tentang garis masa dan keterukan.
  3. Lebih suka sumber utama dan penilaian konkrit berbanding tuntutan pemasaran.
  4. Kenal pasti satu laluan tindakan: kerjaya, dasar, pembiayaan atau kemahiran — bukan sahaja kesedaran.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the Shadow AI in the Workplace quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah Shadow AI di Tempat Kerja?

Shadow AI ialah penggunaan alat AI oleh pekerja, seperti akaun chatbot peribadi, sambungan penyemak imbas atau ciri AI dalam apl yang tidak diluluskan, tanpa pengetahuan atau kelulusan organisasi mereka. Ini penting kerana data sulit boleh meninggalkan syarikat melalui gesaan dan muat naik, dan kewajipan pematuhan boleh dilanggar tanpa disedari oleh sesiapa. Larangan secara terang-terangan cenderung untuk menolak penggunaan lebih jauh di bawah tanah daripada menghentikannya.

Apakah shadow AI?

Shadow AI ialah penggunaan AI yang tidak dibenarkan, seperti akaun chatbot peribadi, sambungan atau ciri AI yang tidak diluluskan.

Mengapa AI meningkatkan kepentingan berbanding dengan IT bayangan biasa?

Nilai AI datang daripada memberinya kandungan kerja sebenar, yang secara langsung mewujudkan risiko pendedahan data.

Apa yang berlaku di Samsung pada tahun 2023?

Kod sumber sulit dan nota mesyuarat dilaporkan telah dimasukkan ke dalam ChatGPT, yang membawa kepada sekatan pada peranti syarikat.

Menurut panduan itu, apakah yang biasanya dilakukan oleh tawaran perniagaan daripada penyedia AI utama secara lalai?

Peringkat perniagaan biasanya mengecualikan data pelanggan daripada latihan secara lalai, yang merupakan salah satu sebab alatan perusahaan yang diluluskan mengurangkan risiko.

Mengapakah panduan mengatakan larangan secara terang-terangan sering gagal?

Menyekat satu chatbot meninggalkan banyak alternatif dan kakitangan boleh bertukar kepada peranti peribadi, jadi penggunaan berterusan tanpa kelihatan.