SeterusnyaPanduan seterusnya
Menulis Dasar Penggunaan Boleh Diterima AI Tempat Kerja
Masyarakat
PANDUAN Masyarakat
Shadow AI ialah penggunaan alat AI oleh pekerja, seperti akaun chatbot peribadi, sambungan penyemak imbas atau ciri AI dalam apl yang tidak diluluskan, tanpa pengetahuan atau kelulusan organisasi mereka.
Dengar panduan iniAI-diceritakan · ~3 min
Ini penting kerana data sulit boleh meninggalkan syarikat melalui gesaan dan muat naik, dan kewajipan pematuhan boleh dilanggar tanpa disedari oleh sesiapa. Larangan secara terang-terangan cenderung untuk menolak penggunaan lebih jauh di bawah tanah daripada menghentikannya.
Shadow AI berkembang daripada jurang yang mudah: Alat AI berguna, murah dan tab penyemak imbas jauh, manakala alternatif yang diluluskan selalunya hilang atau kurang berkemampuan. Kebanyakan pekerja yang menggunakan AI yang tidak diluluskan tidak berniat jahat. Mereka cuba menulis dengan lebih pantas, menganalisis data atau membetulkan kod. Istilah ini mengikuti 'IT bayang-bayang', yang menerangkan perisian dan perkhidmatan awan yang tidak dibenarkan, tetapi AI meningkatkan kepentingan kerana intinya adalah untuk menampal dalam kandungan kerja sebenar. Risiko jatuh ke dalam beberapa kumpulan. Yang pertama ialah kebocoran data. Gesaan dan fail yang dimuat naik mungkin disimpan oleh pembekal dan, bergantung pada perkhidmatan dan tetapan, digunakan untuk menambah baik model. Peringkat pengguna dan perniagaan sering berbeza, dan tawaran perniagaan daripada penyedia utama biasanya mengecualikan data pelanggan daripada latihan secara lalai. Kes yang paling terkenal ialah Samsung. Pada tahun 2023 jurutera dilaporkan memasukkan kod sumber sulit dan nota mesyuarat ke dalam ChatGPT, dan Samsung kemudiannya mengehadkan penggunaan AI generatif pada peranti syarikat. Yang kedua ialah pematuhan. Berkongsi data peribadi dengan pemproses yang tidak mempunyai kontrak boleh melanggar undang-undang privasi seperti GDPR dan sektor terkawal mempunyai peraturan tambahan. Ketiga ialah kualiti dan akauntabiliti. Output AI yang tidak disemak boleh berakhir dalam kerja pelanggan tanpa rekod sumbernya. Keempat ialah alatan itu sendiri, seperti sambungan dan pemalam yang meminta kebenaran luas. Organisasi yang mengurus shadow AI dengan baik cenderung menggunakan gabungan langkah dan bukannya larangan. Mereka menawarkan alat perusahaan yang diluluskan dengan syarat data yang sesuai. Mereka menulis dasar penggunaan ringkas yang boleh diterima yang menyusun data kepada perkara yang boleh dan tidak boleh dimasukkan ke dalam alatan AI. Mereka menggunakan kawalan teknikal seperti pencegahan kehilangan data dan pemantauan domain AI. Dan mereka memberi orang cara cepat untuk meminta alat baharu. Kesalahpahaman biasa ialah menyekat satu chatbot popular menyelesaikan masalah. Beratus-ratus perkhidmatan AI dan ciri terbenam wujud, dan kakitangan boleh menggunakan telefon peribadi.
Seorang jurutera menampal kod sumber proprietari ke dalam akaun chatbot peribadi untuk mencari pepijat. Ini serupa dengan insiden 2023 yang dilaporkan di Samsung yang menyebabkan syarikat itu menyekat alat AI generatif.
Seorang perekrut memuat naik hamparan nama calon, gaji dan nota temu duga ke alat AI percuma untuk meringkaskannya, menghantar data peribadi kepada pembekal tanpa perjanjian pemprosesan data disediakan.
Penyelaras pemasaran memasang sambungan penyemak imbas penulisan AI yang boleh membaca kandungan setiap halaman web yang dibukanya, termasuk papan pemuka dalaman.
Pentadbir hospital menggunakan apl transkripsi yang tidak diluluskan untuk meringkaskan mesyuarat di mana kes pesakit dibincangkan, yang mewujudkan risiko pematuhan privasi kesihatan.
Memandangkan ciri AI dihantar ke dalam perisian biasa seperti suite pejabat, penyemak imbas dan sistem pengendalian, garis antara AI yang diluluskan dan bayangan akan kabur. Persoalannya ialah ciri AI yang dihidupkan dan di bawah istilah data apa, bukan tapak web yang dilawati oleh pekerja. Ejen autonomi yang boleh bertindak ke atas data meningkatkan lagi kepentingan. Organisasi mungkin akan bergerak ke arah program tadbir urus AI yang menggunakan alatan inventori, mengelaskan data dan melatih kakitangan, dan bukannya bergantung pada blok rangkaian. Peraturan seperti Akta AI EU menambah kewajipan untuk beberapa kegunaan, yang meningkatkan keperluan untuk mengetahui apa sebenarnya AI yang digunakan.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Shadow AI ialah penggunaan alat AI oleh pekerja, seperti akaun chatbot peribadi, sambungan penyemak imbas atau ciri AI dalam apl yang tidak diluluskan, tanpa pengetahuan atau kelulusan organisasi mereka. Ini penting kerana data sulit boleh meninggalkan syarikat melalui gesaan dan muat naik, dan kewajipan pematuhan boleh dilanggar tanpa disedari oleh sesiapa. Larangan secara terang-terangan cenderung untuk menolak penggunaan lebih jauh di bawah tanah daripada menghentikannya.
Shadow AI ialah penggunaan AI yang tidak dibenarkan, seperti akaun chatbot peribadi, sambungan atau ciri AI yang tidak diluluskan.
Nilai AI datang daripada memberinya kandungan kerja sebenar, yang secara langsung mewujudkan risiko pendedahan data.
Kod sumber sulit dan nota mesyuarat dilaporkan telah dimasukkan ke dalam ChatGPT, yang membawa kepada sekatan pada peranti syarikat.
Peringkat perniagaan biasanya mengecualikan data pelanggan daripada latihan secara lalai, yang merupakan salah satu sebab alatan perusahaan yang diluluskan mengurangkan risiko.
Menyekat satu chatbot meninggalkan banyak alternatif dan kakitangan boleh bertukar kepada peranti peribadi, jadi penggunaan berterusan tanpa kelihatan.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Menulis Dasar Penggunaan Boleh Diterima AI Tempat Kerja
Masyarakat