Anthropic mengumumkan perlindungan dikawal pelanggan untuk penempatan AI sempadan

Apa yang berlaku

Anthropic mengumumkan Enterprise Frontier Safeguards, perkhidmatan perusahaan terancang yang menggabungkan pengekalan data sifar dengan pemantauan automatik untuk penyalahgunaan serius model sempadannya. Syarikat itu berkata data pelanggan akan kekal dalam infrastruktur yang dikawal oleh pelanggan, dengan pelancaran bermula secara berperingkat pada akhir musim gugur ini.

Anthropic berkata Enterprise Frontier Safeguards, atau EFS, direka untuk menggabungkan pengekalan data sifar dengan perlindungan yang mengesan penyalahgunaan yang serius. Di bawah seni bina yang dirancang, data aktiviti yang digunakan untuk pemantauan boleh disimpan dalam akaun awan pelanggan sendiri, termasuk Amazon S3, Azure Blob Storage atau Google Cloud Storage. Pelanggan boleh menggunakan kunci penyulitan mereka sendiri, dasar akses dan pengelogan audit. Anthropic mengatakan perkhidmatan itu akan disokong di seluruh Claude Code, Claude Enterprise, Platform Claude, Amazon Bedrock, Claude Platform pada AWS, Google Platform Google.

Syarikat itu berkata EFS dibangunkan dengan lebih 100 pelanggan merentasi perkhidmatan kewangan, penjagaan kesihatan, pembuatan, telekomunikasi, undang-undang, peruncitan dan sektor awam. Anthropic juga menamakan Amazon Web Services, Google Cloud dan Microsoft Azure sebagai rakan kongsi awan. Ia mengatakan reka bentuk itu melibatkan pasukan keselamatan, pematuhan, produk dan penghantaran, termasuk ahli Pusat Analisis dan Ketahanan untuk Risiko Sistemik dan syarikat seperti Comcast, KPMG, Mastercard, Salesforce dan Visa. Ini adalah kenyataan daripada Anthropic dan organisasi yang mengambil bahagian; sumber tidak mengesahkan penilaian mereka secara bebas.

Anthropic berkata sistem itu akan menganalisis tetingkap bergulir trafik untuk isyarat penyalahgunaan yang serius, termasuk percubaan untuk membangunkan keupayaan siber atau biologi yang menyinggung serta tanda bukti kelayakan yang dicuri atau bocor. Makluman akan dihantar terus kepada pelanggan, yang kakitangannya boleh menyiasat mereka. Anthropic mengatakan tiada semakan manusia oleh pekerja Anthropic diperlukan. Storan milik pelanggan, kunci penyulitan yang diuruskan oleh pelanggan dan semakan automatik sepenuhnya diterangkan sebagai kawalan pilihan. Syarikat itu berkata EFS tidak akan mengubah tingkah laku model, penetapan harga API atau had kadar, dan Anthropic tidak akan mengenakan bayaran untuk perkhidmatan tersebut, walaupun pelanggan mungkin dikenakan bayaran penyimpanan awan, baca, tulis dan keluar data biasa. Pengumuman membentangkan kawalan ini sebagai sebahagian daripada perkhidmatan yang dirancang dan bukannya sebagai perubahan kepada model asas. Penerangannya memautkan storan, penyulitan, akses dan pengendalian amaran kepada persekitaran awan sedia ada pelanggan. Oleh itu, skop Anthropic yang dinyatakan meliputi kedua-dua fungsi pemantauan dan cara rekod yang terhasil dikendalikan oleh organisasi yang mengambil bahagian.

Butiran sumber: anthropic.com ↗

Mengapa ia penting

Perkhidmatan ini menangani masalah utama untuk organisasi terkawal: mengesan penyalahgunaan merentas berbilang sesi AI mungkin memerlukan pengekalan data aktiviti, manakala peraturan privasi dan pematuhan boleh menyekat tempat data tersebut disimpan dan siapa yang boleh menyemaknya.

Pengumuman itu menangani ketegangan yang dicipta oleh sistem AI yang lebih berkebolehan. Anthropic mengatakan model seperti Claude Fable 5.1 mempunyai kecerdasan yang lebih besar dan keupayaan agen, meningkatkan potensi untuk kedua-dua penyalahgunaan dan salah laku autonomi. Syarikat itu berkata penyalahgunaan canggih boleh melibatkan banyak tugas yang tersebar di seluruh sesi dan akaun, menjadikannya lebih sukar untuk dikenal pasti melalui interaksi terpencil dan dibuang serta-merta. Oleh itu, sistem pemantauan yang mengaitkan aktiviti dari semasa ke semasa mungkin memberikan maklumat yang tidak dapat dilakukan oleh persediaan pengekalan sifar yang ketat.

Keupayaan itu mewujudkan masalah privasi dan pematuhan yang berasingan. Organisasi terkawal mungkin mempunyai had untuk vendor boleh menyimpan rekod sensitif dan orang yang boleh melihat bahan undang-undang yang istimewa, maklumat bukan awam atau laporan keselamatan dadah. EFS bertujuan untuk membenarkan organisasi tersebut menyimpan log dalam infrastruktur yang telah mereka kawal dan menggunakan kunci, kebenaran dan sistem audit sedia ada mereka. Jika dilaksanakan seperti yang diterangkan, itu boleh mengurangkan keperluan untuk menambah Anthropic atau penjaga data luar yang lain pada senarai vendor yang dipercayai organisasi.

Kepentingan praktikal kekal bergantung kepada prestasi dan tadbir urus. Sumber tersebut mengandungi sokongan daripada eksekutif di Wells Fargo, Stripe, Snowflake, Cognition, Factory dan organisasi lain, tetapi ia tidak memberikan ujian bebas bagi ketepatan pengesanan, kadar positif palsu, kependaman atau liputan. Ia juga tidak menetapkan bahawa storan dikawal pelanggan menghapuskan setiap risiko privasi atau keselamatan. Perkhidmatan ini mengalihkan tanggungjawab penting terhadap pelanggan, termasuk kawalan akses, penyiasatan, keputusan pengekalan dan respons kepada makluman. Susunan yang dicadangkan juga memisahkan tindakan mengesan isyarat daripada jagaan rekod yang digunakan dalam proses itu. Dalam penerangan Anthropic, pelanggan mengekalkan kawalan ke atas storan, kunci, kebenaran dan semakan. Pemisahan itu adalah asas untuk perkhidmatan yang didakwa sesuai dengan organisasi yang memerlukan pemantauan sambil mengehadkan akses luar kepada data aktiviti sensitif.

Apa yang perlu ditonton seterusnya

Perkara utama yang tidak diketahui ialah keberkesanan pemantauan, cara kelayakan akan ditentukan dan cara pelanggan akan bertindak balas terhadap makluman. Anthropic tidak menyediakan langkah prestasi pengesanan, spesifikasi teknikal terperinci atau tarikh ketersediaan firma.

Isu pertama ialah penempatan. Anthropic berkata EFS akan dilancarkan secara berperingkat, bermula lewat musim luruh ini, dengan matlamat untuk tersedia secara meluas kemudian pada musim luruh. Pengumuman itu tidak memberikan tarikh tertentu, mentakrifkan semua syarat kelayakan atau menyatakan bilangan pelanggan yang akan menerima akses dalam setiap fasa. Ia juga mengatakan bahawa syarikat sedang berusaha untuk menyokong tawaran pihak ketiga yang melayani pelanggan yang layak, tetapi tidak memberikan jadual atau senarai tawaran tersebut.

Isu kedua ialah ketelusan teknikal. Anthropic tidak menerangkan model pemantauan, tetingkap pengekalan yang tepat, ambang untuk menjana bendera, maklumat yang dihantar kepada Anthropic semasa pengesanan atau perlindungan terhadap manipulasi proses pemantauan. Sumber itu juga tidak menyatakan cara makluman diutamakan, sama ada pelanggan boleh mengaudit sistem pengesanan atau cara perkhidmatan mengendalikan aktiviti yang merentasi akaun awan atau sempadan organisasi.

Isu ketiga ialah akauntabiliti selepas bendera. Kakitangan pelanggan, bukannya pekerja Anthropic, dijangka menjalankan sebarang semakan manusia. Ini mungkin membantu organisasi memenuhi keperluan kerahsiaan dalaman, tetapi ini juga bermakna hasil akan bergantung pada kakitangan, latihan, peraturan peningkatan dan kesediaan untuk bertindak setiap pelanggan. Pelaporan susulan harus meneliti ketersediaan dunia sebenar, penyiasatan pelanggan, positif palsu, salah guna yang tidak dijawab, kos awan dan sama ada seni bina memberikan keuntungan keselamatan yang bermakna tanpa menjejaskan jaminan privasi yang dimaksudkan untuk dipelihara. Pengumuman itu membuka soalan operasi tersebut sambil menerangkan tanggungjawab yang dimaksudkan Anthropic dan pelanggannya. Ketersediaan, konfigurasi dan amalan penyiasatan akan menentukan sama ada cadangan itu berfungsi secara konsisten merentas produk tersenarai dan persekitaran awan. Butiran tersebut juga akan menunjukkan cara privasi, keselamatan dan objektif keselamatan perkhidmatan berinteraksi dalam amalan.

Panduan & kuiz berkaitan