Apa yang terjadi
Startup Fortune melaporkan bahwa anggota parlemen California menyetujui SB 813 pada tanggal 30 Agustus 2026. RUU tersebut akan mengarahkan Badan Operasi Pemerintah untuk mulai menunjuk organisasi verifikasi independen, atau IVO, dengan kerangka kerja awal yang harus diselesaikan pada tanggal 1 Januari 2028. Sumber tersebut mengutip suara persetujuan Senat dengan hasil 37-0 dan suara Majelis 53-4 dalam catatan RUU negara bagian.
Startup Fortune melaporkan bahwa Badan Legislatif California menyetujui SB 813 Senator Jerry McNerney pada tanggal 30 Agustus 2026. Artikel tersebut mengatakan bahwa catatan undang-undang negara bagian mencantumkan suara persetujuan Senat 37-0 dan suara Majelis 53-4. Sumber tersebut tidak secara independen memberikan teks RUU tersebut atau mengonfirmasi bahwa gubernur telah menandatanganinya.
Berdasarkan kerangka kerja yang dilaporkan, Badan Operasi Pemerintah California akan menunjuk organisasi verifikasi independen, atau IVO, untuk menilai risiko yang ditimbulkan oleh sistem atau model AI dan mengidentifikasi metrik dan metode yang digunakan dalam penilaian tersebut. Startup Fortune mengatakan tindakan kerangka kerja pertama akan jatuh tempo pada 1 Januari 2028.
Artikel tersebut menjelaskan RUU tersebut disponsori oleh Fathom dan mengutip ringkasan konsep IVO CalMatters Digital Democracy. Hal ini juga merujuk pada pernyataan Fathom pada tanggal 31 Agustus yang menyebut tindakan tersebut sebagai upaya pertama di negara ini. Uraian tersebut dan rincian pelaksanaan RUU tersebut diberikan kepada sumbernya dan tidak dikonfirmasi secara independen di sini.
Startup Fortune menghubungkan waktunya dengan pelaporan tentang evaluasi keamanan siber OpenAI. Dikatakan bahwa penyelidik METR dan Redwood Research meninjau lebih dari 70.000 pesan dan file serta sekitar 1.300 transkrip rantai pemikiran selama enam hari di lokasi OpenAI, menggunakan kredit API OpenAI sekitar $400.000. Artikel tersebut menghubungkan angka-angka tersebut dengan SC Media dan The New York Times, dan mengatakan bahwa para peneliti menggambarkan keterbatasan dalam mengandalkan alat AI untuk menganalisis perilaku AI. Rincian insiden ini tidak dikonfirmasi secara independen oleh evaluasi ini.
Detail sumber: startupfortune.com ↗
Mengapa itu penting
Proposal ini mengatasi kelemahan praktis dalam pengawasan keamanan AI: pengembang sering kali mengontrol model, data, alat, dan akses yang diperlukan untuk mengevaluasi sistem mereka sendiri. Startup Fortune menghubungkan RUU tersebut dengan penyelidikan atas insiden agen OpenAI, namun signifikansi kebijakan yang lebih luas dari artikel tersebut tidak bergantung pada kasus tersebut. Pengawasan yang efektif akan bergantung pada cara California mendefinisikan independensi, menangani konflik kepentingan, dan memberikan akses yang memadai kepada auditor tanpa membuat mereka bergantung pada perusahaan yang mereka nilai.
SB 813 dapat mengalihkan sebagian penilaian keamanan AI dari pengungkapan sukarela perusahaan ke pasar audit eksternal yang diakui negara. Hal ini akan menjadi hal yang paling penting bagi sistem yang pengembangnya membuat klaim penting mengenai keamanan siber, otonomi, keandalan, atau risiko penyalahgunaan.
Tantangan kebijakan utama adalah independensi dalam praktiknya. Auditor mungkin terpisah secara formal namun tetap mengandalkan pengembang untuk akses model, infrastruktur teknis, log kepemilikan, atau pembayaran. Sumber tersebut mengemukakan konflik ini tetapi tidak menjelaskan bagaimana SB 813 akan menyelesaikannya.
Investigasi OpenAI yang dijelaskan oleh Startup Fortune menggambarkan mengapa akses dan independensi dapat mengarah ke arah yang berlawanan: peneliti mungkin memerlukan kerja sama dari perusahaan yang sedang ditinjau untuk mendapatkan bukti, sedangkan kerja sama tersebut dapat menentukan ruang lingkup dan kondisi peninjauan. Laporan artikel tersebut dilaporkan dan bukan diverifikasi secara independen.
Bagi perusahaan yang menerapkan sistem frontier, implikasi praktisnya adalah kesiapan audit pada akhirnya dapat menjadi persyaratan tata kelola di California. Sumber tersebut tidak menentukan perusahaan atau model mana yang akan dicakup, apakah audit wajib dilakukan, atau apakah ketidakpatuhan akan dikenakan sanksi.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
Why can ethical evaluation not be reduced to one model score?
Apa yang harus ditonton selanjutnya
Langkah penting berikutnya adalah apakah RUU tersebut ditandatangani, bagaimana negara mendefinisikan organisasi verifikasi independen, dan apakah auditor dapat memperoleh akses yang berarti terhadap model frontier dan catatan operasional. Juga masih belum jelas apakah kerangka kerja ini hanya akan mencakup model-model canggih atau sistem AI yang lebih luas, berapa biaya auditnya, dan apakah temuan-temuan tersebut akan dipublikasikan atau dapat dilaksanakan.
Sumber tersebut tidak menyebutkan apakah SB 813 telah ditandatangani menjadi undang-undang, diveto, atau diundangkan. Status tersebut harus dikonfirmasi sebelum menganggap kerangka kerja tersebut dapat berfungsi.
Perhatikan peraturan yang menjelaskan kelayakan IVO, konflik auditor, pengaturan pendanaan, akses teknis yang diperlukan, frekuensi audit, dan pengungkapan temuan.
Masih belum diketahui apakah California dapat menciptakan cukup auditor yang memenuhi syarat untuk mengevaluasi model frontier secara independen, terutama ketika sistem yang paling mampu adalah sistem yang bersifat eksklusif dan berubah dengan cepat.
Artikel tersebut juga membuka kemungkinan apakah kerangka kerja tersebut akan berkoordinasi dengan peraturan federal atau negara bagian lainnya, dan apakah hasil audit akan memengaruhi penerapan, tanggung jawab, pengadaan, atau pelaporan publik.