Apa yang terjadi
The Guardian melaporkan bahwa CEO Anthropic Dario Amodei mengusulkan perlambatan pengembangan AI melalui evaluator independen, perjanjian keselamatan internasional, dan koordinasi dengan Tiongkok mengenai masalah keamanan. CEO OpenAI Sam Altman, kepala Google DeepMind Demis Hassabis dan pemilik xAI Elon Musk secara terbuka menyatakan dukungannya. Laporan itu juga mengatakan Donald Trump menolak perlambatan pembangunan, dengan alasan persaingan dengan Tiongkok.
The Guardian melaporkan bahwa Amodei mengeluarkan proposal bertajuk “Kita Harus Melaju di Perbatasan” setelah peringatan dari para peneliti Anthropic tentang potensi risiko AI yang membawa bencana. Tiga ide utamanya adalah evaluator luar dengan akses tingkat karyawan untuk memantau risiko, kesepakatan di antara pemerintah demokratis mengenai standar keselamatan, dan koordinasi global dengan pemerintah otoriter termasuk Tiongkok mengenai masalah keamanan.
Menurut laporan tersebut, Altman mengatakan OpenAI akan sesuai dengan komitmen Amodei terhadap evaluator independen, sementara Hassabis dan Musk juga menyatakan dukungannya. Laporan ini tidak memberikan teks utama lengkap dari proposal Amodei atau bukti independen bahwa pernyataan-pernyataan tersebut telah menghasilkan komitmen formal dan dapat dilaksanakan.
Artikel tersebut melaporkan tentangan besar dari para pengkritik peraturan AI dan mantan pejabat, yang mempertanyakan apakah evaluator yang dipilih industri dan kemungkinan pengecualian antimonopoli dapat menjadi bagian dari peraturan. Laporan tersebut juga melaporkan bahwa Trump menolak seruan untuk memperlambat pengembangan AI dan Ketua DPR Mike Johnson mengatakan bahwa perusahaan, bukan Kongres, yang harus memimpin dalam keamanan AI.
Detail sumber: theguardian.com ↗
Mengapa itu penting
Episode ini menyoroti konflik yang semakin besar antara peringatan publik perusahaan AI mengenai risiko besar dan insentif komersial dan geopolitik untuk terus merilis sistem yang lebih mumpuni. Komitmen sukarela dapat meningkatkan pengawasan jika penilai menerima akses dan wewenang yang nyata, namun laporan yang diberikan tidak secara independen mengkonfirmasi bahwa ada perusahaan yang telah mengambil langkah-langkah yang mengikat. Perdebatan ini juga menimbulkan pertanyaan mengenai apakah koordinasi industri akan meningkatkan keselamatan atau memperkuat pemimpin pasar yang ada.
Perkembangan ini penting karena para pemimpin beberapa perusahaan AI besar secara terbuka mengakui bahwa pengembangan kemampuan yang lebih cepat mungkin memerlukan kontrol keselamatan yang lebih kuat. Posisi tersebut dapat mempengaruhi regulasi, tata kelola perusahaan, dan negosiasi internasional di masa depan, namun dukungan publik saja tidak menunjukkan bahwa pembangunan telah melambat atau praktik keselamatan telah berubah secara signifikan.
Pelaporan The Guardian juga mengungkap ketegangan struktural: perusahaan mungkin melakukan koordinasi sukarela sambil menentang peraturan yang dapat membatasi produk mereka atau melindungi pesaing. Hasil praktisnya akan bergantung pada apakah evaluator independen dapat mengakses sistem yang relevan, mempublikasikan temuan yang kredibel, dan beroperasi di luar kendali perusahaan. Kondisi tersebut masih belum terselesaikan dalam laporan yang diberikan.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
Which component of an AI application is the machine-learning model itself?
Apa yang harus ditonton selanjutnya
Hal yang masih belum diketahui adalah apakah perusahaan akan meresmikan komitmen mereka, siapa yang akan memilih dan memberdayakan evaluator dari luar, dan apakah evaluator akan memiliki akses di tingkat karyawan dalam praktiknya. Perhatikan setiap usulan peran federal, penanganan masalah antimonopoli, dan apakah pemerintahan Trump mengubah penolakannya terhadap perlambatan pembangunan. Tidak ada akses produk, ketersediaan atau perubahan harga yang didokumentasikan.
Ujian langsungnya adalah implementasi. Laporan ini tidak menetapkan tenggat waktu, mekanisme penegakan hukum, identitas penilai atau konsekuensi bagi perusahaan yang gagal mematuhinya. Pelaporan lebih lanjut harus membedakan pernyataan publik dari perjanjian yang ditandatangani, jeda operasional, atau perubahan keselamatan yang dinilai secara independen.
Elemen internasional dan antimonopoli dalam proposal tersebut mungkin menghadapi perlawanan politik. Kritikus yang dikutip dalam laporan tersebut berpendapat bahwa kerja sama dapat digunakan untuk membatasi persaingan, sementara pemerintah AS terus menganggap kepemimpinan AI sebagai sebuah kontes dengan Tiongkok. Apakah pembuat kebijakan menciptakan pengawasan yang dapat ditegakkan atau menyerahkan tanggung jawab utama kepada perusahaan masih belum diketahui.