Apa yang terjadi
Tech Times, mengutip wawancara Fortune, melaporkan bahwa CEO OpenAI Sam Altman mengatakan perusahaan tidak dapat dengan aman mengembangkan model paling mumpuni yang belum dirilis sampai mereka meningkatkan kemampuan pemantauan, penyelarasan, dan kemampuannya untuk memahami perilaku model. Dia juga mengatakan para pemimpin laboratorium AI besar sedang mendiskusikan komitmen keselamatan yang terkoordinasi dan pada prinsipnya mendukung pengawasan independen. Sumber tidak mendokumentasikan rilis model baru, penarikan produk, atau perubahan akses.
Tech Times melaporkan bahwa Fortune mewawancarai CEO OpenAI Sam Altman di kantor pusat perusahaan di San Francisco. Menurut laporan tersebut, Altman mengatakan OpenAI saat ini tidak dalam posisi untuk mendorong kemampuan tercanggihnya lebih jauh karena memerlukan lebih banyak kemajuan dalam hal kemampuan pemantauan, penyelarasan, memahami apa yang dilakukan model, dan memastikan bahwa sistem mengikuti nilai-nilai kemanusiaan dan niat pengguna.
Laporan yang sama mengatakan Altman membenarkan bahwa diskusi pribadi di antara para pemimpin laboratorium AI besar sedang berlangsung, namun dia tidak mengungkapkan substansinya. Tech Times juga melaporkan bahwa Altman mendukung proposal CEO Anthropic Dario Amodei untuk akses permanen oleh evaluator independen dan mengatakan OpenAI akan segera membagikan lebih banyak hal.
Sumber tersebut menempatkan pernyataan-pernyataan ini bersamaan dengan masalah keamanan yang lebih luas dan laporan sebelumnya tentang insiden yang disebabkan oleh agen AI, namun pernyataan-pernyataan seputar klaim tersebut tidak dikonfirmasi secara independen dalam materi yang diberikan. Hal ini juga tidak memberikan bukti bahwa perjanjian lintas industri telah diselesaikan atau bahwa model apa pun telah ditunda secara resmi.
Detail sumber: techtimes.com ↗
Mengapa itu penting
Laporan tersebut menggambarkan pengakuan langsung dari kepala eksekutif OpenAI bahwa kemampuan keselamatan dan pengawasan membatasi pengembangan kemampuan lebih lanjut. Jika dilaporkan secara akurat, hal ini dapat memengaruhi cara bisnis merencanakan peluncuran model di masa depan dan cara regulator menilai upaya perlindungan industri secara sukarela. Signifikansi praktisnya masih terbatas sampai OpenAI menerbitkan komitmen, jadwal, dan bukti evaluasi yang spesifik.
Implikasi utamanya adalah kemajuan kemampuan mungkin terhambat oleh kemampuan industri untuk mengamati dan mengendalikan sistem yang semakin mampu. Hal ini relevan bagi pengembang dan organisasi yang membuat rencana seputar ketersediaan model di masa depan, karena laporan tersebut menggambarkan pekerjaan keselamatan yang belum terselesaikan sebagai kondisi teknis dan bukan preferensi kebijakan umum.
Bagi tata kelola, perjanjian sukarela hanya akan bermakna jika perjanjian tersebut menetapkan apa yang akan dilakukan perusahaan, bagaimana kepatuhan akan diperiksa, dan apa yang terjadi setelah terjadi pelanggaran. Sumber tersebut tidak menetapkan bahwa ketentuan tersebut ada. Mereka juga tidak memverifikasi secara independen pernyataan-pernyataan yang dilaporkan di luar wawancara Tech Times dengan Fortune.
Tidak ada akses produk baru, harga, perubahan API, hasil , atau pembatasan penerapan yang didokumentasikan. Oleh karena itu, sumber tersebut mendukung laporan tentang masalah keselamatan dan koordinasi prospektif, bukan kesimpulan bahwa OpenAI secara luas telah menghentikan pengembangan atau penerapan.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Apa yang harus ditonton selanjutnya
Uji kuncinya adalah apakah usulan perjanjian lintas laboratorium memuat batasan terukur, verifikasi independen, dan konsekuensi atas pelanggaran. Perhatikan OpenAI untuk mengklarifikasi apakah ia akan memberikan akses pihak ketiga permanen yang sebanding dengan kerangka kerja yang dijelaskan oleh Anthropic, dan apakah ada model lanjutan atau rencana penerapan yang tertunda. Sumber tersebut tidak memberikan konfirmasi jadwal, mekanisme penegakan hukum, persyaratan akses, atau perubahan harga.
Pernyataan publik dari laboratorium yang terlibat akan memperjelas apakah diskusi tersebut menghasilkan kesepakatan nyata atau hanya niat bersama. Rincian penting akan mencakup ambang batas model, standar evaluasi, tugas pelaporan, akses independen, dan penegakan hukum.
Tanggapan OpenAI juga harus memperjelas apakah dukungannya terhadap pengawasan independen mencakup akses permanen evaluator dan hak publikasi, dan apakah ketentuan tersebut berlaku untuk pelatihan, penempatan, dan investigasi insiden.
Sumber tersebut tidak memberikan jadwal pasti untuk perjanjian tersebut dan tidak ada bukti yang diverifikasi secara independen tentang kinerja model OpenAI yang belum dirilis atau kesenjangan keamanan spesifik apa yang menghalangi pengerjaan lebih lanjut. Hal-hal tersebut masih belum diketahui secara signifikan.