Diperbarui setiap hari3597 cerita terverifikasi
Berita AI. Tanpa kebisingan.
Liputan AI yang diperiksa sumber tentang peluncuran produk, perubahan kebijakan, riset keselamatan, dan langkah industri, dijelaskan dengan bahasa sederhana oleh tim edukasi nirlaba.
Sumber terverifikasi
Setiap cerita terhubung ke bukti terkuat yang tersedia: sumber asli jika tersedia, dan laporan yang jelas dikaitkan dengan jelas.
Bahasa Inggris Biasa
Apa yang terjadi, mengapa hal itu penting, dan apa yang harus diperhatikan — tanpa jargon.
Tidak ada pengisi
Ketika sinyalnya tipis, kami tidak mempublikasikan apa pun selain mengisi feed.
Lebih banyak cerita
9 ceritaInovasi
Makalah Menemukan Lapisan Akhir dari Model Campuran Pakar Menoleransi Penyembunyian Pakar yang Berat
Sebuah pracetak melaporkan bahwa menonaktifkan pakar berkekuatan rendah di lima lapisan terakhir dari model Mixture-of-Experts dengan 35 miliar parameter akan mempertahankan keluaran terjemahan kode yang jauh lebih berguna daripada menyebarkan pemotongan yang sama ke semua lapisan. Ini mencakup satu model dan satu tolok ukur, dan laporan abstraknya tidak mengungkap garis dasar.arxiv.orgKeamanan
Cacat CoreBreak Membiarkan Alat Agen Berjalan Tanpa Model Dipanggil
Catatan penelitian Cloud Security Alliance menjelaskan CoreBreak, sebuah pola kelemahan pada Amazon Bedrock AgentCore, Agent Development Kit Google, dan paket harness AI SDK Vercel yang memungkinkan alat untuk dijalankan tanpa pergantian model — sehingga pagar pembatas tingkat model tidak perlu diperiksa.labs.cloudsecurityalliance.orgKebijakan
Anthropic Merinci Cara Kerja Tanda Air Teks Claude
Anthropic mengatakan model Claude masa depan akan menyematkan tanda air statistik berdasarkan Google SynthID-Text DeepMind, untuk mematuhi EU AI Act. Perusahaan mengatakan tidak menambahkan karakter, token, atau identitas pengguna – dan penulisan ulang penuh akan mengalahkannya.
anthropic.comIndustri
Cursor Mengatakan Akuisisinya oleh SpaceX Telah Resmi Ditutup
Cursor menerbitkan postingan singkat yang mengatakan SpaceX telah menyelesaikan akuisisi alat pengkodean AI, menyelesaikan proses yang dikatakan dimulai pada bulan April dengan kemitraan pelatihan model dengan SpaceXAI. Postingan tersebut menjanjikan akses ke apa yang disebutnya sebagai armada GPU terbesar di dunia, namun tidak mengungkapkan syarat, jadwal, atau perubahan produk.
cursor.comInovasi
Tolok Ukur Baru Menemukan 28% Agen AI Salah Memblokir Pekerjaan yang Disetujui
Pracetak memperkenalkan SteerBench-Work, pengujian 106 skenario saat agen AI memutuskan untuk bertindak atau berhenti sejenak untuk ditinjau. Dari 30 kondisi model, penulis melaporkan bahwa kesalahan dalam melakukan pekerjaan yang telah diselesaikan kira-kira 28 kali lebih sering terjadi dibandingkan kesalahan dalam mengizinkan pekerjaan yang tidak aman.arxiv.orgInovasi
Paper Reports Frontier LLM Hakim Membalik Putusan 25-71% Di Bawah Penolakan
Uji stres pracetak arXiv yang baru menguji sembilan model frontier yang digunakan sebagai penilai otomatis dan melaporkan bahwa semuanya mengubah keputusan mereka saat diuji — dan bahwa keputusan yang diubah biasanya menjauh dari jawaban yang benar, bukan mengarah ke jawaban yang benar.arxiv.orgInovasi
Makalah Berpendapat Strategi Evolusi Mengalahkan RL dalam Menjaga Kumpulan Jawaban LLM Beragam
Pracetak arXiv baru berpendapat bahwa LLM pasca-pelatihan dengan strategi evolusi — metode berbasis populasi, bebas gradien yang mengganggu bobot secara langsung — mengalahkan pembelajaran penguatan pada pass@k dan cakupan solusi. Abstrak mengutip hasil tolok ukur matematika yang lebih baik tetapi tidak menyebutkan model, tolok ukur, atau angka.arxiv.orgKeamanan
Paper Mengatakan Agen AI yang Berkembang Sendiri Dapat Mengubah Kesuksesan yang Tidak Aman Menjadi Keterampilan yang Dapat Digunakan Kembali
Pracetak arXiv baru menandai mode kegagalan agen tertentu: ketika agen yang berkembang sendiri menulis prosedur yang tidak aman ke dalam memori, prosedur tersebut dapat diambil dan dieksekusi di sesi berikutnya. Setiap konfigurasi yang dikembangkan dan diuji menghasilkan artefak yang tidak aman, dan tiga tugas berbahaya meningkatkan keberhasilan serangan carryover lebih dari dua kali lipat.arxiv.orgKeamanan
Makalah SEAG Mengusulkan Pengaliasan Entitas Sensitif Sebelum Kueri RAG Menjangkau LLM Eksternal
Pracetak yang diposting ke arXiv menjelaskan kerangka kerja yang menukar nama sensitif dalam kueri dan mengambil dokumen untuk alias sebelum mengirimkannya ke model pihak ketiga. Penulis melaporkan akurasi lebih dari 80% pada metrik pengguna ujung ke ujung, dan tingkat penyembunyian penuh antara 74,91% dan 77,83% di tiga model kecil.arxiv.org
Satu pengarahan berguna setiap minggu
Ikuti AI tanpa harus hidup di feed.
Dapatkan berita AI terverifikasi minggu ini, data asli, alat berguna, pilihan pembelajaran, dan pekerjaan AI segar.
Jangkau orang-orang yang sedang mempelajari AI
Menyewa profesional AI atau meluncurkan produk AI yang berguna? Tunjukkan kepada orang-orang yang datang ke sini untuk belajar dan bertindak.
Posting pekerjaan AIKirim alat AI