Apa yang terjadi
Startup aplikasi AI semakin banyak yang mengadopsi model open-weight untuk memitigasi kenaikan biaya API dari OpenAI dan Anthropic. Harvey, unicorn AI legal, mengalami penurunan margin kotor menjadi -50% di bulan Juni karena tingginya penggunaan GPT-4 milik OpenAI. Sebagai tanggapan, Harvey merilis model milik sendiri yang didukung oleh Kimi K3 dari Moonshot AI, yang mengembalikan margin positif. Perusahaan lain, termasuk Abridge, Decagon, dan Ramp, juga mengembangkan atau menyesuaikan model mereka sendiri, dan beberapa di antaranya memigrasikan hingga 80% lalu lintas ke sistem milik sendiri. Pergeseran ini didorong oleh strategi penetapan harga yang agresif dari penyedia model dan peningkatan kinerja alternatif sumber terbuka.
Harvey, startup AI legal senilai $15,6 miliar, mengalami penurunan margin kotor yang signifikan dari 50% menjadi -50% pada bulan Juni karena tingginya biaya API dari GPT-4 milik OpenAI. Untuk mengatasi hal ini, Harvey merilis model milik sendiri pada bulan Agustus, didukung oleh Kimi K3 dari Moonshot AI, yang menawarkan kinerja mendekati produk terbaik Anthropic dengan biaya yang lebih murah, sehingga memulihkan margin positif.
Tren ini menyebar ke berbagai industri. Abridge sedang membangun model dasar untuk skenario klinis menggunakan model sumber terbuka NVIDIA, sementara Decagon memproses 80% permintaan kuerinya dengan model miliknya sendiri. Di bidang fintech, Ramp dan Rogo sedang menjajaki pelatihan mandiri, dan dalam alat pemrograman, Cursor dan Cognition telah merilis model yang disesuaikan.
OpenAI dan Anthropic telah beralih ke membebankan biaya ekstra kepada pengguna perusahaan untuk penggunaan model, sehingga menghukum pola 'pemaksimalan token' bervolume tinggi. Selain itu, kedua perusahaan merekrut talenta di jalur inti startup dan meluncurkan plugin khusus industri, sehingga menciptakan persaingan langsung dengan pelanggan mereka. Risiko penangguhan akses, seperti yang terlihat pada Cursor setelah diakuisisi oleh SpaceX, semakin memberikan insentif bagi startup untuk mencari kemandirian model.
Meskipun ada perubahan, sebagian besar startup tidak berharap untuk sepenuhnya meninggalkan OpenAI dan Anthropic. Harvey masih mengandalkan Anthropic Opus Claude untuk tugas-tugas kompleks, yang menunjukkan strategi penggunaan campuran. Tantangan masih ada, termasuk tingginya biaya talenta untuk menyempurnakan insinyur, kebutuhan akan data eksklusif, dan biaya infrastruktur yang signifikan untuk mengelola model open-weight.
Mengapa itu penting
Tren ini menandakan perubahan struktural dalam dinamika biaya industri AI, karena perusahaan lapisan aplikasi berupaya mengurangi ketergantungan pada API milik perusahaan yang mahal. Untuk OpenAI dan Anthropic, yang sedang mempersiapkan IPO, keluarnya pelanggan perusahaan ke model open-weight dapat mengikis aliran pendapatan utama mereka. Langkah ini juga menyoroti semakin besarnya kelayakan model sumber terbuka sebagai alternatif yang hemat biaya, berpotensi membentuk kembali lanskap kompetitif dan memaksa penyedia model untuk menyesuaikan harga dan strategi bisnis mereka untuk mempertahankan klien perusahaan.
Penerapan model open-weight oleh startup AI besar mewakili langkah penghematan biaya yang signifikan yang dapat mengubah dinamika pendapatan untuk OpenAI dan Anthropic, terutama saat mereka bersiap untuk IPO. Pergeseran ini mungkin memaksa penyedia model untuk mempertimbangkan kembali strategi penetapan harga dan penawaran perusahaan mereka untuk mempertahankan loyalitas pelanggan.
Peningkatan kinerja model sumber terbuka, seperti Kimi K3 dari Moonshot AI, menjadikannya alternatif yang layak untuk API berpemilik untuk banyak kasus penggunaan. Perkembangan ini dapat mempercepat demokratisasi kemampuan AI dan mengurangi hambatan masuk bagi aplikasi AI baru, sehingga mendorong inovasi di sektor-sektor seperti hukum, layanan kesehatan, dan keuangan.
Tren ini juga menyoroti semakin pentingnya data dan infrastruktur dalam pengembangan AI. Startup harus berinvestasi pada data eksklusif dan sumber daya komputasi untuk melatih model yang efektif, yang dapat menciptakan peluang baru bagi penyedia data dan perusahaan infrastruktur cloud sekaligus memberikan tantangan bagi perusahaan kecil dengan sumber daya terbatas.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
In AI, what are a model's "parameters"?
Apa yang harus ditonton selanjutnya
Pantau kinerja keuangan OpenAI dan Anthropic saat mereka mendekati IPO, khususnya setiap perubahan dalam harga API atau strategi retensi perusahaan. Lacak tingkat adopsi model open-weight di antara startup aplikasi AI besar dan pengembangan model milik sendiri di sektor-sektor seperti layanan kesehatan, keuangan, dan layanan hukum. Selain itu, amati dampak biaya sumber daya manusia dan infrastruktur terhadap kelayakan model pelatihan mandiri untuk startup kecil.
Perhatikan setiap perubahan pada harga API OpenAI dan Anthropic atau kontrak perusahaan sebagai respons terhadap meningkatnya adopsi model bobot terbuka. Kemampuan mereka untuk mempertahankan pelanggan perusahaan akan sangat penting untuk penilaian IPO dan keberlanjutan jangka panjang mereka.
Pantau kinerja dan adopsi model baru milik sendiri dari perusahaan rintisan seperti Harvey, Abridge, dan Decagon. Keberhasilan dalam bidang ini dapat memvalidasi pendekatan sumber terbuka dan mendorong migrasi lebih jauh dari API berpemilik.
Amati dampak biaya bakat dan infrastruktur terhadap kelayakan model pelatihan mandiri. Jika hambatan ini tetap tinggi, perusahaan rintisan yang lebih kecil mungkin akan terus bergantung pada gabungan model sumber terbuka dan sumber tertutup, sementara perusahaan besar akan berkomitmen penuh pada solusi milik mereka sendiri.