Apa yang berlaku
Pemula aplikasi AI semakin menggunakan model berwajaran terbuka untuk mengurangkan kos API yang semakin meningkat daripada OpenAI dan Anthropic. Harvey, unicorn AI yang sah, menyaksikan margin kasarnya menurun kepada -50% pada bulan Jun disebabkan penggunaan tinggi OpenAI GPT-4. Sebagai tindak balas, Harvey mengeluarkan model milik sendiri yang disokong oleh Kimi K3 Moonshot AI, yang memulihkan margin positif. Syarikat lain, termasuk Abridge, Decagon, dan Ramp, juga sedang membangunkan atau menyesuaikan model mereka sendiri, dengan sesetengahnya memindahkan sehingga 80% trafik ke sistem milik sendiri. Peralihan ini didorong oleh strategi penetapan harga yang agresif daripada pembekal model dan peningkatan prestasi alternatif sumber terbuka.
Harvey, syarikat permulaan AI yang sah bernilai $15.6 bilion, mengalami penurunan ketara dalam margin kasar daripada 50% kepada -50% pada bulan Jun disebabkan kos API yang tinggi daripada OpenAI GPT-4. Untuk menangani perkara ini, Harvey mengeluarkan model milik sendiri pada bulan Ogos, disokong oleh Kimi K3 Moonshot AI, yang menawarkan prestasi hampir dengan produk terbaik Anthropic pada sebahagian kecil daripada kos, memulihkan margin positif.
Trend ini merebak merentasi pelbagai industri. Abridge sedang membina model asas untuk senario klinikal menggunakan model sumber terbuka NVIDIA, manakala Decagon memproses 80% permintaan pertanyaannya dengan model milik sendiri. Dalam fintech, Ramp dan Rogo sedang meneroka latihan kendiri, dan dalam alatan pengaturcaraan, Cursor dan Cognition telah mengeluarkan model tersuai.
OpenAI dan Anthropic telah beralih kepada mengecaj pengguna perusahaan tambahan untuk penggunaan model, menghukum corak 'memaksimumkan token' volum tinggi. Selain itu, kedua-dua syarikat merekrut bakat dalam landasan teras permulaan dan melancarkan pemalam khusus industri, mewujudkan persaingan langsung dengan pelanggan mereka. Risiko penggantungan akses, seperti yang dilihat dengan Cursor selepas pemerolehannya oleh SpaceX, terus memberi insentif kepada syarikat pemula untuk mencari kebebasan model.
Walaupun terdapat peralihan, kebanyakan syarikat pemula tidak menjangkakan untuk meninggalkan OpenAI dan Anthropic sepenuhnya. Harvey masih bergantung pada Anthropic Opus Claude untuk tugas yang rumit, menunjukkan strategi penggunaan bercampur. Cabaran kekal, termasuk kos bakat yang tinggi untuk jurutera penalaan halus, keperluan untuk data proprietari dan perbelanjaan infrastruktur yang ketara untuk mengurus model berat terbuka.
Mengapa ia penting
Aliran ini menandakan perubahan struktur dalam dinamik kos industri AI, kerana syarikat lapisan aplikasi berusaha untuk mengurangkan pergantungan pada API proprietari yang mahal. Bagi OpenAI dan Anthropic, yang sedang bersedia untuk IPO, aliran keluar pelanggan perusahaan kepada model berwajaran terbuka boleh menghakis aliran hasil utama mereka. Langkah itu juga menyerlahkan daya maju model sumber terbuka yang semakin meningkat sebagai alternatif kos efektif, berpotensi membentuk semula landskap kompetitif dan memaksa penyedia model melaraskan harga dan strategi perniagaan mereka untuk mengekalkan pelanggan perusahaan.
Penggunaan model berwajaran terbuka oleh pemula AI utama mewakili langkah penjimatan kos yang ketara yang boleh mengubah dinamik hasil untuk OpenAI dan Anthropic, terutamanya semasa mereka bersedia untuk IPO. Peralihan ini mungkin memaksa penyedia model untuk mempertimbangkan semula strategi harga dan penawaran perusahaan mereka untuk mengekalkan kesetiaan pelanggan.
Prestasi model sumber terbuka yang bertambah baik, seperti Kimi K3 Moonshot AI, menjadikannya alternatif yang berdaya maju kepada API proprietari untuk banyak kes penggunaan. Perkembangan ini boleh mempercepatkan pendemokrasian keupayaan AI dan mengurangkan halangan kepada kemasukan untuk aplikasi AI baharu, memupuk inovasi dalam sektor seperti perundangan, penjagaan kesihatan dan kewangan.
Aliran ini juga menyerlahkan kepentingan data dan infrastruktur yang semakin meningkat dalam pembangunan AI. Pemula mesti melabur dalam data proprietari dan sumber pengkomputeran untuk melatih model yang berkesan, yang boleh mewujudkan peluang baharu untuk penyedia data dan syarikat infrastruktur awan sambil menimbulkan cabaran untuk firma yang lebih kecil dengan sumber terhad.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
In AI, what are a model's "parameters"?
Apa yang perlu ditonton seterusnya
Pantau prestasi kewangan OpenAI dan Anthropic semasa mereka mendekati IPO mereka, terutamanya sebarang perubahan dalam penetapan harga API atau strategi pengekalan perusahaan. Jejaki kadar penggunaan model berwajaran terbuka dalam kalangan pemula aplikasi AI utama dan pembangunan model baharu milik sendiri dalam sektor seperti penjagaan kesihatan, kewangan dan perkhidmatan undang-undang. Juga, perhatikan kesan bakat dan kos infrastruktur terhadap kebolehlaksanaan model latihan kendiri untuk syarikat permulaan yang lebih kecil.
Perhatikan sebarang perubahan dalam penetapan harga API OpenAI dan Anthropic atau kontrak perusahaan sebagai tindak balas kepada penggunaan model berat terbuka yang semakin meningkat. Keupayaan mereka untuk mengekalkan pelanggan perusahaan akan menjadi penting untuk penilaian IPO mereka dan kemampanan jangka panjang.
Pantau prestasi dan penggunaan model milik sendiri baharu daripada syarikat pemula seperti Harvey, Abridge dan Decagon. Kejayaan dalam bidang ini boleh mengesahkan pendekatan sumber terbuka dan menggalakkan penghijrahan selanjutnya daripada API proprietari.
Perhatikan kesan bakat dan kos infrastruktur terhadap kebolehlaksanaan model latihan kendiri. Jika halangan ini kekal tinggi, syarikat permulaan yang lebih kecil mungkin terus bergantung pada gabungan model sumber terbuka dan tertutup, manakala firma yang lebih besar mungkin komited sepenuhnya kepada penyelesaian milik sendiri.