Apa yang berlaku
IT Brew melaporkan bahawa syarikat termasuk SmartBear, Tanium dan Smartsheet sedang bereksperimen dengan model AI berat terbuka apabila kos penggunaan model proprietari meningkat. Eksekutif memetik potensi penjimatan, kependaman yang lebih rendah, pengehosan tempatan dan pengurangan pergantungan pada penyedia utama, sambil menekankan bahawa kebanyakan eksperimen belum lagi menjadi penggunaan berskala besar.
IT Brew melaporkan bahawa Fitz Nowlan, naib presiden AI dan seni bina SmartBear, sedang menjalankan penilaian menyeluruh terhadap model berat terbuka selepas melihat model China mengecilkan jurang prestasi dengan tawaran daripada makmal AI utama. Nowlan memberitahu outlet itu bahawa SmartBear sedang mempertimbangkan penghalaan beberapa gesaan ke sistem berwajaran terbuka jika analisis kos-faedah adalah menguntungkan. Syarikat sedang menguji sama ada model ini boleh menyokong kes penggunaan teknikal yang berharga sambil mengurangkan kos operasi dan kependaman. Secara keseluruhannya, akaun ini menerangkan penilaian pada tahap kes penggunaan khusus dan pilihan pengendalian. Ia tidak menggambarkan penghijrahan yang telah selesai, dan keputusan itu tetap terikat pada penilaian prestasi, kos dan kesesuaian syarikat itu sendiri.
Menurut IT Brew, Tanium juga sedang menilai model berat terbuka. CTO Tanium Harman Kaur berkata syarikat mesti menentukan model mana yang hendak digunakan, cara mengehosnya dan aplikasi mana yang perlu diuji terlebih dahulu. Laporan itu mengatakan Tanium telah mendapati bahawa beberapa tugas berfungsi setanding dengan model tertutup, tetapi masih menghadapi persoalan tentang tadbir urus dan sama ada model Cina perlu diberikan kepada pelanggan. Kaur sedang menilai model Inkling daripada Thinking Machines Lab. Penilaian itu menyebabkan beberapa keputusan terbuka sekaligus. Contoh laporan menghubungkan pilihan model dengan pengehosan, pemilihan aplikasi dan penggunaan pelanggan, jadi hasil yang menggalakkan dalam satu tugasan tidak akan menyelesaikan persoalan penggunaan yang lebih luas dengan sendirinya.
IT Brew juga melaporkan bahawa Smartsheet kini bergantung terutamanya pada model Anthropic dan Amazon sambil meneroka alternatif berat terbuka. Ketua Pegawai Eksekutif Rajeev Singh berkata syarikat itu akhirnya boleh mengarahkan tugas yang lebih mudah kepada model yang lebih murah, tetapi mengutamakan kelajuan dan masa untuk memasarkan buat masa ini. Artikel itu memetik Ketua Jurutera AI PwC Global Scott Likens sebagai berkata model berat terbuka adalah topik pelanggan utama, walaupun dia tidak melihat penggunaan pada skala. Akaun ini dilaporkan oleh IT Brew dan tidak disahkan secara bebas dalam sumber yang dibekalkan. Oleh itu, contoh menunjukkan minat tanpa mewujudkan corak penerimaan yang sama. Kepentingan mereka terletak pada julat soalan yang sedang dipertimbangkan, manakala pelaporan yang dibekalkan terus membezakan percubaan daripada penggunaan pengeluaran yang disahkan.
Mengapa ia penting
Laporan itu menerangkan peralihan praktikal daripada bertanya apa yang boleh dilakukan oleh AI kepada bertanya berapa kos untuk beroperasi pada skala. Model berwajaran terbuka boleh memberi syarikat lebih kawalan ke atas pengehosan dan pemilihan model, tetapi mereka juga mewujudkan tanggungjawab tambahan di sekitar penilaian, penyesuaian, keselamatan, tadbir urus dan kemungkinan berat sebelah.
Laporan itu merangka model berwajaran terbuka sebagai soalan kos dan kawalan dan bukannya pertandingan teknikal semata-mata. Syarikat yang telah melangkaui prototaip awal kini mungkin mempunyai trafik pengguna yang mencukupi untuk caj inferens yang mempengaruhi ekonomi unit. IT Brew memetik Iz Beltagy, pengarah penyelidikan AI di Allen Institute for AI, mengatakan bahawa perniagaan dengan trafik yang ketara dan data interaksi pengguna mempunyai alasan yang lebih kukuh untuk mempertimbangkan model tempatan atau terurus sendiri.
Sistem berat terbuka mungkin menawarkan fleksibiliti yang tidak ditawarkan oleh antara muka pengaturcaraan aplikasi proprietari. Perniagaan berpotensi menjadi hos mereka dalam awan atau pada infrastruktur mereka sendiri, memilih model yang berbeza untuk tugas yang berbeza dan mengelakkan bergantung sepenuhnya pada satu pembekal. Artikel itu mengatakan eksekutif amat berminat dengan kependaman yang lebih rendah, kecekapan kos dan perlindungan terhadap kemungkinan pembekal model boleh membangunkan produk perisian yang bersaing. Faedah tersebut kekal prospektif untuk syarikat yang diterangkan.
Pertimbangannya ialah memuat turun berat model tidak menghapuskan kos atau risiko penggunaan. IT Brew melaporkan bahawa organisasi mungkin perlu membayar untuk infrastruktur, menjalankan penilaian yang teliti, memperhalusi atau menyesuaikan model dan menyiasat asal model untuk mengurangkan risiko keselamatan. Artikel itu juga menimbulkan kebimbangan tentang berat sebelah yang dikaitkan dengan pencipta model dan sama ada prestasi teknikal pada tugasan seperti panggilan alat mencukupi untuk menangani persoalan tadbir urus yang lebih luas. Sumber tidak memberikan perbandingan kos bebas, audit keselamatan, metodologi penanda aras atau data kebolehpercayaan pengeluaran.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
Which component of an AI application is the machine-learning model itself?
Apa yang perlu ditonton seterusnya
Penunjuk utama ialah sama ada eksperimen bergerak ke dalam pengeluaran, yang memberikan tugasan syarikat kepada model berat terbuka, dan sama ada kos inferens yang lebih rendah mengimbangi perbelanjaan persediaan dan penyelenggaraan. Syarikat juga perlu membuat keputusan sama ada model yang dibangunkan oleh firma China boleh diterima untuk kegunaan pelanggan atau terkawal.
Persoalan segera ialah sama ada syarikat yang dipetik oleh IT Brew bergerak melangkaui penilaian. Pelan penghalaan SmartBear, model Tanium dan semakan tadbir urus, dan kemungkinan penggunaan sistem berwajaran terbuka Smartsheet untuk tugas yang lebih mudah semuanya digambarkan sebagai penerokaan. Sumber tidak memberikan tarikh penggunaan, volum pakai, penjimatan yang diukur, kadar ralat atau bukti bahawa mana-mana percubaan telah mencapai pengeluaran yang dihadapi pelanggan.
Pemilihan model akan menjadi satu lagi isyarat penting. Artikel itu mengenal pasti sistem China seperti Z.ai GLM-5 dan DeepSeek v4 sebagai contoh model yang menarik minat, sambil turut menyebut tawaran wajaran terbuka daripada syarikat A.S.. Syarikat perlu menilai bukan sahaja prestasi penanda aras tetapi juga pelesenan, amalan kemas kini, asal data latihan, pendedahan keselamatan, penapisan atau kebimbangan berat sebelah dan pengendalian maklumat sensitif. IT Brew melaporkan kebimbangan ini tetapi tidak mengesahkannya secara bebas.
Akhir sekali, perhatikan sama ada ekonomi berubah apabila penggunaan berkembang. Laporan itu mencadangkan bahawa syarikat mungkin menyimpan model sempadan mahal untuk kerja yang kompleks sambil menghantar permintaan rutin kepada sistem yang lebih murah, mewujudkan strategi berbilang model. Pendekatan itu boleh mengurangkan kos purata, tetapi ia mungkin menambah penghalaan, pemantauan dan overhed kawalan kualiti. Sumber yang dibekalkan tidak menetapkan bahawa model berwajaran terbuka akan mengurangkan jumlah kos secara material, menggantikan penyedia proprietari atau menjadi standard merentas AI perusahaan.