Microsoft Phi
Microsoft Phi ialah keluarga model bahasa kecil yang membuktikan penyusunan data yang teliti boleh menandingi skala kekerasan.
Gambaran keseluruhan
By training on textbook-quality and synthetic data, tiny Phi models punch far above their parameter count.
Menyelam dalam
Phi ialah Microsoft Barisan model bahasa kecil (SLM) Research yang dilancarkan pada 2023 dengan Phi-1, model pengekodan 1.3 bilion parameter. Tesis panduan, yang ditangkap dalam tajuk kertas 'Buku Teks Adalah Semua yang Anda Perlukan,' ialah kualiti data lebih penting daripada saiz mentah. Daripada mengikis keseluruhan web, Microsoft melatih Phi tentang kandungan susun atur seperti buku teks serta latihan sintetik yang dihasilkan oleh GPT-4. Keluaran berturut-turut menskalakan idea ini: Phi-2 (2.7B), Phi-3 (3.8B 'mini' sehingga 14B 'sederhana'), dan Phi-3.5 dengan varian penglihatan dan campuran pakar. Walaupun saiznya, model Phi sepadan atau mengalahkan pesaing yang jauh lebih besar dalam penaakulan dan penanda aras matematik, dan ia berjalan dengan cekap pada komputer riba, telefon dan peranti tepi. Model tersebut dikeluarkan secara terbuka di bawah lesen permisif.
Wawasan Teknikal
Kelebihan Phi berasal daripada penjanaan dan penapisan data sintetik. Microsoft menggunakan model yang lebih besar seperti GPT-4 untuk menulis contoh yang bersih, berstruktur pedagogi dan untuk menjaringkan teks web untuk 'nilai pendidikan,' hanya menyimpan dokumen isyarat tinggi. Campuran latihan padat dan hingar rendah ini membolehkan model 3.8B mempelajari corak penaakulan yang biasanya memerlukan berpuluh bilion parameter. Phi-3-mini menggunakan tetingkap konteks 4K atau 128K dan seni bina penyahkod pengubah serupa dengan Llama, menjadikannya mudah untuk digunakan dengan alatan sedia ada.
Kesan Strategik
Strategi vendor
Peta jalan vendor mempengaruhi ciri yang boleh dibina oleh pasukan anda seterusnya.
Kos dan bajet
Terma komersial dan pilihan penggunaan mempengaruhi kos dan risiko jangka panjang.
Risiko dan keselamatan
Insentif syarikat membentuk keingkaran produk, postur keselamatan dan keterbukaan.
Masa Depan Microsoft Phi
Microsoft sedang mendorong Phi ke arah penggunaan pada peranti dan agenik di mana kependaman, privasi dan kos mengetepikan gergasi awan. Jangkakan penyepaduan Windows dan Copilot+ PC yang lebih ketat, varian multimodal (penglihatan dan audio) yang lebih kukuh dan reka bentuk campuran pakar berterusan yang mengaktifkan hanya sebahagian kecil daripada parameter setiap token. Aliran yang lebih luas Phi mengesahkan, bahawa data pintar mengatasi skala yang besar, sedang membentuk semula cara seluruh industri melatih model, terutamanya untuk telefon, IoT dan senario luar talian di mana model kecil dan berkebolehan menang.
Pelaksanaan Dunia Sebenar
Menjalankan pembantu pengekodan luar talian terus pada komputer riba tanpa menghantar kod ke awan
Menguasakan ciri pada peranti dalam Copilot+ PC dan apl mudah alih yang mempunyai kependaman rendah
Membenamkan model penaakulan ke dalam IoT atau perkakasan tepi dengan memori terhad dan tiada internet
Penyelidik memperhalusi model Phi kecil berlesen secara terbuka untuk chatbot khusus domain dengan murah
Risiko & Pengawal
Pengumuman pelancaran mungkin melebihi kestabilan dalam aliran kerja pengeluaran sebenar.
Harga API atau anjakan dasar boleh memecahkan andaian semalaman.
Kebergantungan vendor tunggal meningkatkan kos kunci masuk dan penghijrahan.
Hala Tuju Pelaksanaan
Nilai penyedia menggunakan tugasan dan set data anda sendiri.
Semak privasi, keselamatan dan syarat undang-undang sebelum penyepaduan.
Kekalkan pelan sandaran merentas model atau vendor.
Pantau nota keluaran supaya perubahan peta jalan tidak mengejutkan pasukan.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Microsoft Phi quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Microsoft AI
Soalan lazim
What is Microsoft Phi?
Microsoft Phi ialah keluarga model bahasa kecil yang membuktikan penyusunan data yang teliti boleh menandingi skala kekerasan. Dengan latihan tentang kualiti buku teks dan data sintetik, model Phi kecil mencapai jumlah parameternya jauh melebihi bilangan parameternya.
Apakah tesis teras di sebalik model Phi, yang ditangkap dalam tajuk kertas terkenal?
Kertas Phi-1 bertajuk 'Buku Teks Adalah Semua yang Anda Perlukan,' dengan alasan bahawa data yang dipilih susun berkualiti tinggi lebih penting daripada skala semata-mata.
Kira-kira berapa banyak parameter yang ada pada Phi-3-mini?
Phi-3-mini mempunyai kira-kira 3.8 bilion parameter, menjadikannya cukup kecil untuk dijalankan pada telefon semasa masih berprestasi kuat.
Bagaimanakah Microsoft menjana banyak data latihan Phi?
Microsoft menggunakan model berkuasa seperti GPT-4 untuk menjana latihan sintetik yang bersih dan menapis teks web untuk nilai pendidikan.
Apakah kategori model yang dirujuk oleh 'SLM', seperti yang digunakan untuk Phi?
Phi digambarkan sebagai Model Bahasa Kecil (SLM), menekankan keupayaan pada saiz yang padat.
Apakah kelebihan praktikal utama dari saiz kecil Phi?
Oleh kerana model Phi padat, ia boleh dijalankan secara setempat pada perkakasan pengguna, membolehkan privasi, kependaman rendah dan penggunaan luar talian.