Microsoft Phi
Microsoft Phi adalah rangkaian model bahasa kecil yang membuktikan kurasi data yang cermat dapat menyaingi skala brute force.
Ikhtisar
By training on textbook-quality and synthetic data, tiny Phi models punch far above their parameter count.
Menyelam Lebih Dalam
Phi adalah Microsoft Jajaran model bahasa kecil (SLM) Research yang diluncurkan pada tahun 2023 dengan Phi-1, model pengkodean 1,3 miliar parameter. Tesis panduannya, yang dituangkan dalam judul makalah 'Hanya Buku Teks yang Anda Butuhkan', adalah bahwa kualitas data lebih penting daripada ukuran mentahnya. Daripada menghapus seluruh web, Microsoft melatih Phi tentang konten yang dikurasi seperti buku teks ditambah latihan sintetis yang dihasilkan oleh GPT-4. Rilisan berturut-turut meningkatkan skala ide ini: Phi-2 (2,7B), Phi-3 (3,8B 'mini' hingga 14B 'medium'), dan Phi-3.5 dengan varian visi dan campuran pakar. Terlepas dari ukurannya, model Phi menyamai atau mengalahkan pesaing yang jauh lebih besar dalam hal penalaran dan tolok ukur matematika, dan bekerja secara efisien di laptop, ponsel, dan perangkat edge. Model-model tersebut dirilis secara terbuka di bawah lisensi yang permisif.
Wawasan Teknis
Keunggulan Phi berasal dari pembuatan dan pemfilteran data sintetis. Microsoft menggunakan model yang lebih besar seperti GPT-4 untuk menulis contoh yang bersih dan terstruktur secara pedagogis dan untuk menilai teks web untuk 'nilai pendidikan', dan hanya menyimpan dokumen yang memiliki sinyal tinggi. Campuran pelatihan yang padat dan rendah noise ini memungkinkan model 3,8B mempelajari pola penalaran yang biasanya memerlukan puluhan miliar parameter. Phi-3-mini menggunakan jendela konteks 4K atau 128K dan arsitektur decoder transformator yang mirip dengan Llama, sehingga mudah diterapkan dengan peralatan yang ada.
Dampak Strategis
Vendor strategy
Peta jalan vendor memengaruhi fitur apa yang dapat dibangun tim Anda selanjutnya.
Cost and budget
Persyaratan komersial dan opsi penerapan memengaruhi biaya dan risiko jangka panjang.
Risk and safety
Insentif perusahaan membentuk standar produk, postur keselamatan, dan keterbukaan.
Masa Depan Microsoft Phi
Microsoft mendorong Phi menuju penggunaan pada perangkat dan agen di mana latensi, privasi, dan biaya mengesampingkan raksasa cloud. Harapkan integrasi Windows dan Copilot+ PC yang lebih ketat, varian multimodal (visi dan audio) yang lebih kuat, dan desain campuran ahli yang berkelanjutan yang hanya mengaktifkan sebagian kecil parameter per token. Tren yang lebih luas yang divalidasi oleh Phi, yaitu bahwa data cerdas mengalahkan skala besar, mengubah cara seluruh industri melatih model, terutama untuk ponsel, IoT, dan skenario offline di mana model yang kecil dan mumpuni akan unggul.
Implementasi Dunia Nyata
Menjalankan asisten pengkodean offline langsung di laptop tanpa mengirimkan kode ke cloud
Mengaktifkan fitur pada perangkat di Copilot+ PC dan aplikasi seluler yang mengutamakan latensi rendah
Menanamkan model penalaran ke dalam IoT atau perangkat keras edge dengan memori terbatas dan tanpa internet
Para peneliti menyempurnakan model Phi kecil yang berlisensi terbuka untuk chatbot khusus domain dengan harga murah
Risiko & Pagar Pembatas
Pengumuman peluncuran mungkin melampaui stabilitas alur kerja produksi sebenarnya.
Penetapan harga API atau perubahan kebijakan dapat mematahkan asumsi dalam sekejap.
Ketergantungan pada vendor tunggal meningkatkan biaya lock-in dan migrasi.
Peta Jalan Implementasi
Evaluasi penyedia menggunakan tugas dan kumpulan data Anda sendiri.
Tinjau persyaratan privasi, keamanan, dan hukum sebelum integrasi.
Pertahankan rencana cadangan di seluruh model atau vendor.
Pantau catatan rilis agar perubahan peta jalan tidak mengejutkan tim.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Microsoft Phi quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Microsoft AI
Pertanyaan yang sering diajukan
What is Microsoft Phi?
Microsoft Phi adalah rangkaian model bahasa kecil yang membuktikan kurasi data yang cermat dapat menyaingi skala brute force. Dengan melatih data sintetis dan berkualitas buku teks, model Phi kecil mampu melampaui jumlah parameternya.
Apa tesis inti di balik model Phi, yang dituangkan dalam judul makalah terkenal?
Makalah Phi-1 berjudul 'Buku Teks Adalah Semua yang Anda Butuhkan', dengan alasan bahwa data berkualitas tinggi yang dikurasi lebih penting daripada skala semata.
Kira-kira berapa banyak parameter yang dimiliki Phi-3-mini?
Phi-3-mini memiliki sekitar 3,8 miliar parameter, membuatnya cukup kecil untuk dijalankan di ponsel namun tetap memiliki performa yang kuat.
Bagaimana Microsoft menghasilkan banyak data pelatihan Phi?
Microsoft menggunakan model canggih seperti GPT-4 untuk menghasilkan latihan sintetis yang bersih dan memfilter teks web untuk nilai pendidikan.
Kategori model apa yang dimaksud dengan 'SLM', seperti yang digunakan untuk Phi?
Phi digambarkan sebagai Model Bahasa Kecil (SLM), menekankan kemampuan pada ukuran yang kompak.
Apa keuntungan praktis utama dari ukuran Phi yang kecil?
Karena model Phi kompak, model ini dapat dijalankan secara lokal pada perangkat keras konsumen, memungkinkan privasi, latensi rendah, dan penggunaan offline.