Apa itu Kesimpulan?

Antarmuka API yang diterapkan yang menerima permintaan model dan mengembalikan prediksi dalam produksi.

Alur kerja tempat manusia meninjau, memandu, atau mengesampingkan keluaran AI.

Pendekatan pelatihan dan pembentukan perilaku di mana keluaran model dipandu oleh serangkaian prinsip tertulis yang tetap.

Model yang lebih kecil dilatih untuk meniru perilaku model yang lebih besar sambil menggunakan lebih sedikit komputasi pada inferensi.

Penetapan harga yang skala biayanya disesuaikan dengan panggilan API, token, waktu inferensi, atau komputasi yang digunakan.

Metode percepatan inferensi di mana rancangan model kecil mengusulkan token yang diverifikasi secara paralel oleh model yang lebih besar.