Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Pengurusan Sejarah Pemadatan Konteks dan Perbualan

Menguji pemotongan berbanding ringkasan bergolek, cara pemadatan ejen dan pembersihan hasil alatan berfungsi, dan sebab ambang berasaskan token penting.

Laluan panduan yang berkaitanPemadatan Konteks Dan Sejarah Perbualan
soalan 1 daripada 8

Mengapakah sesi sembang yang panjang menjadi semakin mahal?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Mengapakah sesi sembang yang panjang menjadi semakin mahal?
    • Model menyimpan salinan sembang pada setiap pelayan
    • Pengebilan pembekal mengikut bilangan hari sembang kekal dibuka
    • Kebanyakan API sembang tidak mempunyai kewarganegaraan, jadi setiap permintaan menghantar semula perbualan penuh setakat ini
    • Model melatih semula dirinya pada setiap mesej baharu
  2. Apakah kelemahan utama pemangkasan tingkap gelongsor?
    • Ia melupakan fakta awal, seperti kekangan yang dinyatakan oleh pengguna pada mulanya
    • Ia adalah strategi yang paling mahal
    • Ia memerlukan model kedua untuk dijalankan
    • Ia menulis semula gesaan sistem
  3. Risiko yang manakah khusus untuk ringkasan bergulir?
    • Ringkasan tidak boleh dihasilkan oleh model bahasa
    • Ia meningkatkan bilangan token setiap permintaan
    • Ia hanya berfungsi dengan input imej
    • Ringkasan kehilangan butiran, dan ralat boleh dikompaun apabila ringkasan diringkaskan semula
  4. Apakah yang biasanya dihasilkan oleh pemadatan dalam alat ejen?
    • Sejarah kosong tanpa maklumat yang dibawa
    • Penyerahan matlamat berstruktur, kemajuan, keputusan dan masalah terbuka yang membenihkan konteks baharu
    • Salinan penuh setiap fail yang telah dibuka oleh ejen
    • Model yang baru diperhalusi
  5. Mengapakah pembersihan hasil alat lama begitu berkesan dalam sesi ejen?
    • Output besar daripada carian, pembacaan fail dan arahan selalunya merupakan pengguna token terbesar dan jarang diperlukan lagi
    • Keputusan alat sentiasa tidak betul
    • API melarang hasil alat selepas pusingan pertama
    • Ia menjadikan tokenizer berjalan lebih pantas
  6. Mengapakah ambang harus berdasarkan kiraan token dan bukannya kiraan mesej?
    • Mesej tidak boleh dikira secara pemrograman
    • Token adalah percuma, manakala mesej dibilkan
    • Satu hasil alat boleh melebihi banyak giliran sembang
    • Bil pembekal hanya mengikut kiraan mesej
  7. Apabila mengosongkan hasil alat, mengapa menggantikan kandungannya dan bukannya memadamkan mesej?
    • Untuk memanjangkan sejarah
    • Banyak API menolak sejarah di mana panggilan alat tidak mempunyai hasil yang sepadan
    • Pemegang tempat menjadikan model lebih kreatif
    • Menggantikan kandungan menyulitkannya
  8. Menurut panduan, dari manakah kesinambungan dalam sesi yang panjang sebenarnya datang?
    • Memori kekal model terhadap semua sembang lalu
    • Cache dalaman GPU
    • Pelayar web pengguna
    • Perkara yang dipilih oleh aplikasi untuk menghantar semula atau mendapatkan semula