Szacowanie kosztów API LLM i quiz dotyczący budżetów tokenów

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. W języku angielskim, mniej więcej ile tekstu reprezentuje jeden token średnio?
   • About one full sentence
   • About four characters, or three quarters of a word
   • Exactly one word
   • About one paragraph
2. Jaki typ tokenów jest zwykle droższy w API LLM?
   • Input tokens
   • System prompt tokens
   • Cached tokens
   • Output tokens
3. Przy hipotetycznej cenie 3 USD za milion tokenów wejściowych, ile kosztują 2 000 tokenów wejściowych?
   • $0.006
   • $0.06
   • $0.0006
   • $6.00
4. Dlaczego rozmowy czatu stają się droższe, gdy stają się dłuższe?
   • Providers charge a fee for each turn in a conversation
   • Output tokens get more expensive later in a conversation
   • The full conversation history is resent as input on every turn
   • Models slow down and bill by the second
5. Jak zwykle rozliczane są wewnętrzne tokeny myślowe modeli rozumowania?
   • They are free because users never see them
   • They are billed as output tokens even when not shown
   • They are billed as input tokens
   • They are billed at a flat daily rate
6. Using the guide's worked example of $0.012 per request and 10,000 requests a day, what is the cost for a 30-day month before overhead?
   • $360
   • $1,200
   • $36,000
   • $3,600
7. What is the effect of capping conversation history or summarizing older turns?
   • It flattens the growth of input tokens as conversations get longer
   • It raises the output price per token
   • It removes the need to count tokens
   • It turns output tokens into input tokens
8. Besides cost, which API limit does the guide say can cap throughput?
   • A limit on the number of distinct users
   • A limit on the number of system prompts
   • Rate limits measured in tokens per minute
   • A limit on how many languages you can use