गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर

एआई व्यवसाय प्रश्नोत्तरी में सकल मार्जिन और अनुमानित लागत

अपनी समझ का परीक्षण करें कि एआई सकल मार्जिन क्लासिक सास से पीछे क्यों है, उपयोग के साथ अनुमान लागत कैसे बढ़ती है, और रूटिंग और कैशिंग मार्जिन की रक्षा कैसे करते हैं।

प्रश्न 1 का 8

गाइड के अनुसार, क्लासिक SaaS की तुलना में एक अतिरिक्त उपयोगकर्ता को सेवा प्रदान करने में आमतौर पर AI उत्पाद की लागत अधिक क्यों होती है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. गाइड के अनुसार, क्लासिक SaaS की तुलना में एक अतिरिक्त उपयोगकर्ता को सेवा प्रदान करने में आमतौर पर AI उत्पाद की लागत अधिक क्यों होती है?
    • एआई उत्पादों को प्रत्येक उपयोगकर्ता के लिए एक अलग सॉफ्टवेयर लाइसेंस खरीदना होगा
    • एआई उत्पादों को कहीं अधिक बड़े ग्राहक डेटाबेस की आवश्यकता होती है
    • प्रत्येक प्रॉम्प्ट में GPU समय लगता है, एक परिवर्तनीय लागत जो उपयोग के साथ बढ़ती है
    • एआई उत्पादों को प्रति ग्राहक अधिक सेल्सपर्सन की आवश्यकता होती है
  2. मॉडल रूटिंग क्या करती है?
    • छोटे, सस्ते मॉडलों को आसान अनुरोध भेजता है और कठिन मॉडलों के लिए बड़े मॉडल रखता है
    • गुणवत्ता की गारंटी के लिए प्रत्येक अनुरोध को सबसे सक्षम मॉडल को भेजता है
    • वॉल्यूम छूट प्राप्त करने के लिए कई प्रदाताओं के बीच अनुरोधों को समान रूप से फैलाता है
    • मॉडल आउटपुट को स्टोर करता है इसलिए समान प्रश्नों का उत्तर कभी भी दो बार नहीं दिया जाता है
  3. 2020 आंद्रेसेन होरोविट्ज़ निबंध "द न्यू बिजनेस ऑफ एआई" ने क्या तर्क दिया?
    • एआई कंपनियों का सकल मार्जिन जल्द ही किसी भी SaaS व्यवसाय से अधिक होगा
    • एआई कंपनी के वित्त को प्रभावित करने के लिए अनुमान लागत बहुत कम थी
    • एआई कंपनियों को पूरी तरह से क्लाउड प्रदाताओं का उपयोग करने से बचना चाहिए
    • कई एआई कंपनियां सॉफ्टवेयर और सेवाओं के मिश्रण की तरह दिखती थीं, जिसमें लूप में कंप्यूट और इंसानों से कम मार्जिन था
  4. टोकन की गिरती कीमतें स्वचालित रूप से एआई सकल मार्जिन को ठीक क्यों नहीं करतीं?
    • टोकन की कीमतें वास्तव में किसी भी क्षमता स्तर के लिए नहीं गिरी हैं
    • उत्पाद अक्सर नए मॉडल, लंबे संदर्भों और एजेंटिक वर्कफ़्लो पर जाकर बचत का उपयोग करते हैं
    • सकल मार्जिन में गणना लागत शामिल नहीं है
    • प्रदाता हर बार कीमतों में कटौती करने पर उन्हें फिर से बढ़ा देते हैं
  5. प्रदाता प्रॉम्प्ट कैशिंग का अधिकतम लाभ उठाने के लिए, आपको प्रॉम्प्ट की संरचना कैसे करनी चाहिए?
    • उपयोगकर्ता के प्रश्न को पहले रखें ताकि मॉडल किसी भी अन्य चीज़ से पहले उसे पढ़े
    • पुराने उत्तरों से बचने के लिए प्रत्येक कॉल पर निर्देशों के क्रम को यादृच्छिक बनाएं
    • स्थैतिक निर्देश, उपकरण परिभाषाएँ और संदर्भ दस्तावेज़ पहले रखें, और परिवर्तनीय उपयोगकर्ता सामग्री अंतिम रखें
    • प्रत्येक संकेत को कई छोटी कॉलों में विभाजित करें ताकि प्रत्येक को अलग से कैश किया जाए
  6. गाइड औसत पर भरोसा करने के बजाय ग्राहक समूह द्वारा योगदान मार्जिन पर नज़र रखने की सलाह क्यों देता है?
    • औसत प्रकाश उपयोगकर्ताओं की लागत से अधिक है
    • लेखांकन मानकों के अनुसार समूह ट्रैकिंग आवश्यक है
    • औसत रूटिंग को असंभव बना देता है
    • औसत उन बिजली उपयोगकर्ताओं को छिपाते हैं जिनका भारी उपयोग लाभ को ख़त्म कर सकता है
  7. रूटिंग कैस्केड कैसे काम करता है?
    • यह पहले एक छोटे मॉडल की कोशिश करता है और सत्यापन जांच या आत्मविश्वास संकेत विफल होने पर एक बड़े मॉडल की ओर बढ़ता है
    • यह प्रत्येक उपलब्ध मॉडल को प्रत्येक अनुरोध भेजता है और सबसे लंबा उत्तर चुनता है
    • यह हमेशा सबसे बड़े मॉडल से शुरू होता है और बजट खत्म होने पर वापस छोटे मॉडल पर आ जाता है
    • यह प्रत्येक उत्तर को संग्रहीत करता है और भविष्य के उपयोगकर्ताओं को विभिन्न प्रश्नों के साथ दोबारा दिखाता है
  8. लागत को एपीआई कॉल के बजाय प्रति कार्य के हिसाब से क्यों तय किया जाना चाहिए?
    • प्रदाता कार्य के आधार पर बिल देते हैं, टोकन के आधार पर नहीं
    • एक एजेंट एकल उपयोगकर्ता कार्रवाई के लिए कई कॉल कर सकता है, इसलिए प्रति-कॉल आंकड़े वास्तविक लागत को कम दर्शाते हैं
    • कैश्ड संकेतों के लिए प्रति-कॉल लागत हमेशा शून्य होती है
    • कार्य और कॉल की लागत हमेशा एक समान होती है