AI স্টার্টআপগুলি খরচ কমাতে ওপেন সোর্স মডেলগুলিতে স্থানান্তরিত হয়৷

কি হয়েছে

AI অ্যাপ্লিকেশন স্টার্টআপগুলি OpenAI এবং Anthropic থেকে ক্রমবর্ধমান API খরচ কমাতে ওপেন-ওয়েট মডেলগুলি ক্রমবর্ধমানভাবে গ্রহণ করছে। হার্ভে, একটি আইনি AI ইউনিকর্ন, OpenAI-এর GPT-4-এর উচ্চ ব্যবহারের কারণে জুন মাসে এর মোট মার্জিন -50%-এ নেমে এসেছে৷ প্রতিক্রিয়া হিসাবে, হার্ভে মুনশট এআই-এর কিমি কে 3 দ্বারা সমর্থিত একটি স্ব-মালিকানাধীন মডেল প্রকাশ করেছে, যা ইতিবাচক মার্জিন পুনরুদ্ধার করেছে। অ্যাব্রিজ, ডেকাগন এবং র‌্যাম্প সহ অন্যান্য সংস্থাগুলিও তাদের নিজস্ব মডেলগুলি বিকাশ বা কাস্টমাইজ করছে, কিছু স্ব-মালিকানাধীন সিস্টেমে 80% পর্যন্ত ট্রাফিক স্থানান্তরিত করে৷ এই পরিবর্তনটি মডেল প্রদানকারীদের থেকে আক্রমনাত্মক মূল্য নির্ধারণের কৌশল এবং ওপেন-সোর্স বিকল্পগুলির কর্মক্ষমতা উন্নত করার দ্বারা চালিত হয়।

হার্ভে, $15.6 বিলিয়ন মূল্যের একটি আইনি AI স্টার্টআপ, OpenAI-এর GPT-4 থেকে উচ্চ API খরচের কারণে জুন মাসে গ্রস মার্জিন 50% থেকে -50%-এ উল্লেখযোগ্য হ্রাস পেয়েছে৷ এটি মোকাবেলার জন্য, হার্ভে আগস্টে একটি স্ব-মালিকানাধীন মডেল প্রকাশ করেছে, যা Moonshot AI-এর কিমি K3 দ্বারা সমর্থিত, যা Anthropic-এর সেরা পণ্যগুলির কাছাকাছি খরচের একটি ভগ্নাংশে পারফরম্যান্স প্রদান করে, ইতিবাচক মার্জিন পুনরুদ্ধার করে৷

প্রবণতা ছড়িয়ে পড়ছে একাধিক শিল্পে। Abridge NVIDIA-এর ওপেন-সোর্স মডেল ব্যবহার করে ক্লিনিকাল পরিস্থিতিগুলির জন্য একটি মৌলিক মডেল তৈরি করছে, যখন ডেকাগন তার স্ব-মালিকানাধীন মডেলের সাথে তার 80% ক্যোয়ারী অনুরোধ প্রক্রিয়া করে। ফিনটেকে, র‌্যাম্প এবং রোগো স্ব-প্রশিক্ষণের অন্বেষণ করছে এবং প্রোগ্রামিং সরঞ্জামগুলিতে, Cursor এবং কগনিশন কাস্টমাইজড মডেল প্রকাশ করেছে।

OpenAI এবং Anthropic মডেল ব্যবহারের জন্য এন্টারপ্রাইজ ব্যবহারকারীদের অতিরিক্ত চার্জ করার দিকে স্থানান্তরিত হয়েছে, উচ্চ-ভলিউম 'টোকেন-সর্বোচ্চ' নিদর্শনগুলিকে শাস্তি দিচ্ছে৷ উপরন্তু, উভয় কোম্পানিই স্টার্টআপ কোর ট্র্যাকগুলিতে প্রতিভা নিয়োগ করছে এবং শিল্প-নির্দিষ্ট প্লাগইন চালু করছে, তাদের গ্রাহকদের সাথে সরাসরি প্রতিযোগিতা তৈরি করছে। স্পেসএক্স দ্বারা অধিগ্রহণের পর Cursor এর সাথে যেমন দেখা যায় অ্যাক্সেস সাসপেনশনের ঝুঁকি, মডেল স্বাধীনতার জন্য স্টার্টআপগুলিকে আরও উৎসাহিত করে।

স্থানান্তর সত্ত্বেও, বেশিরভাগ স্টার্টআপ OpenAI এবং Anthropic সম্পূর্ণরূপে পরিত্যাগ করার আশা করে না। হার্ভে এখনও জটিল কাজের জন্য Anthropic-এর Claude Opus-এর উপর নির্ভর করে, যা একটি মিশ্র ব্যবহারের কৌশল নির্দেশ করে। ফাইন-টিউনিং ইঞ্জিনিয়ারদের জন্য উচ্চ প্রতিভার খরচ, মালিকানাধীন ডেটার প্রয়োজনীয়তা এবং ওপেন-ওয়েট মডেলগুলি পরিচালনার জন্য উল্লেখযোগ্য পরিকাঠামো ব্যয় সহ চ্যালেঞ্জগুলি রয়ে গেছে।

উত্স বিবরণ: eu.36kr.com ↗

কেন এটা গুরুত্বপূর্ণ

এই প্রবণতাটি এআই শিল্পের ব্যয় গতিশীলতায় একটি কাঠামোগত পরিবর্তনের ইঙ্গিত দেয়, কারণ অ্যাপ্লিকেশন-লেয়ার কোম্পানিগুলি ব্যয়বহুল মালিকানাধীন API-এর উপর নির্ভরতা কমাতে চায়। OpenAI এবং Anthropic-এর জন্য, যারা IPO-র জন্য প্রস্তুতি নিচ্ছে, এন্টারপ্রাইজ গ্রাহকদের ওপেন-ওয়েট মডেলগুলিতে বহিঃপ্রবাহ তাদের প্রাথমিক রাজস্ব স্ট্রীমকে ক্ষয় করতে পারে। এই পদক্ষেপটি একটি সাশ্রয়ী বিকল্প হিসাবে ওপেন-সোর্স মডেলগুলির ক্রমবর্ধমান কার্যকারিতাকেও তুলে ধরে, সম্ভাব্য প্রতিযোগিতামূলক ল্যান্ডস্কেপকে পুনর্নির্মাণ করে এবং এন্টারপ্রাইজ ক্লায়েন্টদের ধরে রাখতে মডেল প্রদানকারীদের তাদের মূল্য এবং ব্যবসায়িক কৌশলগুলি সামঞ্জস্য করতে বাধ্য করে।

প্রধান AI স্টার্টআপগুলির দ্বারা ওপেন-ওয়েট মডেলগুলি গ্রহণ করা একটি উল্লেখযোগ্য খরচ-সঞ্চয় পরিমাপের প্রতিনিধিত্ব করে যা OpenAI এবং Anthropic এর জন্য আয়ের গতিশীলতা পরিবর্তন করতে পারে, বিশেষ করে যখন তারা IPO-এর জন্য প্রস্তুতি নেয়। এই পরিবর্তন মডেল প্রদানকারীদের গ্রাহকের আনুগত্য বজায় রাখার জন্য তাদের মূল্য কৌশল এবং এন্টারপ্রাইজ অফার পুনর্বিবেচনা করতে বাধ্য করতে পারে।

মুনশট এআই-এর কিমি কে 3-এর মতো ওপেন-সোর্স মডেলগুলির কর্মক্ষমতা উন্নত করা অনেক ক্ষেত্রে ব্যবহারের ক্ষেত্রে মালিকানাধীন API-এর একটি কার্যকর বিকল্প করে তুলেছে। এই উন্নয়নটি এআই ক্ষমতার গণতন্ত্রীকরণকে ত্বরান্বিত করতে পারে এবং নতুন এআই অ্যাপ্লিকেশনের জন্য প্রবেশের বাধা কমাতে পারে, আইনি, স্বাস্থ্যসেবা এবং অর্থের মতো খাতে উদ্ভাবনকে উত্সাহিত করতে পারে।

প্রবণতাটি এআই বিকাশে ডেটা এবং অবকাঠামোর ক্রমবর্ধমান গুরুত্বকেও তুলে ধরে। স্টার্টআপদের অবশ্যই মালিকানাধীন ডেটা এবং কম্পিউটিং সংস্থানগুলিতে বিনিয়োগ করতে হবে কার্যকর মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য, যা সীমিত সংস্থানগুলির সাথে ছোট সংস্থাগুলির জন্য চ্যালেঞ্জ তৈরি করার সময় ডেটা প্রদানকারী এবং ক্লাউড অবকাঠামো সংস্থাগুলির জন্য নতুন সুযোগ তৈরি করতে পারে।

পরবর্তী কি দেখতে

OpenAI এবং Anthropic-এর আর্থিক কর্মক্ষমতা নিরীক্ষণ করুন যখন তারা তাদের IPO-র কাছে যায়, বিশেষ করে API মূল্য বা এন্টারপ্রাইজ ধরে রাখার কৌশলগুলির কোনও পরিবর্তন। প্রধান AI অ্যাপ্লিকেশন স্টার্টআপগুলির মধ্যে ওপেন-ওয়েট মডেলগুলির গ্রহণের হার এবং স্বাস্থ্যসেবা, অর্থ এবং আইনি পরিষেবার মতো সেক্টরে নতুন স্ব-মালিকানাধীন মডেলগুলির বিকাশের উপর নজর রাখুন৷ এছাড়াও, ছোট স্টার্টআপগুলির জন্য স্ব-প্রশিক্ষণ মডেলগুলির সম্ভাব্যতার উপর প্রতিভা এবং অবকাঠামোগত খরচের প্রভাব পর্যবেক্ষণ করুন।

OpenAI এবং Anthropic-এর API মূল্য বা এন্টারপ্রাইজ চুক্তিতে ওপেন-ওয়েট মডেলগুলির ক্রমবর্ধমান গ্রহণের প্রতিক্রিয়াতে যে কোনও পরিবর্তনের জন্য দেখুন৷ এন্টারপ্রাইজ গ্রাহকদের ধরে রাখার ক্ষমতা তাদের আইপিও মূল্যায়ন এবং দীর্ঘমেয়াদী স্থায়িত্বের জন্য গুরুত্বপূর্ণ হবে।

হার্ভে, অ্যাব্রিজ এবং ডেকাগনের মতো স্টার্টআপগুলি থেকে নতুন স্ব-মালিকানাধীন মডেলগুলির কার্যক্ষমতা এবং গ্রহণ করা পর্যবেক্ষণ করুন৷ এই ক্ষেত্রগুলিতে সাফল্য ওপেন-সোর্স পদ্ধতির বৈধতা দিতে পারে এবং মালিকানাধীন API থেকে আরও মাইগ্রেশনকে উত্সাহিত করতে পারে।

স্ব-প্রশিক্ষণ মডেলের সম্ভাব্যতার উপর প্রতিভা এবং অবকাঠামোগত খরচের প্রভাব পর্যবেক্ষণ করুন। যদি এই বাধাগুলি বেশি থাকে, ছোট স্টার্টআপগুলি ওপেন এবং ক্লোজ-সোর্স মডেলগুলির মিশ্রণের উপর নির্ভর করতে পারে, যখন বড় সংস্থাগুলি সম্পূর্ণরূপে স্ব-মালিকানাধীন সমাধানগুলির প্রতি প্রতিশ্রুতিবদ্ধ হতে পারে।

সম্পর্কিত গাইড এবং কুইজ