Nchịkọta
Fireworks AI bụ ikpo okwu ntinye ọnụ na-akwụ ụgwọ ngwa ngwa nke na-eje ozi mepere emepe na ụdị mmepụta omenala site na API dị mfe. Ọ dị mkpa n'ihi na ọ na-ahapụ ndị mmepe na-agba ọsọ ụdị dị ka Llama, Mixtral, na DeepSeek na mmepụta na obere latency na nnukwu mmepụta na-enweghị ijikwa GPU n'onwe ha.
A na-aghọta ngwa ngwa AI nke ọma n'usoro atụmatụ, ịnweta ihe nlereanya, mkpebi ikpo okwu, na mmekorita gburugburu ebe obibi.
Ime miri emi
Tọrọ ntọala na 2022 site n'aka ex-Meta PyTorch na Google injinia, Fireworks AI na-elekwasị anya na akwa akwa nke AI tojupụtara: na-eme ntinye ụdị ngwa ngwa na ọnụ ọnụ n'oke nha. Ọ na-akwado nnukwu katalọgụ nke LLM dị arọ mepere emepe, ụdị asụsụ ọhụụ, ụdị onyonyo, na ụdị ọdịyo, nke a na-enweta site na API OpenAI-dakọtara ka ndị otu nwee ike ịgbanwe site na mgbanwe koodu pere mpe. E wezụga nnabata, Fireworks na-enye nlegharị anya nke ọma (gụnyere ihe nkwụnye LoRA), ịkpọ ọrụ, mmepụta ahaziri JSON, na ntinye raara onwe ya nye. Isi ihe injinia ya bụ injin inference omenala (na-ejikọta ya na kernels FireAttention CUDA) yana njikarịcha dị ka quantization, ntughari ntule, na batching na-aga n'ihu. Na-akwado usoro 2024 B nke Sequoia na-edu, Fireworks na-asọrịta mpi na Ọnụ AI, Groq, yana API nke ụlọ nyocha ihe nlereanya.
Nghọta nka nka
Ọkụ ọkụ na-eme ka ntinye aka na kernel GPU omenala (FireAttention), na-aga n'ihu iji mee ka GPU na-arụsi ọrụ ike n'ọtụtụ arịrịọ, ọnụ ọgụgụ iji belata ebe nchekwa na mkpa bandwit, na nhụta nhụsianya ebe obere ihe ngosi na-atụ aro akara na nnukwu ihe nlereanya na-egosi na ya. Ọnụ ndị a na-ebelata nkwụsịtụ na ọnụ ahịa kwa-token ka ị na-echekwa ogo mmepụta, nke mere ngwa nwere mmetụta na-enwe mmetụta na-ahọrọ ọrụ pụrụ iche n'elu ntinye uche efu.
Ịkụzi ọkụ ọkụ AI
Fireworks AI bụ ikpo okwu ntinye ọnụ na-akwụ ụgwọ ngwa ngwa nke na-eje ozi mepere emepe na ụdị mmepụta omenala site na API dị mfe. Ọ dị mkpa n'ihi na ọ na-ahapụ ndị mmepe na-agba ọsọ ụdị dị ka Llama, Mixtral, na DeepSeek na mmepụta na obere latency na nnukwu mmepụta na-enweghị ijikwa GPU n'onwe ha. A na-aghọta ngwa ngwa AI nke ọma n'usoro atụmatụ, ịnweta ihe nlereanya, mkpebi ikpo okwu, na mmekorita gburugburu ebe obibi. Iji wulite nghọta miri emi, na-emeso Fireworks AI dị ka ihe nlereanya na-arụ ọrụ, ọ bụghị otu njirimara: kọwaa nsonaazụ achọrọ, dokwuo anya echiche, ma kewaa ihe usoro ahụ nwere ike ime nke ọma na ihe ka na-achọ mkpebi ndị ọkachamara.
Na omume, ndị otu siri ike na-eji Fireworks AI na-enyocha atụmatụ ndị na-ere ahịa, ntụkwasị obi nke map ụzọ, yana ihe egwu mkpọchi tupu ha emee. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.
Ụzọ ndị na-ere ahịa na-emetụta atụmatụ ndị otu gị nwere ike ịrụ na-esote. N'otu oge ahụ, Mwepụta ọkwa nwere ike karịa kwụsie ike na ezigbo mmepụta workflows. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.
Mmetụta atụmatụ
Ụzọ ndị na-ere ahịa na-emetụta atụmatụ ndị otu gị nwere ike ịrụ na-esote.
Ụzọ ndị na-ere ahịa na-emetụta atụmatụ ndị otu gị nwere ike ịrụ na-esote. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Usoro azụmahịa na nhọrọ mbugharị na-emetụta ọnụ ahịa ogologo oge yana ihe egwu.
Usoro azụmahịa na nhọrọ mbugharị na-emetụta ọnụ ahịa ogologo oge yana ihe egwu. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Ihe mkpali ụlọ ọrụ na-akpụzi ndabara ngwaahịa, ọnọdụ nchekwa, na oghere.
Ihe mkpali ụlọ ọrụ na-akpụzi ndabara ngwaahịa, ọnọdụ nchekwa, na oghere. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Mmejuputa n'ezie n'ụwa
Otu ụlọ ọrụ SaaS gbanwere ebe njedebe OpenAI maka Fireworks' OpenAI-dakọtara API iji mee Llama n'ọnụ ego dị ala yana obere mgbanwe koodu.
Onye nrụpụta na-eji ihe nkwụnye LoRA na-akụ ihe nlegharị anya na Fireworks ka ọ bụrụ ọkachamara maka nchịkọta akwụkwọ iwu.
Mmalite na-eji Fireworks 'JSON-mode na ọrụ na-akpọ ike onye nnọchite ntụkwasị obi na-eweghachite data ahaziri ahazi.
Mkparịta ụka dị elu na-adabere na ngbanwe na nkọwapụta ọkụ nke Fireworks iji mee ka nzaghachi nzaghachi dị ala n'oge oke ibu.
Usoro mmejuputa
Fireworks AI na omume
Otu ụlọ ọrụ SaaS gbanwere ebe njedebe OpenAI maka Fireworks' OpenAI-dakọtara API iji mee Llama n'ọnụ ego dị ala yana obere mgbanwe koodu.
Otu ụlọ ọrụ SaaS swaps OpenAI's endpoint for Fireworks' OpenAI-compatible API iji mee Llama na ọnụ ala dị ala na obere mgbanwe koodu Otu dị iche iche na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba mmadụ maka ọnụ ahịa ọnụ, ma soro ụzọ abụọ na-efu arụpụta ọrụ.
Fireworks AI na omume
Onye nrụpụta na-eji ihe nkwụnye LoRA na-akụ ihe nlegharị anya na Fireworks ka ọ bụrụ ọkachamara maka nchịkọta akwụkwọ iwu.
Onye na-emepụta ihe na-eji ihe nkwụnye LoRA dị na Fireworks dị mma ka ọ bụrụ ọkachamara maka nchịkọta akwụkwọ iwu kwadoro Otu dị iche iche na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ dịkwuo elu maka ikpe ikpe, ma soro ma uru mmepụta na ụgwọ njehie na oge.
Fireworks AI na omume
Mmalite na-eji Fireworks 'JSON-mode na ọrụ na-akpọ ike onye nnọchite ntụkwasị obi na-eweghachite data ahaziri ahazi.
Mmalite na-eji Fireworks 'JSON-mode na ọrụ na-akpọ ike onye ọrụ a pụrụ ịdabere na ya na-eweghachite data ahaziri ahazi Otu egwuregwu na-enwetakarị nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-edebe ụzọ ịrị elu mmadụ maka ikpe ikpe, ma soro ma uru nrụpụta yana ụgwọ njehie na oge.
Fireworks AI na omume
Mkparịta ụka dị elu na-adabere na ngbanwe na nkọwapụta ọkụ nke Fireworks iji mee ka nzaghachi nzaghachi dị ala n'oge oke ibu.
Mkparịta ụka dị elu na-adabere na nkọwapụta na nkọwapụta nke Fireworks iji mee ka nzaghachi nzaghachi dị ala n'oge oke ibu Otu dị iche iche na-enwetakwa nsonaazụ kacha mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ọnụ okwu, ma soro ma uru nrụpụta yana ụgwọ njehie na oge.
Ihe ize ndụ & okporo ụzọ nche
Mwepụta ọkwa nwere ike karịa nkwụsi ike na usoro nrụpụta n'ezie.
Ọnụ ahịa API ma ọ bụ mgbanwe amụma nwere ike imebi echiche n'otu abalị.
Ndabere otu onye na-ere ahịa na-abawanye mkpọchi na ọnụ ahịa mbugharị.
Map mmejuputa
Nyochaa ndị na-eweta ọrụ site na iji ọrụ nke gị na nhazi data.
Nyochaa ndị na-eweta ọrụ site na iji ọrụ nke gị na nhazi data. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Nyochaa nzuzo, nchekwa na usoro iwu tupu njikọta.
Nyochaa nzuzo, nchekwa na usoro iwu tupu njikọta. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Jikwaa atụmatụ ọdịda n'ofe ụdị ma ọ bụ ndị na-ere ahịa.
Jikwaa atụmatụ ọdịda n'ofe ụdị ma ọ bụ ndị na-ere ahịa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Nyochaa ndetu mwepụta ka mgbanwe map ụzọ ghara iju ndị otu anya.
Nyochaa ndetu mwepụta ka mgbanwe map ụzọ ghara iju ndị otu anya. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.