Ọbá akwụkwọ AI efu

Nka na ụzụ nduN'efu ruo mgbe ebighị ebi.

177 Ntuziaka Bekee dị larịị, ụzọ mmụta ahaziri ahazi, yana ọbá akwụkwọ mepere emepe - nke 501(c)(3) anaghị akwụ ụgwọ wuru ya ka onye ọ bụla nwee ike ịghọta AI ọgbara ọhụrụ.

177Ntuziaka efu
1Egwu isiokwu
~2 minKwa ndu
~6hOge ịgụ ihe

Bido ebe a

Ise nkuzi dabere na nsonaazụ

Usoro nkuzi ọ bụla gụnyere nsonaazụ doro anya, ikike nke eserese, mmemme omume, na okwute etinyere n'ọrụ.

Egwu isiokwu

Chọgharịa site na egwu

Maba n'ime mpaghara ị na-eche. Egwu ọ bụla nwere ọtụtụ ntụzịaka larịị-Bekee.

Ọbá akwụkwọ zuru ezu

Nduzi niile

177 nke 1019 egosiputara ntuziaka. Wepụta site na egwu ma ọ bụ chọọ n'elu.

Nka na ụzụ

Ntụgharị egwu egwu na amụma Multi-Token

Mgbasa egwu na amụma ọtụtụ token na-eme ka ọgbọ nlereanya asụsụ dị ngwa site na ịkọ ọtụtụ akara n'ọdịnihu n'otu oge na nyochaa ha n'otu…

2 min gụọGụọ
Nka na ụzụ

Nyocha BERTScore na Semantic

BERTScore na-atụ etu ederede igwe arụpụtara si kwekọọ na ntụaka site n'ịtụle ihe pụtara, ọ bụghị kpọmkwem okwu.

2 min gụọGụọ
Nka na ụzụ

Ntị Linear na kernel ndị na-eme ihe

Nlebara anya Linear na-eji aghụghọ mgbakọ na mwepụ na-eji ogologo usoro dochie anya quadratic softmax na Transformers.

2 min gụọGụọ
Nka na ụzụ

YaRN na Mgbatị Ogologo Ọdịnaya

YaRN (Ma mgbakwunye RoPE ọzọ) bụ usoro na-arụ ọrụ nke ọma maka ịgbatị mpio ihe ngosi nke ihe nlereanya karịrị nke a zụrụ ya.

2 min gụọGụọ
Nka na ụzụ

Nkwekọrịta ọnọdụ maka ogologo okwu

Interpolation Ọnọdụ (PI) bụ usoro dị mfe, na-enwe mmetụta nke na-agbatị windo ihe ntụgharị site na ịpịnye indices ọnọdụ ọhụrụ n'ime oke…

2 min gụọGụọ
Nka na ụzụ

Ngwakọta nke ndị ọkachamara LoRA

Ngwakọta nke ndị ọkachamara LoRA (MoLE) na-ejikọta ọtụtụ ihe nkwụnye ọkụ zụrụ azụ dị ọnụ ala na onye rawụta mụtara ka otu ụdị ntọala nwere ike gbanwee nke ọma n'ofe…

2 min gụọGụọ
Nka na ụzụ

Ndozi nkọwa maka ụdị koodu

Ndozi nkọwa na-eme ka ndezi koodu AI na-enwe mmetụta ozugbo site n'ịkọ na ọtụtụ faịlụ agaghị agbanwe agbanwe ma na-enyocha obere akụkụ ndị dị iche.

2 min gụọGụọ
Nka na ụzụ

Nhazi ọrụ na nnochite anya injinia

Ntụgharị ọrụ na-akpachapụ anya omume ihe nlereanya site n'ịgbakwunye ma ọ bụ wepụ vector ozugbo n'ime mmemme ezoro ezo n'oge ọ na-agba ọsọ, ọ nweghị ọzụzụ achọrọ.

2 min gụọGụọ
Nka na ụzụ

Mpempe akwụkwọ akpaaka maka nkọwa

Sparse autoencoders (SAEs) bụ ngwá ọrụ na-adọpụ ihe arụrụ arụ n'ime ime nke netwọkụ akwara n'ime nnukwu ihe dị ọcha…

2 min gụọGụọ
Nka na ụzụ

Superposition na Polysemanticity na AI nkọwa

Mụta superposition na polysemanticity na ntụgharị AI: kedu ihe kpatara ụdị eji etinye atụmatụ n'ime ntụzịaka nkekọrịta, ihe kpatara neurons ji bụrụ polysemantic…

2 min gụọGụọ
Nka na ụzụ

Lens Logit na oghere elegharịrị

Lens logit na oghere elere anya bụ usoro nkọwa nke na-ele anya na oyi akwa steeti zoro ezo nke transformer iji hụ ihe ihe nlereanya a na-eche'…

2 min gụọGụọ
Nka na ụzụ

DeepSpeed ​​​​na Megatron Ọzụzụ Stacks

DeepSpeed ​​​​(Microsoft) na Megatron-LM (NVIDIA) bụ sọftụwia sọftụwia na-eme ụdị ọzụzụ nwere ọtụtụ ijeri paramita gafere ọtụtụ puku GPU…

2 min gụọGụọ

Ọgụchachara? Gopụta ya.

Lelee ihe ị mụtara na ajụjụ ajụjụ isiokwu, wee nyochaa usoro ọmụmụ anyị ahaziri ma ọ bụ rụọ ọrụ na asambodo. Nduzi ọ bụla na-enwere onwe ya ịgụ ihe.