Ọbá akwụkwọ AI efu

Mụta AI.N'efu ruo mgbe ebighị ebi.

1019 Ntuziaka Bekee dị larịị, ụzọ mmụta ahaziri ahazi, yana ọbá akwụkwọ mepere emepe - nke 501(c)(3) anaghị akwụ ụgwọ wuru ya ka onye ọ bụla nwee ike ịghọta AI ọgbara ọhụrụ.

1019Ntuziaka efu
9Egwu isiokwu
~2 minKwa ndu
~34hOge ịgụ ihe

Bido ebe a

Ise nkuzi dabere na nsonaazụ

Usoro nkuzi ọ bụla gụnyere nsonaazụ doro anya, ikike nke eserese, mmemme omume, na okwute etinyere n'ọrụ.

Egwu isiokwu

Chọgharịa site na egwu

Maba n'ime mpaghara ị na-eche. Egwu ọ bụla nwere ọtụtụ ntụzịaka larịị-Bekee.

Ọbá akwụkwọ zuru ezu

Nduzi niile

1019 nke 1019 egosiputara ntuziaka. Wepụta site na egwu ma ọ bụ chọọ n'elu.

Asụsụ AI

Nlele a na-ahụkarị

Nlereanya a na-ahụkarị bụ usoro ọgbọ-ederede nke na-ewere okwu na-esote site na tokens nke ọdịnaya ozi ha na-anọdụ ala na ihe ịtụnanya a tụrụ anya na ihe nlereanya…

2 min gụọGụọ
Asụsụ AI

Mirostat Perplexity Njikwa

Mirostat bụ algọridim ngbanwe nke na-arụsi ọrụ ike na-eduzi mmepụta ụdị asụsụ gaa na mgbagwoju anya ebumnuche (ọkwa ihe ịtụnanya) site na iji loop nzaghachi.

2 min gụọGụọ
Asụsụ AI

Sycophancy na ụdị asụsụ

Sycophancy bụ omume nke ụdị asụsụ AI ịgwa ndị ọrụ ihe ha chọrọ ịnụ, na-ekwenye n'echiche ndị ekwuputara ma ọ bụ na-atụgharị azụ ọbụna…

2 min gụọGụọ
Nka na ụzụ

Nbulite n'usoro nke abụọ na ụzọ Newton

Nkwalite n'usoro nke abụọ na-eji ozi curvature (matrix Hessian nke usoro nke abụọ) iji mee usoro dị mma karịa opekempe, ọ bụghị naanị mkpọda.

2 min gụọGụọ
Ihe ndị bụ isi

Ịdị arọ na nhazi nke L2

Ire arọ bụ usoro dị mfe, dị ike nke na-eme ka ihe atụ dị arọ gaa na efu n'oge ọzụzụ, na-akụda ya ka ọ ghara ịdabere kpamkpam na ihe ọ bụla…

2 min gụọGụọ
Ihe ndị bụ isi

Dropout na Stochastic Regularization

Dropout bụ aghụghọ a na-emezigharị nke na-agbanyụ obere neurons n'enweghị usoro n'oge usoro ọzụzụ ọ bụla, na-amanye netwọkụ ka ọ rụọ ọrụ nke ọma, siri ike…

2 min gụọGụọ
Nka na ụzụ

RMSNorm na Pre-Layer Normalization

RMSNorm bụ oyi akwa normalization dị fechaa nke na-eweghachi ọrụ site na mgbọrọgwụ ha pụtara square, yana ebe nhazi nke pre-layer na-aga n'ihu nke ọ bụla…

2 min gụọGụọ
Nka na ụzụ

SwiGLU na arụ ọrụ Gated

SwiGLU bụ ọrụ ịgbalite gated nke na-amụba otu ntule ahịrị nke ntinye site na ntule nke abụọ na-arụ ọrụ Swish, na-eme dị ka ihe mmụta…

2 min gụọGụọ
Nka na ụzụ

Netwọk squeeze-na-Excitation

Ihe mgbochi Squeeze-and-Excitation (SE) na-eme ka netwọkụ na-eme mgbanwe mụta oke ọwa njirimara ọ bụla, na-emegharị ha dabere na ọnọdụ ụwa.

2 min gụọGụọ
Nka na ụzụ

Usoro Warmup na Cosine Annealing

Igwe ọkụ na-eji nwayọọ na-ebuli ọnụego mmụta site na nso efu tupu ọzụzụ, mgbe ahụ ịhịa aka n'ahụ nke cosine na-erepịa ya nke ọma na-esochi usoro mkpụrụ osisi.

2 min gụọGụọ
Nka na ụzụ

Ọnụego mmụta cyclical

Ọnụego mmụta cyclical na-agbagharị ugboro ugboro n'ịmụ ihe n'ogo elu na ala n'etiti oke ala na elu kama naanị ire ere.

2 min gụọGụọ
Nka na ụzụ

Mbelata ịdị nkọ-mmara

Sharpness-Aware Minimization (SAM) bụ usoro njikarịcha nke na-achọ ọ bụghị naanị mfu dị ala kama mfu dị ala n'ofe mpaghara niile nke ịdị arọ - dị larịị…

2 min gụọGụọ

Ọgụchachara? Gopụta ya.

Lelee ihe ị mụtara na ajụjụ ajụjụ isiokwu, wee nyochaa usoro ọmụmụ anyị ahaziri ma ọ bụ rụọ ọrụ na asambodo. Nduzi ọ bụla na-enwere onwe ya ịgụ ihe.

Mụta AI - Ntuziaka efu, nkuzi na ụzọ mmụta - ibe 15 nke 85 | AI Understanding