Akopọ
ELMo (Awọn ifibọ lati Awọn awoṣe Ede) jẹ aṣeyọri 2018 ti o fun ọrọ kọọkan ni aṣoju ti o ṣe apẹrẹ nipasẹ gbolohun ọrọ rẹ, nitorina 'ifowo' ni 'ifowo odo' yatọ si 'ifowo' ni 'ifowo ifowopamọ.' O samisi iyipada lati awọn olutọpa ọrọ aimi si NLP ti o mọ ọrọ-ọrọ.
Awọn ifibọ Contextual ELMo jẹ apakan ti akopọ ede-AI ti a lo lati ka, ṣe ipilẹṣẹ, ṣe lẹtọ, ati yi ọrọ ati ọrọ pada ni iwọn.
Jin Dive
ELMo, ti a ṣe nipasẹ Ile-ẹkọ Allen fun awọn oniwadi AI (Peters et al., 2018), ṣe agbejade awọn aṣoju ọrọ nipa ṣiṣiṣẹ gbolohun ọrọ kan nipasẹ awoṣe ede bidirectional LSTM ti o jinlẹ ti oṣiṣẹ lori bilionu-ọrọ corpus. Ko dabi Word2Vec tabi GloVe, eyiti o yan fekito ti o wa titi kan fun ọrọ kan, ELMo ṣe iṣiro fekito tuntun fun gbogbo iṣẹlẹ ti o da lori agbegbe agbegbe. Ni pataki, ELMo daapọ gbogbo awọn fẹlẹfẹlẹ LSTM inu nipasẹ ikẹkọ, awọn iwuwo pato-ṣiṣe dipo lilo Layer oke nikan. Awọn fẹlẹfẹlẹ isalẹ ṣọ lati gba sintasi (apakan-ọrọ, igbekalẹ) lakoko ti awọn ipele ti o ga julọ mu awọn atunmọ ati oye ọrọ. Ṣafikun ELMo si awọn awoṣe ti o wa tẹlẹ ṣe awọn anfani nla kọja awọn iṣẹ ṣiṣe ala-ilẹ mẹfa, pẹlu idahun ibeere, itupalẹ imọlara, ati idanimọ nkan ti a darukọ.
Imọ-imọ-ẹrọ
ELMo ṣe akopọ LSTM meji: awoṣe ede iwaju ti n sọ asọtẹlẹ ọrọ ti o tẹle ati sẹhin ti o sọ asọtẹlẹ ọrọ iṣaaju, ọkọọkan ju ipele kikọ CNN awọn igbewọle (nitorinaa o mu awọn ọrọ ti a ko rii). Fun iṣẹ-ṣiṣe ti o wa ni isalẹ, ELMo kọlu awọn aṣoju Layer ni lilo awọn iwọn wiwọ-ṣe deede softmax pẹlu iwọn iwọn kan, gbogbo wọn kọ ẹkọ lakoko iṣatunṣe didara. Eyi tumọ si pe iṣẹ-ṣiṣe kọọkan le pinnu iye syntactic dipo ifihan agbara atunmọ ti o fẹ lati biLM ti a ti kọkọ tẹlẹ tutunini.
Titunto si ELMo Contextual ifibọ
ELMo (Awọn ifibọ lati Awọn awoṣe Ede) jẹ aṣeyọri 2018 ti o fun ọrọ kọọkan ni aṣoju ti o ṣe apẹrẹ nipasẹ gbolohun ọrọ rẹ, nitorina 'ifowo' ni 'ifowo odo' yatọ si 'ifowo' ni 'ifowo ifowopamọ.' O samisi iyipada lati awọn olutọpa ọrọ aimi si NLP ti o mọ ọrọ-ọrọ. Awọn ifibọ Contextual ELMo jẹ apakan ti akopọ ede-AI ti a lo lati ka, ṣe ipilẹṣẹ, ṣe lẹtọ, ati yi ọrọ ati ọrọ pada ni iwọn. Lati kọ oye ti o jinlẹ, tọju Awọn ifibọ Itumọ ELMo bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣe alaye awọn arosọ, ati lọtọ ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ni lilo awọn itọka apẹrẹ awọn ifisinu Contextual ELMo, igbapada, ati atunyẹwo awọn losiwajulosehin bi eto ibaraẹnisọrọ iṣọpọ kan. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera. Ni akoko kanna, awọn otitọ hallucinated le tẹ awọn ijabọ laiparuwo, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
Ilọsiwaju awọn ọna ṣiṣe idanimọ nkan ti o ni orukọ ti o gbọdọ sọ boya 'Washington' tọka si eniyan, ipinlẹ, tabi ilu ti o da lori awọn ọrọ agbegbe
Igbelaruge itara nipa yiya pe 'aisan' tumo si odi ni 'Mo lero aisan' ṣugbọn rere ni slang 'iyẹn aisan'
Imudara awọn ọna ṣiṣe idahun ibeere lori aami ala SQuAD nipa kikọ sii awọn ami-itọka ọrọ-ọrọ sinu oluka
Itumọ awọn oye ọrọ ni itumọ ẹrọ nitorina awọn ọrọ ilopọ bi 'ọgbin' tumọ ọrọ ti a fun ni deede
Awọn Ilana imuse
Awọn ifibọ Contextual ELMo ni iṣe
Imudara awọn ọna ṣiṣe idanimọ nkan ti o ni orukọ ti o gbọdọ sọ boya 'Washington' tọka si eniyan, ipinlẹ, tabi ilu ti o da lori awọn ọrọ agbegbe.
Ilọsiwaju awọn eto idanimọ nkan ti o ni orukọ ti o gbọdọ sọ boya 'Washington' tọka si eniyan, ipinlẹ, tabi ilu ti o da lori awọn ọrọ agbegbe Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.
Awọn ifibọ Contextual ELMo ni iṣe
Igbelaruge itara nipa yiya ti 'aisan' tumo si odi ni 'Mo lero aisan' sugbon rere ni slang' ti o ni aisan'.
Igbelaruge itara nipa yiya ti 'aisan' tumo si odi ni 'Mo lero aisan' sugbon rere ni slang 'ti o ni aisan' Awọn ẹgbẹ maa n gba awọn esi to dara nigba ti won setumo didara ala ni iwaju, tọju a eda eniyan escalation ona fun eti igba, ki o si orin mejeeji ise sise anfani ati ašiše lori akoko.
Awọn ifibọ Contextual ELMo ni iṣe
Imudara awọn ọna ṣiṣe idahun ibeere lori ala-ilẹ SQuAD nipasẹ kikọ sii awọn ami-itọka ọrọ-ọrọ sinu oluka.
Imudara awọn ọna ṣiṣe idahun ibeere lori aami ala SQuAD nipa fifun awọn olutọpa ami ifaramọ ọrọ-ọrọ sinu awọn ẹgbẹ oluka nigbagbogbo ni awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ifibọ Contextual ELMo ni iṣe
Itumọ awọn oye ọrọ ni itumọ ẹrọ nitorina awọn ọrọ ilopọ bi 'ọgbin' tumọ ọrọ ti a fun ni deede.
Disambiguating awọn oye ọrọ ni itumọ ẹrọ nitorinaa awọn ọrọ polysemous bii 'ọgbin' tumọ ni deede ti a fun ni ọrọ-ọrọ Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ba ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.