ONNX ati Awoṣe Interoperability
ONNX (Ṣiṣipaarọ Nẹtiwọọki Neural) jẹ ọna kika boṣewa ṣiṣi silẹ fun aṣoju awọn awoṣe ikẹkọ ẹrọ ki wọn le lọ larọwọto laarin awọn ilana ati awọn akoko asiko.
Akopọ
It lets you train a model in one tool, like PyTorch, and deploy it in another environment without rewriting it.
Jin Dive
Awọn ilana ti o yatọ (PyTorch, TensorFlow, scikit-learn) tọju awọn awoṣe ni awọn ọna kika ti ko ni ibamu, eyiti o jẹ ki imuṣiṣẹ ni irora. ONNX, ti a ṣe ifilọlẹ ni ọdun 2017 nipasẹ Microsoft ati Facebook ati bayi ti ijọba labẹ Linux Foundation, yanju eyi nipa asọye ọna kika faili ti o wọpọ ati eto awọn oniṣẹ ti o ṣe deede (bii Conv, MatMul, Relu) ti o ṣe apejuwe awoṣe bi aworan iṣiro. O ṣe okeere awoṣe oṣiṣẹ kan si faili .onnx, ati pe akoko asiko eyikeyi ti o baamu le gbejade. Akoko asiko ONNX naa yoo ṣiṣẹ ayaworan naa daradara kọja awọn ohun elo oniruuru, lilo awọn iṣapeye bii idapọ oniṣẹ ati titobi, ati iṣiro ipa-ọna si awọn ẹhin bii awọn CPUs, NVIDIA GPUs (nipasẹ TensorRT), tabi awọn accelerators pataki. Eleyi decouples ikẹkọ awoṣe lati imuṣiṣẹ.
Imọ-imọ-ẹrọ
Awoṣe ONNX jẹ awọn aworan iṣiro ti a ṣe ni tẹlentẹle: awọn apa jẹ awọn oniṣẹ ti a fa lati eto oniṣẹ ẹrọ ti ikede (ipilẹṣẹ), ati awọn egbegbe gbe awọn tenors pẹlu awọn apẹrẹ ati awọn iru asọye. Awọn olutaja okeere wa tabi ṣe afọwọkọ awoṣe rẹ lati ya aworan yii. Ni itọka, ONNX Awọn ipin akoko asiko ṣiṣe awọn aworan naa kọja 'awọn olupese ipaniyan' (CPU, CUDA, TensorRT, ati bẹbẹ lọ), ọkọọkan mimu awọn oniṣẹ ti o ṣe atilẹyin dara julọ, ati pe o kan awọn iṣapeye ipele-graph gẹgẹ bi kika igbagbogbo ati idapo ipade lati yara awọn nkan soke.
Ipa Ilana
Iye owo ati isuna
Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.
Awọn ipinnu diẹ sii
Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.
Iṣakoso didara
Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.
Ojo iwaju ti ONNX ati Awoṣe Interoperability
ONNX n ṣe simenti funrarẹ gẹgẹbi ede-ede fun imuṣiṣẹ awoṣe, ni pataki fun iṣẹ eti ati pẹpẹ-agbelebu. Reti agbegbe oniṣẹ ti o gbooro fun awọn awoṣe ede nla ati awọn oluyipada, atilẹyin wiwọ fun iwọn ati itọkasi kekere, ati isọdọkan jinle pẹlu awọn akoko asiko ti awọn olutaja ohun elo. Bi ilolupo ti awọn eerun AI pataki ti n dagba, ọna kika alajaja bi ONNX di diẹ niyelori, jẹ ki awọn ẹgbẹ paarọ ohun elo laisi awọn awoṣe tun-ẹrọ, ati ONNX Runtime tẹsiwaju lati faagun sinu alagbeka ati wẹẹbu (nipasẹ WebAssembly) awọn ibi-afẹde.
Real-World imuse
Gbigbe iyasọtọ aworan PyTorch kan si ONNX ati ṣiṣiṣẹ pẹlu ONNX Runtime lori olupin iṣelọpọ C ++ laisi igbẹkẹle Python.
Gbigbe awoṣe kan si alagbeka tabi ẹrọ aṣawakiri nipasẹ ONNX Oju opo wẹẹbu Runtime (WebAssembly) fun itọkasi ẹrọ.
Yiyara ẹrọ iyipada ti ilu okeere pẹlu NVIDIA TensorRT gẹgẹbi olupese ipaniyan akoko asiko ONNX fun lairi kekere.
Didiwọn awoṣe ONNX kan si int8 lati dinku iwọn rẹ ati iyara iyara lori awọn CPUs eti.
Awọn ewu & Awọn ọna iṣọ
Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.
Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.
Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.
Ilana Ilana imuse
Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.
Aṣepari labẹ ẹru ojulowo ati awọn ipo data.
Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.
Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ONNX and Model Interoperability quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Iṣakojọpọ awoṣe
Awọn ibeere ti a beere nigbagbogbo
What is ONNX and Model Interoperability?
ONNX (Ṣiṣipaarọ Nẹtiwọọki Neural) jẹ ọna kika boṣewa ṣiṣi silẹ fun aṣoju awọn awoṣe ikẹkọ ẹrọ ki wọn le lọ larọwọto laarin awọn ilana ati awọn akoko asiko. O jẹ ki o kọ awoṣe kan ninu ọpa kan, bii PyTorch, ki o si fi ranṣẹ si agbegbe miiran laisi atunkọ.
Iṣoro pataki wo ni ONNX yanju ni akọkọ?
ONNX n ṣalaye ọna kika ti a pin nitoribẹẹ awoṣe ti oṣiṣẹ ni ilana kan le ṣe ran lọ si agbegbe miiran laisi kikọ.
Bawo ni faili ONNX ṣe aṣoju awoṣe?
Awoṣe ONNX jẹ aworan iṣiro kan ti awọn apa rẹ jẹ awọn oniṣẹ iwọnwọn (bii Conv, MatMul, Relu) ti o ni asopọ nipasẹ awọn tenors.
Awọn ile-iṣẹ wo ni akọkọ ṣe ifilọlẹ ONNX ni ọdun 2017?
ONNX ti ṣe agbekalẹ ni apapọ nipasẹ Microsoft ati Facebook ni ọdun 2017 ati pe o ti gbalejo ni bayi labẹ Linux Foundation.
Ni ONNX Runtime, kini 'olupese ipaniyan'?
Awọn olupese ipaniyan jẹ awọn ifẹhinti pluggable (CPU, CUDA, TensorRT, ati diẹ sii) ti ONNX Runtime nlo lati ṣiṣe awọn oniṣẹ kọọkan ṣe atilẹyin ti o dara julọ.
Kini ẹya 'opset' (ṣeto oniṣẹ ẹrọ) ninu awoṣe ONNX ṣe asọye?
Ẹya iṣapeye n ṣalaye iru eto iwọnwọn ati ẹya ti awọn oniṣẹ ti awoṣe gbarale, ni idaniloju awọn akoko asiko ṣiṣe ibaramu tumọ rẹ ni deede.