Kini o ṣẹlẹ
AWS sọ pe Salesforce ran awọn awoṣe Agentforce ṣiṣẹ pẹlu Awọn ohun elo SageMaker ati lo paramita SchedulingConfig tuntun lati pin kaakiri awọn ẹda awoṣe kọja Awọn agbegbe Wiwa ati awọn iṣẹlẹ. Salesforce royin idinku 8x kan ninu awọn idiyele amayederun lati iṣakojọpọ awọn awoṣe lọpọlọpọ lori awọn GPU ti o pin, ṣugbọn ihuwasi ipo aiyipada ko ṣe iṣeduro isọdọtun agbegbe meji ti o nilo fun awọn awoṣe iṣelọpọ rẹ.
AWS ati Salesforce ṣapejuwe iṣoro iṣẹ iṣelọpọ kan ti o kan Agentforce, Salesforce's AI ipilẹ fun awọn aṣoju. Awọn ohun elo SageMaker gba awọn awoṣe lọpọlọpọ lati pin awọn amayederun ti atilẹyin GPU, eyiti orisun sọ pe o dinku awọn idiyele amayederun Salesforce nipasẹ igba mẹjọ. Iṣowo naa ni pe algoridimu ipo aiyipada SageMaker ṣe iṣiro iṣẹ imuṣiṣẹ kọọkan ni ominira. Awọn ẹda ti awoṣe kan pato le jẹ pinpin aidogba paapaa nigbati aaye ipari funrararẹ lo Awọn agbegbe Wiwa lọpọlọpọ. Iṣeto agbegbe olona-opin ipele osi yii ko to lati ṣe iṣeduro pinpin ipele-awoṣe. Ọrọ naa jẹ pataki ni ibatan laarin awọn amayederun pinpin ati gbigbe awọn ẹda awoṣe kọọkan.
Iṣakoso tuntun ti han nipasẹ paramita SchedulingConfig ni CreateInferenceComponent API. Eto AvailabilityZoneBalance rẹ n ṣe akoso bi o ṣe pin awọn adakọ ni deede laarin awọn agbegbe, lakoko ti Ilana Ibi-iṣe n ṣakoso ipo laarin agbegbe kọọkan. SPREAD pin kaakiri awọn adakọ kọja ọpọlọpọ awọn iṣẹlẹ bi o ti ṣee ṣe lati ṣe ilọsiwaju ipinya ẹbi; BINPACK fi awọn adakọ sori awọn iṣẹlẹ diẹ lati mu ilọsiwaju sii. Orisun naa sọ pe Salesforce yan SPREAD fun ibeere wiwa-giga iṣelọpọ rẹ. Awọn eto wọnyi jẹ ki ihuwasi gbigbe ti a pinnu han gbangba ni akoko imuṣiṣẹ ati so yiyan pinpin pọ si ibi-afẹde iṣiṣẹ ti n lepa.
AWS funni ni apẹẹrẹ agbegbe-meji pẹlu awọn iṣẹlẹ mẹrin ati awọn ẹda mẹrin ti awoṣe kan. Pẹlu SPREAD ati aiṣedeede ti o pọju ti ẹda kan, abajade ti a pinnu jẹ awọn ẹda meji ni agbegbe kọọkan. Fun awoṣe to nilo awọn adakọ meji nikan, aiṣedeede ti o pọju ti odo fojusi ẹda kan pato fun agbegbe kan. Awọn eto ṣiṣe eto kanna ni ipinnu lati wa ni ipa lakoko iwọn-jade, iwọn-in, ati aaye ipari tabi awọn imudojuiwọn paati-ipinnu. Orisun naa tun ṣeduro ilana isọdọkan fun isọdi igba pipẹ lẹhin awọn iṣẹ igbelowọn leralera. Papọ, awọn alaye wọnyi ṣapejuwe ipo bi ibakcdun ṣiṣe eto ti nlọ lọwọ dipo eto ti a lo ni ẹẹkan ni imuṣiṣẹ akọkọ.
Awọn alaye orisun: aws.amazon.com ↗
Kini idi ti o ṣe pataki
Ifilọlẹ naa n ṣalaye iṣoro ti o wulo ni ṣiṣe awọn eto AI: aaye ipari agbegbe pupọ kan tun le fi gbogbo awọn ẹda ti awoṣe kan ni idojukọ ni agbegbe kan tabi apẹẹrẹ. Iṣeto ni yoo fun awọn ẹgbẹ ile-iṣẹ ni awọn iṣakoso ti o fojuhan fun iwọntunwọnsi wiwa-ibi ibi-agbegbe ati yiyan laarin ipinya aṣiṣe ati iṣamulo giga julọ.
Iyatọ laarin ipele-ipari ati imuduro ipele awoṣe jẹ pataki fun awọn ajo ti n ṣiṣẹ ọpọlọpọ awọn awoṣe AI lori awọn amayederun pinpin. Ipari opin agbegbe-pupọ ko ni idaniloju laifọwọyi pe gbogbo awoṣe ni ẹda kan ni gbogbo agbegbe. Ti awọn ẹda awoṣe kan ba ni idojukọ, ikuna apẹẹrẹ tabi ijade agbegbe le yọ awoṣe yẹn kuro botilẹjẹpe awọn ẹru iṣẹ miiran lori aaye ipari wa. Eyi tumọ si wiwa wiwa gbooro-apẹrẹ agbegbe le han pe o jẹ resilient lakoko ti o nlọ awoṣe kan pato ti o farahan. Nitorina ibeere gbigbe ni lati ṣe ayẹwo ni ipele ti awọn ẹda awoṣe kọọkan.
Ẹya gbigbe naa so awọn ibeere igbẹkẹle pọ pẹlu iṣowo awọn orisun ti o fojuhan. Itankale le dinku nọmba awọn adakọ awoṣe ti o sọnu ni ikuna apẹẹrẹ, lakoko ti BINPACK le mu imudara imudara imudara nipasẹ didojukọ awọn iṣẹ ṣiṣe. Fun Salesforce, orisun naa ṣafihan yiyan bi ọna lati ṣe idaduro anfani eto-aje ti alejo gbigba awoṣe pupọ-pupọ lakoko ti o pade ibeere inu pe gbogbo awoṣe iṣelọpọ ni atilẹyin agbegbe-meji. Iṣeto ni ko yọ iṣowo kuro; o fun awọn ẹgbẹ ni ọna taara lati yan bi awọn ẹda wọn ṣe gba awọn aaye ati awọn agbegbe ti o wa.
Abajade ti o royin jẹ abajade fun awọn iṣẹ AI ile-iṣẹ nitori pe o gbe wiwa giga lati ibi-afẹde faaji gbogbogbo sinu awọn eto imuṣiṣẹ ti o le ṣe ayẹwo ati ṣakoso. Orisun naa sọ pe Salesforce ṣaṣeyọri ifaramọ agbegbe-meji fun ọkọ oju-omi titobi awoṣe rẹ, tọju awọn ifowopamọ gbigbalejo rẹ, pinpin itọju lakoko iwọn, ati yago fun fifọ iwọntunwọnsi agbegbe lakoko awọn imudojuiwọn awoṣe. Iyẹn jẹ awọn ẹtọ lati akọọlẹ aṣeyọri alabara AWS, kii ṣe awọn awari iṣẹ ṣiṣe ni ominira. Ifiweranṣẹ naa ko ṣe agbekalẹ bii eto naa ṣe huwa lakoko ijade agbegbe gidi tabi boya gbogbo awoṣe ati agbegbe ni awọn ipo kanna. Iwe akọọlẹ imuse nitorinaa wulo fun agbọye iṣakoso ati abajade ti a sọ, lakoko ti o nfi ifọwọsi ominira ṣii.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Kini lati wo tókàn
Orisun naa ko pese awọn wiwọn akoko igbaduro ominira, awọn abajade idanwo ijade, data lairi, tabi ṣiṣe iṣiro pipe ti idinku idiyele idiyele. Awọn ẹgbẹ ti n gba ilana naa yoo nilo lati rii daju agbara ni agbegbe ibi-afẹde kọọkan, ṣe atẹle ipo lẹhin iwọn, ati pinnu boya ibi-igbiyanju ti o dara julọ pade awọn ibeere ibamu tiwọn.
Agbara si maa wa aropin aarin. AWS ṣe iṣeduro Awọn ifiṣura Agbara Ibeere ni ibi wiwa wiwa kọọkan ibi-afẹde fun awọn agbegbe ti o ni ihamọ agbegbe, ati pe orisun naa sọ pe Salesforce ti pese tẹlẹ agbara GPU ipamọ lati ṣe iranlọwọ lati gba ipo iwọntunwọnsi. Laisi agbara ti o to, SageMaker le fi awọn ẹda ni apakan si awọn iṣẹlẹ to wa nitori ipo imuṣẹ ti a ṣalaye jẹ iyọọda. Iyẹn jẹ ki ẹya naa jẹ lilo labẹ ihamọ, ṣugbọn o le fi ipinpinpin ikẹhin silẹ ni iwọntunwọnsi ju ti a pinnu lọ. Iṣeto ti o fẹ ati ipo ti o ṣaṣeyọri nitootọ le ṣe iyatọ nigbati agbara ti a beere ko si ni gbogbo agbegbe ibi-afẹde.
Awọn oniṣẹ yoo nilo lati ṣe atẹle boya ipo ti o fẹ wa lori akoko. Orisun naa tọka si SageMaker AI Insights ati awọn metiriki CloudWatch ti o bo wiwa-agbegbe skew, idaako-ipin ẹda kika nipasẹ agbegbe, awọn iṣẹlẹ atunṣe ati iye akoko, ati awọn aṣiṣe agbara-to. O tun kilo pe paati pataki HA ko yẹ ki o dinku si ẹda kan, nitori ẹda kan ko le fa awọn agbegbe meji. Ibeere ti o wulo ni bawo ni awọn ẹgbẹ ṣe yarayara ṣe awari ati ṣe atunṣe aiṣedeede ṣaaju ki o di iṣoro wiwa. Abojuto gbọdọ bo nọmba awọn ẹda mejeeji ati pinpin wọn, paapaa bi iwọn ati awọn imudojuiwọn ṣe iyipada imuṣiṣẹ naa.
Awọn alaye pataki jẹ aimọ lati orisun. Ko ṣe ipinlẹ awọn agbegbe agbegbe ti o kan, nọmba awọn opin iṣelọpọ tabi awọn awoṣe ti o bo, idiyele ti agbara ipamọ, ipa lori lairi ati iṣelọpọ, tabi wiwa wiwa Salesforce n gbiyanju lati pade. O tun ko pese idanwo ikuna afiwera lodi si aiyipada. Nitorinaa awọn ẹgbẹ ile-iṣẹ yẹ ki o tọju ifiweranṣẹ naa bi ilana imuse ati abajade ijabọ alabara, lẹhinna fọwọsi agbara, ihuwasi ikuna, ibojuwo, ati idiyele lapapọ ni awọn agbegbe tiwọn. Awọn sọwedowo wọnyẹn jẹ pataki lati pinnu boya iwọntunwọnsi ijabọ laarin resilience ati iṣamulo kan si awọn ẹru iṣẹ tiwọn ati awọn ipo iṣẹ.