Lu xew
AWS siiwal nañu ab tegtal xarala ak misaalu dugal ab sistem buy doxal ci IA ngir mëna aar ak joxewaat xam-xam bu mbootaay mi. Sistem bi dafay jëfandikoo generation retrieval-augmented ngir tontu laaj yi ci këyitu mbootaay gi, ak jëfandikoo bind ak baat, jaxasoo avatar bu tànneef, ak cache buñ defar ngir wàññi woote model yu bari.
AWS's post dafay fësal benn prototype buñ mëna jëfandikoo ngir musal li ñuy woowe xam-xam bu mbootaay wala "tribal": doxalin, politik ak xam-xam bu mën nekk lu jafe jot su liggéeykat yu am xam-xam dem. Mbootaay yi dañuy yebbi këyitu dokimaa ci Amazon S3, foofu la Amazon Base de connaissance Bedrock di yoree dokimaa ci xaaj, dugal ak seetlu. Benn xeetu fondasioŋ buñ tànn dafay defar ay tontu yu lalu ci pàcc yiñ jëlee ci këyit yooyu. Sistem bi dafay wane tontu yooyu jaaraleko ci interfaasu nawigatër buy jàppale bind ak waxtaan, te mën na boole ci avatar IA buñ mëna tabb. AWS dafay taxawal jëmmal ci jekkal yu melni defar, faju, sarwis finansieel, energie ak nguur, waaye post bi du bind benn liggéey bu benn kiliyaan bi wax.
Architecture bi dafa boole Amazon Cognito ngir xamle, API Gateway ngir jëfandikoo kontre, AWS Lambda ngir orkestraasioŋ, Amazon S3 ngir fichier aplikaasioŋ yi ak macceer biy joge, ak Amazon Serveur OpenSearch buñu xamee ci vecteur bi. Amazon Titan Mbind yuñ dugal dañu koy jëfandikoo ngir dugal ay këyit. Modèle yiñ mëna tànn ngir génne tontu yiñ lim ci xët wi ñooy Amazon Nova Pro ak Anthropic Claude 3 Sonnet. Duggal baat dañu koy soppi def ko bind ak Amazon Transcription, fekk Amazon Polly dafay defar tontu yuñ wax. Mbootaayu avatar bi defay jefandikoo WebRTC ngir dawal ak WebSockets ngir doxal, te xët wi dafa wax ni xaralay avatar bi mungi sukkandiku ci DeepBrain AI. Mbootaay yi mën nañu soppi ki leen jox avatar, melokaan, baat ak doxalin, buñu sukkandikoo ci AWS.
Deployment bi dañu ko joxe ni aplikaasioŋ bu sukkandiko ci CloudFormation bi AWS wax ni mën nañu ko samp ci ay waxtu, tàmbalee ci benn yoon ci tabb ci ekipu IT wala DevOps. Jëfandikukat yi dañuy yebbi dosiye yi jëm ci aplikaasioŋ bi ci benn bucket S3, sos benn stack CloudFormation, defar ay leerali dugg ak ubbi URL frontend bi. Gid bi dañu ko bind ba noppi natt ko ci diwaanu us-east-1, bi AWS wax ni dañu ko tànn ngir modelu fondasioŋ bu yaatu ak avatar-streaming. Deployment feneen dafay laaj nga xool model bi ak avatar bi am, ba noppi nga soppi gox biñ kode bu baax fépp fu ko jaree. Design bi dafay jàppale Word, PDF, bind bu leer, Markdown ak këyitu JSON, waaye AWS dafay digal Markdown wala JSON buñ yamale ngir mëna seet.
Cache mooy li am solo ci prototype bi. Cache bi gëna néew luñu koy jëfandikoo ci wàllu navigateur dafay denc jaxasoo yu bees yi, waaye DynamoDB dafay denc tontu yu gëna yaatu ak jekkal time-to-live yu wuute ci xeetu ëmbiit li. AWS dafa wax ni liggéey bu bari ak laaj yu bari yu ñuy baamtu def cache hit rates 50-70 pursaa ci test bi, waaye dafay fësal ni sakkanal dëgg a ngi aju ci njaxasu laaj yi. Doxal bi dafa méngoo ak mbindu laaj bi gëna jubal ci nuru semantik, kon versioŋ yu wuute ci benn laaj mën nañu baña jëfandikoowaat tontu. AWS itam dafa wax ni dokimaa yu bees wala yuñ soppi duñu mëna laaj ginaaw bi liggéeyu ingestion otomatik bi jeexee, du ci saasi.
Ay leeral ci cosaan: aws.amazon.com ↗
Lu tax mu am solo
Nafar bi dafay may mbootaay yi anam wu fëgër ngir soppi doxalin yu tasaaroo yi ak këyitu kàngam yi ci sarwiisu xam-xam buy waxtaan. Valeur pratique bi mingi aju ci njëg yuy wéy, dependence ci connexion bu wóor, matching cache bu gàtt, ingestion yu yeex ak risk ni tontu yu am fondation mën nañu ba leegi juum.
Sistem bi dafay saafara jafe-jafe liggéey bu am solo: xam-xam bu am solo dafay faral di tasaaroo ci këyitu liggéey yi, ci dencukaay yi ak ci liggéeykat yi. Interfaasu làkk wiñ nàmp mën na yombal liggéey bi liggéeykat yi xamul fumu denc xibaar yi wala ñi taamu wax moo gën bind. Accesu baat mën na am njariñ itam sudee liggéeykat yi dañuy xoolaat doxalin yi ak seeni loxo, ndigam balluwaay bi joxeewul jàngat yu jëfandikukat yi di wane ni dafay gëna yombal jëfandikoo gi wala wóolu. Developpement bi am solo fii mooy boole seetlu IA bu lalu ci këyit, defar baat, cache ak avatar ci architecture cloud buñ mëna defaraat.
Ngir mbootaay yi, misaal bi dafay wàññi coono bi ingeñër yi wara def ngir dajale mbir yooyu seen bopp. AWS neena sistem Bedrock buñ personaalise bu am baat, avatar, seet ak cache dina soxla ay ayu-bis wala weer ak xam-xam bu yam, ci noonu la misaal bi di joxe ay modèlu infrastructure ak ay def-aplikasioŋ. Loolu mën na tax ekipu teknik yu ndaw yi mëna def jàngat. Du dindi liggéeyu tànneef këyitu sañ-sañ, def ndigal, yoriinu tëye, xoolaat tontu yiñ defar wala boole ci dencukaay yi fi nekk. Li xët wi wax ni accelerator bi mooy "kalite production" dafay màndargaal jaaykat bi; source bi joxewul benn jàngat bu moom boppam wala firnde kiliyaan bi.
Architecture bi dafay wane itam koom gi ak nguuru IA liggéeyukaay bi. OpenSearch Serverless vector store amna lu mu gëna ndaw te, buñu sukkandikoo ci AWS, mën na nekk njëgu baseline bu takku bu ay téemeeri dolaar Amerique weer wu nekk ci etaas biñ jagleel, balaa inference variable ak yeneen fere serwiis. Cache mën na wàññi woote model yu bari, waaye du dindi dencukaay, dencukaay vecteur, wax, reso wala njëgu liggéey. Kaaraange mingi aju ci dàntite buñ konfiguree bu baax ak seytu jëfandikoo ci yenn sarwis AWS. Ndax xam-xam bi mën na am ay doxalin yu biir wala ay leeral yu am solo ci liggéeyukaay bi, dafay laaj nga am ndigal bu jaar yoon, sàmmonte ak saytu dokimaa. Tontu yu gëna jubal ci këyitu jëlee mën na wàññi tontu yu amul ndimbal, waaye AWS dafa wax bu leer ni du dindi njuumte.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Li nga wara seetaan ci topp
Laaj yi gëna am solo ñooy ndax mbootaay yi mën nañu gëna dëggal prototype bi ci seen liggéey, di saytu xam-xam bu am solo ak njëg yi, ba noppi yokk ay garanti yu AWS xamme ni ëlëg wala yokkute yiñ digal. Test moomel sa bopp lañu soxla ngir wane njubte gi, latency bi, scalability bi ak njeexitalu jaxasoo bi lalu ci avatar ci adoption bi.
Test bi njëkk ci sistem bii mooy njubte ci jumtukaayi mbootaay mi, rawatina sudee këyitu liggéey yi dañuy xëccoo, duñu mat wala ñuy jëfandikoo làkk wiñ tànn. AWS dafay digal ñu génne ay sitaasioŋ ci balluwaay yi, waaye xët wi du wax ci njubte gi ci sitaasioŋ yi, tontu yu jaar yoon, tontu yu baaxul yi wala méngale ak seetlu bu bari. Mbootaay yi dañu wara xool ndax tontu yiñ defar dañu méngoo bu baax ak doxalin yiñ mujjee nangu, ak ndax jëfandikukat yi mën nañu xàmmee sudee sistem bi amul firnde. Post bi dafay digal nit ñi ñu nekk ci loop ngir yenn dogal yu am solo wala yu jëm ci kaaraange. Wóolu sa bopp bu leer ak saytu tontu-validasioŋ dañu leen xàmmee ni ay yokkute yuñ digal, duñu ay man-mani yuñ samp.
Liggéeyukaay yi dañu wara natt, duñu ko jëlee ci lim yi AWS. Post bi dafa wax ni tabb bi ñu jagleel defay jëfandikoo lu tollu ci 50 ba 100 jëfandikukat yuy jëfandikoo ay tontu ci cache yu ndaw, ci noonu la quota yu gëna mag mëna jàppale lu tollu ci 500 ba 1,000 jëfandikukat te benn architecture bi mën na romb 5,000 ak yokkute ci quota proactive. Neena ñu laajte yu bees ci xam-xam bi jël nañu lu tollu ci ñaar wala ñeenti segond, ak yeneen jotu liggéey ci baat. Njàngat yooyu a ngi aju ci Gox bi, model bi, dayo këyit bi, tóo cache bi ak quota serwiis yi. Source bi joxewul ay test yu bari, njuréef, bar erreur wala replication independent, kon dañu leen wara jappee ni xayma yuñ waajal, duñu ay garanti.
Konektiwite ak xibaar bu bees ay jafe-jafe yu am solo lañu. Bépp laaj mingi aju ci tukkib AWS, te avatar bi dafay laaj lëkkaloo bu dëgër, latency bu woyof, bandwidth bu rëy. AWS neena prototype bi amul benn offline, edge wala degradé-mode mënin, luy tënk njariñam ci environmaa yi usine yi tass wala ñuy tass. Pipeline ingestion dokimaa itam asynchrone la, te cache text exact mën na nekk tontu bu njëkk sudee kàddu yi ak jafe-jafe yi ci nekk dañu soxla xoolaat bu gëna jege. Liggéey bi ci kanam mooy méngoo cache semantik, fallback offline, degradaasioŋ bu rafet ci bind, gëna dëgëral tontu ak saytu njëg yu gëna tar. Ki ñu joxe xibaar bi waxul kañ lañuy joxe yokkute yooyu wala deet.