Agentiskt arbetsflöde
En process i flera steg där ett AI-system planerar, exekverar, kontrollerar resultat och itererar mot ett mål.
Viktig teknisk terminologi förklarad på högsta nivå av tydlighet. Designad för forskare, studenter och människocentrerad utbildning.
En process i flera steg där ett AI-system planerar, exekverar, kontrollerar resultat och itererar mot ett mål.
En iterativ cykel där en AI-agent observerar, planerar, agerar och reflekterar tills den slutför ett mål eller träffar ett stoppvillkor.
Ett hypotetiskt AI-system som kan utföra de flesta intellektuella uppgifter på mänsklig nivå över många domäner.
AI-inferens utförs lokalt på användarhårdvara snarare än i en fjärrmolntjänst.
Ett område fokuserat på att minska skadligt beteende, misslyckanden och missbruksrisker i AI-system.
Ett mjukvarusystem som kan observera, resonera och vidta åtgärder för att uppnå ett mål, ofta med hjälp av verktyg och minne.
Arbetet med att få AI-system att bete sig enligt mänskliga intentioner, värderingar och säkerhetsbegränsningar.
Europeiska unionens riskbaserade regelverk för AI-system och leverantörer.
Policyer, standarder och tillsynsmekanismer som styr hur AI utvecklas och används i samhället.
En definierad uppsättning regler eller steg som en dator följer för att lösa ett problem eller slutföra en uppgift.
Systematisk orättvisa i modellutdata orsakade av skeva data, antaganden eller modelleringsval.
Hur tydligt ett AI-systems logik, datakällor och begränsningar är dokumenterade och begripliga.
En positionell bias-metod som straffar uppmärksamhetspoäng baserat på symboliskt avstånd, vilket hjälper modeller att extrapolera till längre sammanhang.
Algoritmer som hittar vektorer nära en fråga utan uttömmande jämförelse, byter exakthet mot hastighet.
Den extra kostnaden i tid, beräkning eller produkthastighet som krävs för att göra systemen säkrare och mer kontrollerbara.
Människotillagda etiketter eller metadata som används för att träna eller utvärdera maskininlärningsmodeller.
Prissättning där kostnaderna skalas med API-anrop, tokens, slutledningstid eller förbrukad beräkning.
Ett strukturerat sätt för ett mjukvarusystem att skicka förfrågningar till och ta emot svar från ett annat system.
Det breda fältet för att bygga system som utför uppgifter som kräver mönsterigenkänning, resonemang, språk eller beslutsfattande.
Ett system som kan fatta beslut och agera med begränsad eller ingen direkt mänsklig kontroll i realtid.
Förutsäga användarens syfte från en textfråga för att dirigera den korrekt.
Grundträningsalgoritmen som uppdaterar modellvikter genom att sprida prediktionsfel bakåt genom nätverket.
En enkel referensmodell som används för att jämföra om mer komplexa tillvägagångssätt faktiskt förbättrar resultaten.
En modell som ger utdata baserat på preferenssignaler, som ofta används i RLHF-pipelines.
Ett standardiserat test eller datauppsättning som används för att mäta och jämföra modellprestanda.
När benchmarktestexempel eller närliggande varianter finns i träningsdata, ökar rapporterad prestation.
Bearbetningsresurserna som krävs för att träna och köra modeller, ofta mätt i FLOPS- eller GPU-timmar.
Ta bort mindre viktiga modellvikter eller neuroner för att minska storleken och beräkna.
Ytan i funktionsutrymme som skiljer klasser som förutsägs av en klassificerare.
En modell som gör förutsägelser genom en sekvens av om-då-funktionsdelningar.
En genereringsstrategi som begränsar utdatatokens till giltiga strukturer eller policykompatibla val.
En modell som kodar frågor och dokument till separata vektorer så att de snabbt kan jämföras i skala.
Ett konsekvent mönster av fel eller orättvisa i data eller modellbeteende.
Mycket stora och komplexa datauppsättningar som kräver skalbar lagrings- och bearbetningsteknik.
En modell vars inre resonemang är svårtolkad direkt av människor.
En arkitektur med specialiserade subnätverk där endast utvalda experter kör per ingång.
En optimerad uppmärksamhetsalgoritm som minskar minnesanvändningen och påskyndar transformatorträning och slutledning.
En underordstokeniseringsalgoritm som slår samman de vanligaste karaktärsparen till återanvändbara tokens.
En resonemangsstil där en AI-modell delar upp ett problem i mellansteg.
Referenser till källpassager eller dokument som ingår i en modells svar för att stödja dess påståenden.
En neural arkitektur optimerad för att bearbeta rutnätsliknande data såsom bilder.
En modell som poängsätter en fråga och ett dokument tillsammans i ett pass för högnoggranna relevansbedömningar.
Det dokumenterade ursprunget, ägandet och historiken för en datauppsättning eller modellartefakt.
En registrering av var data kom ifrån, hur den omvandlades och var den används.
En förändring av verkliga indata över tid som kan försämra modellens prestanda.
Processen att tilldela taggar eller målutgångar till rådata för övervakat lärande.
Tekniker som skapar modifierade träningsexempel för att förbättra modellens generalisering.
En samling strukturerade eller ostrukturerade exempel som används för utbildning, validering eller testning.
Grenen av AI som extraherar mening från bilder och video.
En delmängd av maskininlärning som använder många lager neurala nätverk för representationsinlärning.
Komprimera kunskap från en stor lärarmodell till en mindre elevmodell.
En mindre modell tränad att imitera en större modells beteende samtidigt som man använder mindre beräkning vid slutledning.
En sekretessteknik som lägger till statistiskt brus så att enskilda poster inte kan härledas tillförlitligt från utdata.
En generativ arkitektur som lär sig att vända brus för att syntetisera bilder, ljud eller annat innehåll.
Metoder som överför en modell tränad i en domän för att prestera bättre på en annan domän.
En träningsmetod som finjusterar modeller direkt på preferenspar utan att behöva en separat belöningsmodell.
Utbildningssteg som tillämpas efter förträning, såsom instruktionsinställning, preferensoptimering och säkerhetsinställning.
Komponenten i en modell som omvandlar input till latenta representationer.
Kombinera förutsägelser från flera modeller för att förbättra robustheten eller noggrannheten.
En regulariseringsmetod som mjukar upp hårda etiketter för att förbättra generaliseringen.
Ett repeterbart utvärderingsramverk som kör uppmaningar, datauppsättningar och poänglogik över modellversioner.
Att lära sig eller anpassa beteendet från endast ett litet antal exempel.
Hur exakt matchar en modells påståenden verifierbar verklig information.
En felaktig förutsägelse där en modell missar ett sant positivt fall.
En felaktig förutsägelse där en modell felaktigt flaggar ett negativt fall som positivt.
Ett hanterat system för att lagra och servera validerade ML-funktioner konsekvent för träning och slutledning.
Fortsatt utbildning om domänspecifik data för att anpassa en förtränad modell till en specifik uppgift.
I vilken grad en modells beteende kan tolkas och förklaras för människor.
Ett matematiskt mål som kvantifierar prediktionsfel under träning.
Träning genom belöningssignaler där en agent lär sig handlingar som maximerar långsiktig avkastning.
Initial storskalig modellträning på breda data innan nedströmsanpassning.
Inmatningsinstruktionerna och sammanhanget som tillhandahålls till en generativ modell.
Ett återanvändbart promptmönster med variabler, formateringsregler och uppgiftsspecifika instruktioner.
En avkodningsinställning som minskar sannolikheten för tokens proportionellt mot hur ofta de har dykt upp hittills.
En indatavariabel som används av en modell för att göra förutsägelser.
En modellförmåga för att generera strukturerade anrop som utlöser externa verktyg eller API:er.
Konvertera rådata till informativa funktioner som en modell kan använda.
Designa eller transformera indatavariabler för att göra lärandet enklare och mer effektivt.
Ett generativt upplägg där en generator och diskriminator tränar mot varandra.
Hur väl en modell presterar på ny, osynlig data utanför träningsuppsättningen.
AI-system som producerar nytt innehåll som text, bilder, ljud, video eller kod.
En modell där många parametrar är noll eller inaktiva för att minska beräkningen.
En vektor som visar hur mycket varje parameter bör ändras för att minska förlusten.
En optimeringsmetod som uppdaterar parametrar i den riktning som minskar fel.
Pålitliga referensetiketter som används för att träna eller utvärdera modellutdata.
En stor förtränad modell som kan anpassas till många nedströmsuppgifter.
Ett riktmärke för matematiska ordproblem i grundskolan som används för att utvärdera steg-för-steg-resonemang i språkmodeller.
När en modell genererar flytande men falsk eller ostödd information.
Hitta relevanta dokument eller poster från en kunskapskälla för en fråga.
En hämtningsteknik som skriver om användarfrågan till flera varianter för att förbättra återkallelsen.
Ett hämtningsmönster som söker i små bitar men returnerar sina större överordnade dokument för ett rikare sammanhang.
En grafbaserad indexstruktur för snabb ungefärlig sökning av närmaste granne över högdimensionella vektorer.
Ett riktmärke för Python-programmeringsproblem som används för att mäta kodgenereringens korrekthet via enhetstester.
En återvinningsmetod som kombinerar nyckelord (lexikal) sökning med vektor (semantisk) sökning för bättre återhämtning och precision.
Ett konfigurationsvärde som ställts in före träning, såsom inlärningshastighet, batchstorlek eller djup.
En modells förmåga att följa mönster från exempel som tillhandahålls direkt i prompten.
En numerisk vektorrepresentation som fångar den semantiska betydelsen av text, bilder eller annan data.
En modell specialiserad för att konvertera data till vektorer som används för semantisk sökning, klustring och hämtning.
Mängden processorkraft som förbrukas när varje svar produceras.
En träningshyperparameter som styr hur mycket parametrar ändrar varje uppdateringssteg.
Finjustera en modell på instruktion-svar-par för att förbättra uppgiftsföljden.
Hur väl en modells konfidenspoäng matchar faktiska sannolikheter för korrekthet.
Metoder för att uppskatta orsak-verkan-samband snarare än enkla samband.
En modell utformad speciellt för klassificeringsuppgifter.
En uppgift där en modell tilldelar en indata till en eller flera fördefinierade kategorier.
En multimodal modellarkitektur som lär sig delade representationer mellan text och bilder.
Den senaste tidpunkten återspeglas i en modells träningsdata.
Ett statistiskt intervall som sannolikt innehåller det sanna värdet av ett uppmätt modellmått.
Ett tränings- och beteendeformande tillvägagångssätt där modellens resultat styrs av en fast uppsättning skrivna principer.
Den maximala mängden inmatningstoken en språkmodell kan bearbeta på en gång.
Utbildningsmetoder som låter en modell fortsätta att lära sig av ny data utan att glömma förkunskaper.
En gemensam objektiv funktion som används för att träna klassificeringsmodeller genom att straffa felaktiga sannolikheter.
En kurerad samling av dokument eller poster som används för hämtning, supportautomatisering eller jordningssvar.
Träna en mindre modell för att imitera resultatet av en större modell.
En grafstruktur av enheter och relationer som används för resonemang eller hämtning.
Lagrade nyckel- och värdetensorer från tidigare tokens som låter transformatorer generera nya tokens utan att räkna om tidigare uppmärksamhet.
Konvertera modellvikter till format med lägre precision som 8-bitars eller 4-bitars.
Tiden mellan att skicka en förfrågan och ta emot modellens utdata.
Ett komprimerat representationsutrymme där liknande begrepp är placerade nära varandra som vektorer.
Använda en språkmodell för att poängsätta eller jämföra resultat från andra modeller under utvärdering.
En parametereffektiv finjusteringsmetod som lägger till lågrankade adaptermatriser.
Metoder som gör att system kan lära sig mönster från data och förbättras över tid.
Ett arbetsflöde där människor granskar, vägleder eller åsidosätter AI-utdata.
En modell som tränats på mänskliga rankningar för att förutsäga vilka svar användare sannolikt föredrar.
Ett öppet protokoll som låter AI-applikationer ansluta till externa verktyg, datakällor och kontextleverantörer på ett standard sätt.
En språkagnostisk tokenizer som lär sig underordsenheter direkt från råtext utan fördelning på blanksteg.
Lagrat sammanhang som en AI-agent använder över steg eller sessioner för att förbättra kontinuiteten.
Andelen faktiska positiva som en modell identifierar korrekt.
En mellanliggande träningsfas mellan förträning och efterträning, som ofta används för kapacitets- eller domänjusteringar.
Ett benchmark som testar språkmodeller över 57 akademiska och professionella ämnen med hjälp av flervalsfrågor.
Prestandaförsämring över tid eftersom verkliga förhållanden avviker från träningsantaganden.
En modell släppt med offentliga vikter eller kod för inspektion, anpassning och återanvändning.
Dokumentation som beskriver en modells avsedda användning, mått, begränsningar och risker.
Minska numerisk precision för modellvikter för att minska minnes- och slutledningskostnaden.
En central katalog för versionering, godkännande och spårning av modeller i olika miljöer.
En transformatormekanism som kör flera uppmärksamhetsoperationer parallellt för att fånga olika typer av relationer.
En modell som kan bearbeta eller generera flera datatyper som text, bild och ljud.
En NLP-uppgift som identifierar enheter som personer, platser, datum eller organisationer.
En avkodningsinställning som minskar sannolikheten för tokens som överhuvudtaget har dykt upp, vilket uppmuntrar till nya ämnen.
Grenen av AI fokuserade på att förstå och generera mänskligt språk.
En skiktad beräkningsmodell inspirerad av biologiska neuroner och synapser.
En policy där nyttolaster för begäran/svar inte lagras efter bearbetning utöver kortlivade driftsfönster.
Omvandla värden till en konsekvent skala för att förbättra optimeringsstabiliteten.
Teknik som konverterar text i bilder eller skannar till maskinläsbar text.
Att lära sig mönster från omärkta data utan explicita målutdata.
En tät vektorrepresentation av ord som fångar semantiska relationer.
Logik som validerar och omvandlar modellutdata till starkt typade, maskinanvändbara strukturer.
En inlärd vikt inuti en modell som påverkar dess resultat.
Metoder som anpassar modeller genom att träna en liten delmängd av tillagda parametrar.
Ett kodutvärderingsmått som mäter chansen att minst ett av k genererade sampel klarar testerna.
Ett språkmodellmått som mäter hur överraskad modellen är av sanna nästa tokens.
Ett ordnat arbetsflöde av förbearbetnings-, modellsteg och efterbearbetningssteg.
Information läggs till tokeninbäddningar så att transformatorer kan urskilja sekvensordning.
Andelen förutsagda positiva som faktiskt är korrekta.
Utforma uppmaningar för att förbättra utskriftskvalitet, tillförlitlighet och kontrollerbarhet.
En finjusteringsteknik som kombinerar 4-bitars viktkvantisering med LoRA-adaptrar för att minska minnesbehovet.
En metod som hämtar extern kunskap och matar in den i generering vid slutledningstidpunkten.
En hämtningsmetod som genererar flera frågevarianter, hämtar resultat för var och en och slår samman rankningarna.
Ett uppmaningsmönster som interfolierar resonemangssteg med verktygsanvändningsåtgärder för att lösa uppgifter mer tillförlitligt.
Stresstesta ett AI-system med motstridiga uppmaningar för att avslöja misslyckanden och risker.
En träningsmetod som använder signaler om mänskliga preferenser för att forma modellbeteende.
En modellpipeline som förutsäger användarpreferenser för rankning av innehåll eller produkter.
En modell som omordnar en initial uppsättning hämtade resultat för att placera de mest relevanta objekten överst.
Andelen hämtade objekt som är relevanta för användarens fråga.
En modells förmåga att bibehålla prestanda under buller, skift eller motstridiga ingångar.
En positionskodningsmetod som roterar fråge- och nyckelvektorer för att koda relativa tokenpositioner.
Ett modereringslager som blockerar eller skriver om osäkra modellingångar eller utgångar.
Ett strukturerat argument, som stöds av bevis, att ett AI-system är säkert för en definierad användningskontext.
Sökning som matchar betydelse snarare än exakt överlappning av sökord, ofta med inbäddningar.
En NLP-uppgift som klassificerar känslomässig ton eller åsikt i text.
Att köra en modell parallellt med produktionstrafik utan att påverka användarinriktade beslut.
Lär dig representationer från omärkta data genom att förutsäga maskerade eller transformerade delar.
Ett träningsupplägg där en modell förbättras genom att generera data genom interaktioner eller tävlingar med kopior av sig själv.
Ett empiriskt samband som visar hur prestanda förbättras med modellstorlek, data eller beräkning.
Ett uppmärksamhetsmönster där varje token endast tar hand om ett fönster med fast storlek av närliggande tokens för att minska beräkningen.
Regler, kontroller och kontroller som begränsar osäkert eller oönskat modellbeteende.
Körtidsfasen där en tränad modell genererar förutsägelser eller utdata.
Ett utrullat API-gränssnitt som tar emot modellförfrågningar och returnerar förutsägelser i produktion.
En kompakt språkmodell optimerad för lägre latens, kostnad eller användning på enheten.
Ett attackmönster där skadliga instruktioner infogas i modellinmatningar eller hämtat innehåll.
En inferensaccelerationsmetod där ett litet utkast till modell föreslår tokens som en större modell verifierar parallellt.
En språkmodell tränad på massiva textkorpus för att generera och analysera text.
En avkodningsalgoritm som håller de översta flera kandidatsekvenserna vid varje steg för att hitta utdata med högre sannolikhet.
Modellutdata begränsad till ett definierat schema som JSON, verktygsargument eller inskrivna fält.
Använda bullriga, heuristiska eller partiella etiketter för att träna modeller när det är ont om rena etiketter.
Artificiellt genererad data som används för att utöka, simulera eller skydda känslig träningsdata.
En högprioriterad instruktion som anger beteende, policy och svarsstil för en modell.
Ett resonemangssätt där en modell utforskar flera förgrenade lösningsvägar och väljer ut de mest lovande.
En samplingsinställning som kontrollerar slumpmässighet i genererade utdata.
Ytterligare slutledningsberäkning som används under svarsgenerering för att förbättra kvalitet eller resonemang.
En bit text bearbetad av språkmodeller, till exempel en ordbit eller symbol.
Processen att dela upp text i tokens för modellinmatning.
En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.
En avkodningsstrategi som samplar från den minsta tokenuppsättningen vars sannolikheter summeras till p.
Modellfelvärdet beräknat under träning och optimerat nedåt över tiden.
En neural arkitektur som använder uppmärksamhet för att modellera relationer över sekvenser parallellt.
Anpassa användarnas förtroende för AI-utgångar med systemets faktiska tillförlitlighet i varje uppgift.
En modellkomponent som dynamiskt fokuserar på relevanta delar av en ingång när en utdata produceras.
En avkodningsinställning som sänker sannolikheten för tokens som modellen redan har producerat för att minska loopar.
En uthållen datauppsättning som används för att mäta modellkvalitet efter träning.
En datauppsättning som används under utvecklingen för att trimma modeller och förhindra överanpassning.
Inbädda en detekterbar signal i AI-genererad text eller media så att den senare kan identifieras som maskinproducerad.
En databas optimerad för att lagra och söka efter högdimensionella inbäddningsvektorer.
En modells förmåga att anropa externa verktyg som sökning, miniräknare eller API:er.
Ett inlärt numeriskt värde som skalar signaler som passerar genom ett neuralt nätverk.
En multimodal modell som gemensamt bearbetar visuell och textuell information.
Tekniker och metoder för att göra AI-förutsägelser mer transparenta och begripliga.
Att lösa uppgifter utan uppgiftsspecifika exempel genom att förlita sig på allmänna förkunskaper.
Tillämpa kunskap som lärts i en uppgift eller domän för att förbättra en annan uppgift.
När en modell memorerar träningsdata och presterar dåligt på osynliga ingångar.
Träna en modell med märkta exempel som mappar ingångar till kända utgångar.