Pohotový inženýr jako kariéra

V praxi úlohy rychlého inženýrství zahrnují psaní systémových výzev a několikanásobných příkladů, specifikování výstupních formátů, sestavování sad hodnocení, zátěžové testování poruch a nesprávného použití, dokumentaci toho, co funguje, a monitorování výstupů, jakmile jsou aktivní. Je to kolaborativní. Tato osoba spolupracuje s produktovými manažery, kteří definují cíle, inženýry, kteří zadávají výzvy do aplikací, a odborníky na předmět, kteří posuzují kvalitu. Titul se proslavil v roce 2023, kdy společnosti a startupy s umělou inteligencí zveřejnily dobře placené výpisy rychlých inženýrů, které byly široce zahrnuty v tisku. Od té doby se změnily tři věci. Modely se mnohem lépe řídí pokyny, takže je potřeba méně triků. Nástroje pro automatickou optimalizaci výzev, jako je open-source rámec DSPy, mohou programově vyhledávat lepší výzvy. A práce se rozšířila do toho, co mnozí praktici nazývají kontextovým inženýrstvím: rozhodování o tom, které dokumenty, výsledky nástrojů, paměť a historie konverzací se do kontextového okna modelu vloží a v jaké formě. V důsledku toho jsou tituly specializovaných rychlých inženýrů relativně vzácné, zatímco dovednost se objevuje v jiných rolích: inženýr AI, specialista na aplikovanou AI, návrhář konverzace, stratég obsahu AI, specialista na hodnocení LLM, inženýr řešení a doménoví odborníci v oblasti práva, medicíny nebo vzdělávání, kteří utvářejí nástroje AI pro svůj obor. Stojí za to opravit dvě mylné představy. Rychlé inženýrství není o tajných magických frázích. Jde o systematické experimentování s naměřenými výsledky. Není to také práce, která nepotřebuje žádné dovednosti. Silní odborníci kombinují přesné psaní, odbornost domény a alespoň základní kódování ve voláních Python a API, takže mohou provádět testy ve velkém měřítku. Dobré projekty portfolia ukazují proces, nejen chytrou výzvu: definovaný úkol, testovací sadu, základní výsledky, iterace s důvody a konečné metriky. Mezi příklady patří potrubí extrakce dokumentů, výzva zákaznické podpory s testy okrajových případů nebo srovnání toho, jak jedna výzva funguje u několika modelů.