Daty graniczne wiedzy w LLM

Duże modele językowe uczą się na podstawie migawki tekstu zebranego do pewnego momentu. Następnie przed zwolnieniem przechodzą dalsze szkolenia i prace związane z bezpieczeństwem. Punkt odcięcia wiedzy oznacza koniec tej migawki. Wydanie często następuje kilka miesięcy po zakończeniu produkcji, a model pozostaje w użyciu jeszcze długo po wydaniu, więc przepaść między tym, co zna, a teraźniejszością stale się powiększa. Linia odcięcia jest raczej rozmyta niż twarda. Ludzie piszą o wydarzeniach długo po ich wystąpieniu, więc ostatnie miesiące przed datą graniczną są słabo reprezentowane w danych szkoleniowych. Jest to jeden z powodów, dla których modele często nie są pewne własnej wartości granicznej lub ją niedoceniają. Sprzedawcy zazwyczaj publikują datę w dokumentacji modelu. Pytanie o sam model nie jest niezawodnym sposobem na jego znalezienie. Przestarzała wiedza objawia się w przewidywalny sposób: - nieaktualne numery wersji i składnia API - stare ceny - byli urzędnicy lub kadra kierownicza - zastąpione wytyczne - brak wiedzy na temat nowszych modeli, w tym własnych następców modelu. Model może również zakładać, że bieżąca data jest bliska daty granicznej. To wypacza jej rozumowanie na temat wieku, terminów i tego, co uważa się za niedawne. Główne obejścia dostarczają świeżych informacji, gdy zadawane jest pytanie. Narzędzia wyszukiwania w Internecie pozwalają modelowi czytać bieżące strony. Generowanie wspomagane pobieraniem pobiera dane z magazynu dokumentów, który ktoś aktualizuje. Samo podanie bieżącej daty w wierszu poleceń systemu rozwiązuje wiele błędów związanych z datą. Dostrajanie może wzbogacać wiedzę, ale jest powolne i kosztowne w porównaniu z wyszukiwaniem jako sposobem na aktualizowanie faktów. Powszechnym błędnym przekonaniem jest to, że chatbot przeglądający ma późniejszy koniec. Limit treningowy pozostaje niezmieniony. Czyta nowe źródła, a jego odpowiedzi są tak aktualne i dokładne, jak strony, które pobiera.