Mi történt
The authors report that retrieval-augmented language-model systems can become unstable when search results include content previously generated by the same models. Across three simulation types, three model families, and 1,019 information-seeking prompts, 1,216 of 1,528 simulations reportedly ended in collapse.
The source is an arXiv paper submitted on Aug. 22, 2026, titled “RAG Collapse: LLM Responses Collapse When Retrieved Documents Are Self-Authored.” Its central claim is that a language-model system may degrade when a retrieval tool returns references generated by that same system. The authors distinguish this from recursive training on model output: here, the feedback loop is introduced during information retrieval, when generated documents become available as references for later responses. The paper calls the resulting pattern “RAG collapse.”
The authors say they tested three types of simulations involving AI systems retrieving references they had generated. The supplied abstract identifies three model families, 1,019 information-seeking prompts, 1,528 simulations, and more than one million language-model API calls. It reports that 1,216 simulations, or 79.6%, ended in collapse. The source does not name the model families, describe the prompts in detail, specify the retrieval configurations, or give the operational test used to decide that a simulation had collapsed.
The paper also reports that a single self-authored reference could be enough to trigger the effect. According to the authors, the language models disproportionately cited their own content, and this self-bias remained after the researchers controlled for reference quality. That distinction matters: the reported mechanism is not simply that poor documents contaminate the retrieval set. The source instead presents self-authorship as an independent factor in how retrieved references are selected or used.
These findings remain claims from an arXiv submission rather than independently established facts in the supplied material. The source identifies the work as a 36-page paper with 31 figures and four tables, but the provided text contains only the abstract and bibliographic information. It does not report peer review, outside replication, live-system testing, or the full experimental results. The visible timestamp places the submission within the current 96-hour window, but the source provides no later update beyond the initial submission.
Miért számít
The result identifies a potential feedback problem for systems that use search or document retrieval to ground answers. It suggests that model-generated material may receive disproportionate influence even when it is not better than other references, although the supplied source does not establish how often this occurs in deployed systems.
A visszakereséssel kiegészített generálás célja a nyelvi modell külső hivatkozásokhoz való csatlakoztatása ahelyett, hogy csak a paramétereiben tárolt információkra hagyatkozna. Ha a visszakeresett anyag egyre inkább modell által generált szövegből áll, a rendszer a saját megfogalmazásait, kihagyásait vagy hibáit visszaadhatja a későbbi válaszokba. A cikkben közölt eredmény tehát közvetlen megbízhatósági kockázatot jelent a dokumentumgyűjteményeket kereső, összefoglaló vagy újrafelhasználó mesterséges intelligencia rendszerek esetében.
A jelentett önelfogultság különösen fontos, mert akkor is fennállhat, ha más hivatkozások összehasonlíthatóak vagy jobb minőségűek. Ha a papír szimulációin kívül megerősítik, ez bonyolítaná azokat az általános feltételezéseket, amelyek szerint több visszakeresett anyag hozzáadása automatikusan javítja a földelést. Előfordulhat, hogy a visszakereső rendszernek nyomon kell követnie a származást, és másként kell kezelnie a modell által készített dokumentumokat, mint a független forrásokból származókat, ahelyett, hogy a dokumentumokat csak a relevancia vagy a látszólagos minőség alapján értékelné.
A gyakorlati következmények potenciálisan széles körűek, de nem szabad túlbecsülni. A forrásból nem derül ki, hogy a telepített keresőmotorok, a vállalati tudásbázisok vagy a fogyasztói asszisztensek jelenleg összeomláson mennek keresztül. Azt sem állapítja meg, hogy minden modell által generált dokumentum megbízhatatlan, hogy a visszakereső rendszerek rutinszerűen előnyben részesítik a saját készítésű tartalmakat, vagy hogy a jelentett arány a tesztelt szimulációkon kívül is érvényes. A cikk egy lehetséges visszacsatolási mechanizmusra figyelmeztet, nem pedig annak a tágabb értelemben vett mesterséges intelligencia ökoszisztémában való elterjedtségének mért becslését.
Az eredmény egy irányítási és mérési problémát is feltár. Amikor a mesterséges intelligencia által generált anyag kerül az információs környezetbe, a későbbi rendszereknek nehézséget okozhat az eredeti bizonyítékok megkülönböztetése a származékos szövegtől. A mellékelt forrás nem javasol teljes megoldást, de megállapításai a származást, a forrásfüggetlenséget és az ismételt tartalomészlelést gyakorlati problémákká teszik a visszakeresésen alapuló mesterséges intelligencia fejlesztői és intézményei számára. Ezek a következtetések feltételesen következnek a szerzők állításából, és valós visszakereső csővezetékekkel való tesztelést igényelnek, mielőtt széles körű operatív következtetéseket támasztanak alá.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
What is a common training objective for an autoregressive language model?
Mit nézzünk ezután
The key follow-up questions are how the paper defines collapse, whether the result replicates across models and real-world retrieval systems, and which safeguards reduce the effect. The source does not provide those details, nor does it report an intervention, deployment study, or external replication.
Az első megvizsgálandó kérdés az „összeomlás” papír definíciója. Az absztrakt a kifejezést használja, és összekapcsolja a rekurzív modellképzéssel kapcsolatos korábbi munkákkal, ahol a kimenetek kevésbé változatosak, és végül nem hasonlítanak az eredeti adatokra. A közölt forrás azonban nem közli, hogy az új kísérletek diverzitást, ténybeli pontosságot, forrásátfedést, hivatkozási viselkedést, válaszok hasonlóságát vagy más eredményt mértek-e. A teljes dokumentum kritériuma határozza meg, hogy az eredmény mennyire közvetlenül illeszkedik a felhasználó által látható megbízhatósági hibákhoz.
A replikáció a következő fontos teszt. A szerzők három modellcsaládról és három szimulációs típusról számolnak be, de a forrás nem azonosítja ezeket, és nem fejti ki, hogy mennyire reprezentatívak a jelenlegi visszakereséssel kiegészített rendszerekre. Független kutatóknak különböző modellméreteket, visszakeresési algoritmusokat, dokumentumkeverékeket, felszólító stratégiákat és a mesterséges intelligencia által generált anyagok arányait kellene tesztelniük. Ezenkívül el kell különíteniük az önalkotás által okozott hatásokat a szokásos visszakeresési hibáktól, a sokszorosított dokumentumoktól vagy a rossz minőségű hivatkozásoktól.
Real-world prevalence is another unknown. The paper reports 79.6% of simulations ending in collapse, but that figure is not a population estimate for internet search, enterprise databases, or any other deployed system. The source does not say how often a model’s own documents appear in relevant retrieval results, how long the feedback loop takes, or whether human-edited and independently verified material interrupts it. Those measurements are necessary before translating the simulation result into a forecast of public impact.
Finally, follow-up work should test safeguards. Useful comparisons would include provenance labels, exclusion of documents generated by the same model or system, source-diversity requirements, independent ranking, and human review for high-stakes uses. The supplied source reports no mitigation experiment and makes no availability or product claim. Until such tests are published, developers and users should treat the paper as evidence of a potentially important failure mode, while recognizing that its severity and remedies remain unresolved.