RAG = Nachschlagen
Die KI lernt eure Dokumente nicht auswendig, sie schlägt bei jeder Frage neu nach — wie eine Klassenarbeit mit offenem Buch (AWS, DSK).
Fine-Tuning
Ändert den Stil, nicht das Wissen. Fraunhofer IESE (13.05.2024): erst RAG ausreizen, Wissen nicht antrainieren.
Nichts im Modell
AnythingLLM selbst: das Dokumentenset ist nicht ins Modell eingebettet. Die DSK: die erweiterte Anfrage verändert das LLM nicht.
Ein-Sekunden-Test
PDF öffnen, Text mit der Maus markieren. Geht nicht, ist es ein Bild-PDF — dann erst OCR (Tesseract, OCRmyPDF lokal).
Tabellen
Der schwierigste Fall. Strukturerhaltendes Zerlegen hebt Recall@1 von 0,366 auf 0,754 (Fachpaper, 01.05.2026).
Chunking
AnythingLLM-Standard: 1.000 Zeichen pro Stück, 20 Zeichen Überlappung. Erst aufräumen, dann Regler anfassen.
Aufräumen
DSK: Kopf- und Fußzeilen sowie Seitennummern bereinigen und das Dokument in Fließtext überführen.
Query-Modus
Nutzt nur eure Dokumente und sagt Bescheid, wenn nichts passt. Der Chat-Modus mischt Allgemeinwissen dazu.
Similarity Threshold
Standard 20 %. Laut Hersteller die häufigste Ursache für „finde ich nichts" — testweise auf No Restriction stellen.
Max Context Snippets
Hersteller empfiehlt 4–6. Mehr Schnipsel heißt nicht bessere Antwort („lost in the middle", Studie 2023).
Deutsch vs. Standard
Der eingebaute Embedder all-MiniLM-L6-v2 ist laut Doku vor allem auf Englisch trainiert — die DSK verlangt deutsche Trainingsbasis.
Verweigerungsprobe
Der vierte Fragetyp im Testset: Fragen ohne hinterlegte Antwort. Erfindet die KI etwas, ist sie nicht einsatzreif (Braintrust).
Desktop = Single-User
Die kostenlose App ist laut Hersteller eine Single-Player-Anwendung: keine Rollen. Echte Rechte gibt es nur unter Docker.
Grenzen & DSGVO
RAG kann nicht zählen und keine Live-Daten liefern. Dafür sind Einträge gezielt löschbar — beim trainierten Modell nicht (DSK).