Viele bringen einem Sprachmodell eigenes Wissen bei, indem sie es trainieren. Das ist meist der falsche Weg.

Es gibt zwei Wege, ein Sprachmodell an eigene Inhalte heranzuführen. Beide begegnen Einsteigern sofort, wenn eine KI firmeigenes Wissen nutzen soll.

Zuerst wird der Zweck festgelegt. Steht ein Verhalten im Fokus, etwa ein fester Ton oder ein Antwortschema, passt Fine-Tuning. Dabei wird ein vortrainiertes Modell mit eigenen Beispielen weitertrainiert. Neues Faktenwissen lernt es dabei unzuverlässig und veraltet schnell.

Dann wird geprüft, ob eigentlich Wissen fehlt. Geht es um aktuelles oder firmeninternes Wissen, ist RAG das richtige Werkzeug. Retrieval-Augmented Generation heißt: Vor der Antwort werden passende Textstellen aus einer eigenen Dokumentensammlung gesucht und in den Prompt, die Texteingabe des Modells, eingefügt. Das Modell selbst bleibt unverändert.

Danach entscheidet die Aktualisierungshäufigkeit. Beim RAG bleibt das Wissen in der Sammlung; aktualisieren heißt, eine Datei auszutauschen. Ein feingetuntes Modell braucht für jede Änderung ein neues Training. Wissensfragen per Fine-Tuning lösen zu wollen, führt zudem zu Halluzinationen: flüssigen, plausiblen, aber falschen Ausgaben, weil das Modell keine geprüften Fakten hat.

Zuletzt wird die Datenmenge auf den Zweck beschränkt. Datenminimierung nach Artikel 5 der Datenschutz-Grundverordnung (DSGVO) verlangt, dass personenbezogene Daten auf das notwendige Maß beschränkt bleiben. Für die Frage „Wie antworte ich höflich?“ gehören Kundennamen und E-Mail-Adressen nicht in die Trainingsdaten.

Daraus folgt: Fine-Tuning ändert das Verhalten, RAG gibt Wissen mit. Wer die Reihenfolge vertauscht, zahlt mit Halluzinationen.

📌 Verhalten vs. Wissen · RAG · Datenminimierung

📚 KI von Grund auf · Tag 6 von 30
#llm #rag #datenschutz #ki