Große KI-Modelle werden mit enormem Aufwand auf allgemeinen Daten trainiert. Ein solches Foundation Model beherrscht viele Aufgaben ordentlich, ist aber nicht auf die Besonderheiten eines bestimmten Einsatzes zugeschnitten. Fine-Tuning setzt hier an: Statt ein Modell von Grund auf neu zu trainieren, wird ein bestehendes mit vergleichsweise wenigen, passenden Beispielen weiter angepasst.

Für Unternehmen stellt sich dabei vor allem die Frage, wann sich dieser Aufwand lohnt und wann einfachere Wege ausreichen.

Wie funktioniert Fine-Tuning?

Grundlage ist ein Datensatz mit Beispielen, die zeigen, wie das Modell reagieren soll. Bei Sprachmodellen sind das meist Paare aus Eingabe und gewünschter Ausgabe, etwa eine Kundenanfrage und die passende Kategorie oder eine Stichwortnotiz und der daraus formulierte Bericht. Mit diesen Beispielen wird das Training fortgesetzt, und die Parameter des Modells verschieben sich in Richtung des gewünschten Verhaltens.

Zwei Varianten sind verbreitet:

Vollständiges Fine-Tuning: Alle Parameter werden angepasst. Das ist rechenintensiv und bei großen Modellen aufwendig.
Parametereffizientes Fine-Tuning: Nur ein kleiner Teil zusätzlicher Parameter wird trainiert, etwa mit dem Verfahren LoRA. Das spart Rechenleistung und Speicher.

Manche Anbieter von KI-Modellen bieten Fine-Tuning als Clouddienst an. Offene Modelle lassen sich auch auf eigener Hardware anpassen.

Wofür Fine-Tuning eingesetzt wird

Einheitliche Ausgabeformate, etwa strukturierte Daten für die Weiterverarbeitung
Ein fester Schreibstil oder eine bestimmte Tonalität
Klassifikationsaufgaben mit unternehmensspezifischen Kategorien
Kleinere, günstigere Modelle für eine eng umrissene Aufgabe leistungsfähiger machen

Worauf Unternehmen achten sollten

Einfachere Wege zuerst: Oft erreichen gutes Prompt Engineering oder mitgelieferte Dokumente das Ziel schneller und günstiger.
Datenqualität: Fehlerhafte oder widersprüchliche Beispiele werden mitgelernt. Wenige, sorgfältig geprüfte Beispiele sind oft wertvoller als große, ungeprüfte Mengen.
Personenbezogene Daten: Was in die Trainingsdaten eingeht, lässt sich aus einem Modell kaum gezielt wieder entfernen. Solche Daten sollten vorab entfernt oder pseudonymisiert werden.
Messbar bewerten: Vor und nach dem Training an denselben Testfällen prüfen, ob sich das Ergebnis tatsächlich verbessert.
Wartung einplanen: Erscheint ein neues Basismodell, muss das Fine-Tuning in der Regel wiederholt werden.

Abgrenzung

Fine-Tuning verändert das Verhalten eines Modells, eignet sich aber nur bedingt, um ihm aktuelles Faktenwissen beizubringen. Dafür ist Retrieval-Augmented Generation meist besser geeignet, weil sich Dokumente jederzeit austauschen lassen.

KI-Beratung ansehen