Fine-Tuning

Was ist Fine-Tuning?

Fine-Tuning passt ein vortrainiertes Basismodell mit einer deutlich kleineren, spezialisierten Beispielmenge weiter an. Statt Milliarden allgemeiner Textbeispiele wie beim Basistraining kommen tausende gezielt ausgewählte Beispiele zum Einsatz - das im Basistraining gelernte Grundwissen soll dabei größtenteils erhalten bleiben.

Wie es funktioniert

Fine-Tuning läuft technisch wie das ursprüngliche Training ab: Das Modell sagt Token vorher, Abweichungen von den gewünschten Antworten führen zu kleinen Parameter-Anpassungen. Der Unterschied liegt im Umfang und in der Auswahl der Daten - statt breiter Internet-Texte werden gezielt Beispiele für die gewünschte Aufgabe oder den gewünschten Stil verwendet.

Warum Fine-Tuning ein komplettes Neutraining erspart

Ein Basismodell komplett neu zu trainieren wäre für die meisten Anwendungsfälle unwirtschaftlich. Fine-Tuning erlaubt es, vorhandenes Sprachverständnis wiederzuverwenden und nur das Antwortverhalten in eine bestimmte Richtung zu verschieben. Das macht spezialisierte Modelle mit deutlich weniger Rechenaufwand möglich als ein komplettes Neutraining.

Fine-Tuning ersetzt dabei kein sauber formuliertes Prompting und ist kein Mittel, um dem Modell aktuelle Fakten “beizubringen”, die sich häufig ändern - dafür eignen sich andere Ansätze wie Retrieval besser. Fine-Tuning verschiebt vor allem Verhalten und Stil, nicht primär den Wissensstand des Modells.

Warum Fine-Tuning praktische Auswirkungen hat

• Kosten: Deutlich günstiger als ein komplettes Neutraining, weil vorhandenes Sprachverständnis wiederverwendet wird
• Spezialisierung: Ermöglicht Modelle, die auf einen bestimmten Tonfall, ein Fachgebiet oder ein Antwortformat zugeschnitten sind
• Format-Prägung: Einheitlich strukturierte Fine-Tuning-Daten können die Flexibilität einschränken, mit der ein Modell auf unterschiedliche Prompt-Formate reagiert

Typisches Beispiel

Ein Basismodell wird mit Beispieldialogen darauf trainiert, Anweisungen zu befolgen und in einem bestimmten Tonfall zu antworten - das Ergebnis wird oft als Chatmodell oder Instruct-Modell bezeichnet, im Unterschied zum reinen Basismodell.

Weiterführend

Grundlagen → Wie ein Sprachmodell funktioniert

Verwandte Begriffe → Training
→ Parameter