Prompt

Was ist ein Prompt?

Ein Prompt ist die Texteingabe, mit der ein Nutzer eine Berechnung eines Sprachmodells startet oder fortsetzt. Diese Eingabe wird Teil des aktuellen Kontexts, auf dessen Basis das Modell seine Antwort berechnet - noch bevor das Modell ein einziges eigenes Token generiert hat, steht bereits fest, worauf sich jede folgende Berechnung stützt. Ein Prompt ist damit kein Befehl im menschlichen Sinne, sondern Ausgangspunkt einer Token-für-Token-Berechnung.

Wie es funktioniert

Der Prompt wird zunächst tokenisiert und bildet den Anfang des Kontextfensters. Jedes vom Modell generierte Token wird auf Basis aller vorherigen Token berechnet - einschließlich des gesamten Prompts. Das Modell reagiert dabei auf die tatsächlich vorhandenen Token, nicht auf die dahinterliegende Absicht des Menschen.

Warum unterschiedliche Formulierungen unterschiedliche Antworten erzeugen

Weil das Modell kein vom konkreten Kontext unabhängiges Bedeutungsverständnis hat, verändert eine andere Formulierung mit identischem Sinn oft die Antwort. Unterschiedliche Formulierungen sind für das Modell unterschiedliche Token-Sequenzen, die im Training mit unterschiedlichen typischen Fortsetzungen verknüpft wurden.

Ein Prompt ist dabei keine Frage an ein verstehendes Gegenüber, sondern der Startpunkt einer statistischen Berechnung. Das Modell “merkt” sich einen Prompt nicht über die aktuelle Konversation hinaus - jede neue Konversation beginnt ohne Bezug zu früheren Prompts, sofern diese nicht erneut mitgegeben werden.

Warum Prompts praktische Auswirkungen haben

• Formulierung: Präzisere, spezifischere Formulierungen führen oft zu passenderen Antworten, weil sie im Training mit passenderen Fortsetzungen verknüpft waren
• Kontext-Verbrauch: Ein langer Prompt verbraucht einen Teil des verfügbaren Kontextfensters, bevor überhaupt eine Antwort beginnt
• Keine Garantie: Ein Prompt erzwingt kein bestimmtes Verhalten, sondern verschiebt nur, welche Fortsetzungen wahrscheinlicher werden

Typisches Beispiel

“Erkläre Docker” und “Was ist Docker?” bedeuten für einen Menschen dasselbe, führen bei einem Sprachmodell aber oft zu unterschiedlich ausführlichen Antworten, weil beide Formulierungen im Training mit unterschiedlichen typischen Fortsetzungen verknüpft wurden.

Weiterführend

Grundlagen → Prompts: Warum Formulierungen die Antwort verändern

Verwandte Begriffe → Tokenisierung
→ System-Prompt
→ Prompt Engineering
→ Kontextfenster