Was ist Prompt Engineering? Definition, Techniken und Grenzen
Prompt Engineering bezeichnet die Praxis, Eingaben für Sprachmodelle so zu gestalten, dass sie zuverlässig die gewünschte Ausgabe erzeugen. Der Begriff etablierte sich 2020 mit dem GPT-3-Paper von OpenAI und wurde ab dem 30. November 2022, dem Start von ChatGPT, zum Massenthema. Für Unternehmen entscheidet die Prompt-Qualität darüber, ob ein KI-Assistent brauchbare Ergebnisse liefert oder plausibel klingende Fehler produziert.
Wie das Prompt Engineering entstand
Den Ausgangspunkt bildet die Arbeit „Language Models are Few-Shot Learners“ von Tom Brown und Kollegen (OpenAI, Juni 2020). Sie zeigte, dass GPT-3 mit 175 Milliarden Parametern Aufgaben lösen kann, ohne für jede davon nachtrainiert zu werden – vorausgesetzt, man schreibt einige Beispiele direkt in die Eingabe. Zuvor war für jeden Anwendungsfall Fine-Tuning nötig. Da GPT-3 nur 2.048 Token Kontext verarbeitete, war der Prompt das einzige Steuerinstrument. Genau daraus entstand ein eigener Arbeitsbereich.
Welche Techniken haben sich durchgesetzt?
- Zero-Shot und Few-Shot: Aufgabenbeschreibung ohne bzw. mit zwei bis fünf Beispielen.
- Chain-of-Thought: Jason Wei und Kollegen (Google) zeigten 2022, dass Zwischenschritte im Prompt die Trefferquote bei Rechen- und Logikaufgaben deutlich erhöhen.
- Tree of Thoughts und ReAct: Verfahren aus dem Jahr 2023, bei denen das Modell mehrere Denkpfade prüft oder Werkzeuge wie Suchmaschinen und Code-Interpreter einbindet.
- Retrieval Augmented Generation (RAG): 2020 bei Facebook AI entwickelt; das Modell bekommt relevante Dokumente in den Kontext, statt Wissen im Modell zu vermuten.
- Formatvorgaben: erzwungene JSON- oder Tabellenausgaben, damit Maschinen weiterarbeiten können.
Warum Prompt Injection zum Sicherheitsproblem wird
Prompt Injection beschreibt den Angriff, bei dem Schadtext in einer Webseite, E-Mail oder einem PDF das Modell dazu bringt, seine ursprünglichen Anweisungen zu ignorieren. Riley Goodside prägte den Begriff 2022. Die OWASP Foundation führt Prompt Injection in ihrer Liste der zehn größten Risiken für LLM-Anwendungen auf Platz eins. Bemerkenswert: Das Problem lässt sich nicht durch besseres Prompting lösen, sondern nur durch Architektur – Rechtebeschränkungen, Filter und menschliche Freigabe kritischer Aktionen.
Was verdienen Prompt Engineers – und bleibt der Beruf?
2023 sorgte eine Stellenanzeige von Anthropic mit einem Gehaltsrahmen von bis zu 335.000 US-Dollar für Schlagzeilen. Ein etablierter Ausbildungsberuf ist daraus nicht geworden. OpenAI-Chef Sam Altman erklärte Anfang 2024, Prompting werde mit leistungsfähigeren Modellen an Bedeutung verlieren. Gleichzeitig wachsen die Kontextfenster: von 2.048 Token bei GPT-3 über 128.000 bei GPT-4 Turbo (November 2023) bis zu einer Million Token bei Gemini 1.5 Pro (Februar 2024). Werkzeuge wie DSPy (Stanford, 2023) optimieren Prompts bereits automatisch.
Was das in der Praxis bedeutet
Prompt Engineering ist keine Sammlung von Zauberformeln, sondern eine iterative Methode: Aufgabe präzise beschreiben, Kontext und Beispiele liefern, Ausgabeformat festlegen, Ergebnis messen und nachschärfen. Weil Sprachmodelle nicht deterministisch arbeiten, liefert derselbe Prompt bei unterschiedlicher Temperatur unterschiedliche Antworten – Evaluation und Testfälle sind deshalb wichtiger als der eine perfekte Satz. In der Praxis verschiebt sich die Kompetenz zunehmend von Formulierungskunst zu Domänenwissen, Datenqualität und systematischer Bewertung.
Absehbar ist, dass Prompt Engineering nicht verschwindet, sondern in breitere Rollen aufgeht: Wer KI-Systeme baut, definiert künftig Prompts, Bewertungsdaten und Sicherheitsregeln gemeinsam. Die nächste Stufe ist die automatische Prompt-Optimierung, bei der Modelle ihre eigenen Anweisungen gegen messbare Kriterien verbessern.
