Die Kurzantwort
Ein LLM (Large Language Model, großes Sprachmodell) ist eine Software, die mit sehr vielen Texten trainiert wurde. Sie hat dabei gelernt, wie Sprache aufgebaut ist. Dadurch kann sie Texte schreiben, zusammenfassen, übersetzen, ordnen und Fragen beantworten.
Wie funktioniert das, ohne Technik?
Vereinfacht gesagt hat das Modell gelernt, welches Wort in einem Zusammenhang wahrscheinlich als Nächstes kommt. Aus Ihrer Eingabe baut es Wort für Wort eine Antwort. Ohne angebundene Werkzeuge schlägt es dabei nichts nach und „weiß“ nichts im menschlichen Sinn. Es erzeugt Text, der passend klingt. Meistens ist der auch richtig, aber eben nicht immer.
Merkhilfe: Stellen Sie sich einen sehr belesenen Praktikanten am ersten Tag vor. Er formuliert schnell und gut, kennt aber Ihren Betrieb nicht und hat keinen Zugang zu Ihren Unterlagen.
Das kann ein LLM gut
- Texte entwerfen, etwa Antworten, Angebotsentwürfe oder Zusammenfassungen
- Informationen ordnen und in eine bestimmte Form bringen (Liste, Tabelle, kurzer Text)
- Übersetzen und sprachlich glätten
- Ideen und Alternativen liefern
Hier liegen die Grenzen
- Es kann sich irren und klingt dabei überzeugt. Fachleute nennen erfundene Angaben „Halluzinationen“. Zahlen, Fristen und Zitate müssen deshalb geprüft werden.
- Es kennt Ihren Betrieb nicht, solange Sie ihm nichts darüber sagen. Ohne Anbindung kennt es auch keine aktuellen Ereignisse.
- Es hängt von Ihrer Eingabe ab. Eine unklare Bitte ergibt einen unklaren Entwurf.
- Datenschutz: Was Sie eingeben, geht an den Anbieter des Modells. Bei Personen- oder Kundendaten müssen Zweck, Vertrag und mögliche Datenübermittlung in Drittländer vorher geklärt sein.
Was heißt das für Ihren Betrieb?
Ein LLM eignet sich gut für Entwürfe, Ordnung und Zusammenfassungen, also für Arbeit, die Sie ohnehin prüfen. Für Entscheidungen, rechtlich verbindliche Aussagen oder Zahlungen eignet es sich nicht ohne menschliche Kontrolle.
Faustregel: Entwurf ja, Entscheidung nein.
Damit aus einem Sprachmodell ein Helfer wird, der in Ihrem Betrieb Aufgaben erledigt, braucht es einen Rahmen aus Werkzeugen, Gedächtnis, Regeln und Freigaben. Den nennt man Harness. Was ein Harness ist, erklären wir im nächsten Beitrag.
Häufige Fragen
Ist ChatGPT ein LLM?
ChatGPT ist eine Anwendung, die auf einem Sprachmodell beruht. Auch Claude und Gemini sind solche Anwendungen. Das Sprachmodell ist der Motor, die Anwendung das Fahrzeug darum herum.
Lernt das Modell aus meinen Eingaben?
Das hängt vom Anbieter und den Einstellungen ab. Prüfen Sie vor dem Einsatz mit Firmen- oder Personendaten die Vertragsbedingungen, vor allem zur Verarbeitung Ihrer Eingaben. Bei ILDEKI nutzen Sie Ihren eigenen KI-Zugang; ihn richten wir gemeinsam mit Ihnen ein und klären dabei die Vertragsbedingungen.
Brauche ich ein eigenes Modell?
Für die meisten Betriebe nicht. Man nutzt ein vorhandenes Modell eines Anbieters. Entscheidend ist, wie es eingerichtet ist: welche Aufgaben es bekommt, welche Regeln gelten und wo ILDEKI nachfragt und wo Sie prüfen.