Large Language Models sind die Technik hinter Chat-Assistenten, Schreibhilfen und vielen KI-Funktionen in Bürosoftware. Seit Ende 2022 haben sie eine breite Öffentlichkeit erreicht und gehören heute zu den bekanntesten Formen generativer KI. Für Unternehmen sind sie interessant, weil sie mit natürlicher Sprache arbeiten: Aufgaben werden als Text beschrieben, nicht programmiert.
Wie funktioniert ein Large Language Model?
Ein LLM zerlegt Text in Tokens, also Wörter oder Wortbestandteile. Im Kern ist es darauf trainiert, für eine gegebene Tokenfolge vorherzusagen, welches Token als Nächstes am wahrscheinlichsten folgt. Wiederholt sich dieser Schritt, entstehen ganze Sätze und Texte.
Die Entwicklung erfolgt in mehreren Stufen. Im Vortraining lernt das Modell aus sehr großen Textsammlungen Grammatik, Zusammenhänge und Faktenwissen. Danach wird es mit ausgewählten Beispielen und menschlichem Feedback darauf abgestimmt, Anweisungen zu befolgen und hilfreich zu antworten. Technisch beruhen LLMs auf der Transformer-Architektur und besitzen oft Milliarden von Parametern.
Wichtig für das Verständnis: Ein LLM merkt sich zwischen einzelnen Anfragen nichts. Was es in einer Anfrage berücksichtigen kann, ist durch das Kontextfenster begrenzt. Ereignisse nach dem Ende seiner Trainingsdaten kennt es nur, wenn ihm aktuelle Informationen mitgegeben werden.
Typische Beispiele
- Entwürfe für E-Mails, Angebote oder Stellenausschreibungen erstellen
- Besprechungsprotokolle und lange Dokumente zusammenfassen
- Texte übersetzen oder in einfachere Sprache übertragen
- Anfragen im Service Desk vorsortieren und Antwortvorschläge liefern
- Fragen zu internen Dokumenten beantworten, kombiniert mit einer Suche in der eigenen Wissensbasis
Worauf Unternehmen achten sollten
- Fehler einplanen: LLMs können überzeugend klingende, aber falsche Aussagen erzeugen, sogenannte Halluzinationen. Wichtige Ergebnisse brauchen eine fachliche Prüfung.
- Datenverarbeitung klären: Vor der Nutzung prüfen, wo Eingaben verarbeitet werden, ob sie zum Training verwendet werden und welche Verträge gelten.
- Eigenes Wissen gezielt zuführen: Für Fragen zu internen Dokumenten eignet sich Retrieval-Augmented Generation besser, als auf das Wissen des Modells zu vertrauen.
- Sicherheit: Verarbeitet ein LLM fremde Inhalte wie E-Mails oder Webseiten, können darin versteckte Anweisungen stecken (Prompt Injection).
- Kosten im Blick behalten: Viele Dienste rechnen nach verarbeiteten Tokens ab. Lange Eingaben und Ausgaben erhöhen die Kosten.
Abgrenzung
Ein LLM ist das Modell selbst. Chat-Assistenten und KI-Funktionen in Anwendungen sind Produkte, die ein oder mehrere LLMs nutzen und um Bedienoberfläche, Suchfunktionen, Regeln und Datenanbindung ergänzen. Zwei Produkte mit demselben Modell können sich daher deutlich unterschiedlich verhalten.
KI-Assistenz ansehen