Large Language Model
Ein Large Language Model ist ein neuronales Netz, das auf sehr großen Textmengen trainiert wurde und daraus gelernt hat, Sprache zu verstehen und zu erzeugen. Es berechnet für eine Eingabe Wort für Wort die wahrscheinlichste Fortsetzung und erzeugt so Texte, Antworten, Zusammenfassungen oder Code.
Auch bekannt als: Sprachmodell, großes Sprachmodell, Foundation Model, Basismodell
Was ist ein Large Language Model?
Ein Large Language Model ist ein neuronales Netz, das auf sehr großen Textmengen trainiert wurde und daraus gelernt hat, Sprache zu verstehen und zu erzeugen. Es berechnet für eine Eingabe Wort für Wort die wahrscheinlichste Fortsetzung und erzeugt so Texte, Antworten, Zusammenfassungen oder Code.
Die Abkürzung LLM ist im Alltag gebräuchlicher als der ausgeschriebene Begriff. Dieser Eintrag erklärt die Technik dahinter: wie ein solches Modell aufgebaut ist, wie es trainiert wird und warum es sich so verhält, wie es sich verhält. Wer stattdessen wissen will, was die Abkürzung für die Auswahl eines Werkzeugs im Unternehmen bedeutet, findet das im Eintrag zu LLM.
“Large” bezieht sich auf zwei Dinge: die Menge der Trainingsdaten, die einen erheblichen Teil des öffentlich zugänglichen Textwissens umfasst, und die Zahl der Parameter, also der inneren Stellschrauben des Netzes, die in die Milliarden geht. Diese Größe ist der Grund, warum die Modelle Fähigkeiten zeigen, die frühere, kleinere Sprachmodelle nicht hatten: Sie fassen zusammen, übersetzen, argumentieren, programmieren und folgen komplexen Anweisungen, ohne dass sie für jede dieser Aufgaben einzeln trainiert wurden.
So entsteht ein Large Language Model
Der Aufbau eines Modells läuft in mehreren Phasen ab. In der ersten Phase, dem Vortraining, bekommt das Netz riesige Textmengen vorgelegt und lernt eine einzige Aufgabe: das nächste Wort vorherzusagen. Aus einem Satzanfang wie “Die Rechnung ist innerhalb von 14 Tagen” soll es “zahlbar” oder “fällig” ableiten. Milliardenfach wiederholt, entsteht daraus ein Modell, das Grammatik, Fakten, Stil und Zusammenhänge in seinen Parametern abgebildet hat.
Genau genommen arbeitet das Modell nicht mit Wörtern, sondern mit Token, also Textbausteinen, die ein Wort, ein Wortteil oder ein Satzzeichen sein können. Jeder Token wird in eine Zahlenfolge übersetzt, ein sogenanntes Embedding, mit dem das Netz rechnen kann.
In der zweiten Phase wird das Modell auf das Verhalten als Assistent ausgerichtet. Es lernt anhand von Beispielen, Anweisungen zu befolgen, Fragen zu beantworten und in einem Dialog zu bleiben. In der dritten Phase bewerten Menschen Antworten, und das Modell wird so angepasst, dass es hilfreiche, korrekte und unbedenkliche Antworten bevorzugt. Anthropic verwendet für Claude darüber hinaus eigene Verfahren, bei denen das Modell anhand festgelegter Grundsätze trainiert wird.
Nach dem Training sind die Parameter fest. Das Modell lernt im Betrieb nichts hinzu. Alles, was es über Ihr Unternehmen wissen soll, muss ihm bei jeder Anfrage mitgegeben werden.
Wie das Modell eine Antwort erzeugt
Die Architektur hinter heutigen Modellen heißt Transformer. Ihr wichtigster Mechanismus ist die Aufmerksamkeit (Attention): Beim Verarbeiten jedes Tokens gewichtet das Modell, welche anderen Token in der Eingabe für die Fortsetzung relevant sind. So erkennt es, dass sich “sie” in einem langen Satz auf “die Kundin” bezieht und nicht auf “die Rechnung”. Dieser Mechanismus erlaubt es, Zusammenhänge über sehr lange Texte hinweg zu verfolgen.
Die Erzeugung läuft schrittweise. Das Modell erhält die gesamte Eingabe, also Anweisungen, Dokumente und Gesprächsverlauf, und berechnet eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Token. Ein Token wird ausgewählt, an die Eingabe angehängt, und der Vorgang beginnt von vorn. Eine Antwort mit 300 Wörtern entsteht also aus mehreren hundert einzelnen Vorhersagen.
Bei der Auswahl des nächsten Tokens spielt der Zufall mit. Der Parameter Temperature steuert, ob das Modell stets das wahrscheinlichste Token nimmt oder auch weniger wahrscheinliche zulässt. Das erklärt, warum dieselbe Frage zu leicht unterschiedlichen Antworten führt.
Die Menge an Text, die das Modell bei einer Anfrage berücksichtigen kann, ist durch das Kontextfenster begrenzt. Bei den aktuellen Claude-Modellen umfasst es mehrere hunderttausend Token, genug für umfangreiche Dokumente und lange Gespräche.
Was das Modell kann und was nicht
Aus der Funktionsweise ergeben sich Stärken und Schwächen, die für den Einsatz im Unternehmen entscheidend sind. Das Modell ist stark bei allem, was Sprache betrifft: formulieren, strukturieren, zusammenfassen, übersetzen, umschreiben, Fragen zu vorgelegten Texten beantworten, Code schreiben. Es hat außerdem breites Allgemeinwissen aus dem Training.
Schwächen ergeben sich aus demselben Prinzip. Das Modell erzeugt plausible Fortsetzungen, nicht geprüfte Wahrheiten. Wenn ihm Wissen fehlt, kann es eine überzeugend klingende Antwort erfinden, eine Halluzination. Sein Wissen hat einen Stichtag, nach dem es nichts mehr aus dem Training kennt. Rechnen fällt ihm schwerer als Schreiben, weil Zahlen als Token und nicht als Werte verarbeitet werden. Und es kennt Ihre internen Daten nicht, solange Sie sie nicht bereitstellen.
Viele dieser Schwächen lassen sich durch das Umfeld ausgleichen: Websuche liefert aktuelle Informationen, Werkzeuganbindungen erlauben echtes Rechnen und Datenbankabfragen, Retrieval Augmented Generation versorgt das Modell mit Unternehmenswissen. Die Modelle bilden den Kern, die Anwendung entsteht aus Modell plus Umfeld.
Praxisbeispiel aus dem Unternehmensalltag
Ein Handelsunternehmen mit 60 Mitarbeitenden erhält täglich Lieferantenrechnungen mit unterschiedlichen Formaten, Sprachen und Zahlungsbedingungen. Die Buchhaltung nutzt Claude, um aus jeder Rechnung die relevanten Angaben zu extrahieren: Rechnungsnummer, Betrag, Fälligkeit, Skonto. Das Modell liest den Text, erkennt die Angaben unabhängig vom Layout und gibt sie in einer festen Struktur aus.
Was hier passiert, ist genau das, was ein Sprachmodell gut kann: Es versteht sprachliche Varianten wie “zahlbar innerhalb von 30 Tagen”, “net 30” oder “Zahlungsziel 30 Tage” als dieselbe Information. Was das Modell nicht tun sollte, ist selbst rechnen oder den Betrag gegen die Bestellung prüfen. Diese Schritte übernimmt die Buchhaltungssoftware, in die die extrahierten Daten übergeben werden. Die Aufgabenteilung folgt der Technik: Sprache an das Modell, Zahlen und Regeln an das System.
Bedeutung für kleine und mittelständische Unternehmen
Für KMU ist ein Grundverständnis der Funktionsweise wichtiger als jedes technische Detail. Wer weiß, dass ein Modell Wahrscheinlichkeiten berechnet, erwartet keine Fehlerfreiheit und baut Prüfungen ein. Wer weiß, dass das Modell nichts über das eigene Unternehmen weiß, stellt die nötigen Informationen bereit. Und wer weiß, dass Sprache die Kernkompetenz ist, sucht die Einsatzfelder dort, wo Text entsteht, gelesen oder umgewandelt wird.
Dieses Grundverständnis gehört auch zur KI-Kompetenz, die der EU AI Act in Artikel 4 von Unternehmen verlangt, die KI-Systeme einsetzen. Unsere KI-Schulung für Unternehmen vermittelt sie ohne Mathematik, aber mit den Konsequenzen für den Arbeitsalltag. Welche Einsatzfelder sich für den Einstieg eignen, zeigt der Artikel Claude im Unternehmen einsetzen. Wer die Modellauswahl für ein konkretes Vorhaben klären will, findet dafür Unterstützung in der Claude Beratung.
Vorteile und Grenzen
Der zentrale Vorteil eines Large Language Model ist seine Vielseitigkeit. Ein einziges Modell übernimmt Aufgaben, für die früher Dutzende spezialisierte Systeme nötig waren, und lässt sich in natürlicher Sprache steuern. Das senkt die Einstiegshürde für Unternehmen ohne eigene Entwicklungsabteilung erheblich.
Die Grenzen sind struktureller Natur: kein garantiert korrektes Wissen, kein Lernen im Betrieb, keine eigenen Daten, begrenzter Kontext. Keine dieser Grenzen spricht gegen den Einsatz, aber alle sprechen für einen Einsatz mit Prüfung, klaren Anweisungen und der richtigen Aufgabenteilung zwischen Modell, Software und Mensch.