In der Hochphase der KI-Entwicklung galt lange eine einfache Formel: Mehr Daten und mehr Rechenleistung führen zu besseren Modellen. Doch diese Logik stößt zunehmend an Grenzen – und das in einem Moment, in dem Meta, OpenAI und Google Milliarden in immer größere Systeme stecken.
Metas neuestes Sprachmodell „Behemoth“ ist ein Paradebeispiel für den aktuellen Stillstand. Trotz massiver Investitionen wurde der Start verschoben, das Modell ist fehleranfällig, der Leistungssprung bleibt aus. Auch OpenAI hat seit der Veröffentlichung von GPT-4 keinen echten Nachfolger präsentieren können. Die Branche steht vor einem Dilemma: Die Kosten explodieren, doch die Fortschritte werden kleiner.
Technisch liegt das unter anderem an den Grenzen der Architektur. Mehr Tiefe und Breite führen zu instabilerem Training oder massivem Speicherverbrauch. Gleichzeitig sind viele leicht zugängliche Trainingsdaten bereits aufgebraucht – neue Daten sind teuer oder schwer zu beschaffen. Selbst der Betrieb bestehender Modelle ist kostspielig: GPT-4 verschlingt täglich Hunderttausende Dollar.
Hinzu kommt ein zunehmendes Problem mit „Halluzinationen“. Je leistungsfähiger die Modelle, desto häufiger erfinden sie Fakten – ein Risiko besonders in sensiblen Bereichen wie Medizin oder Recht. OpenAI selbst gibt zu, dass ihre neuen experimentellen Modelle öfter danebenliegen als ältere Systeme.
Statt Generalisten sollen künftig spezialisierte KI-Modelle den Markt bestimmen – präzise, energieeffizient und besser integrierbar in bestehende Prozesse. OpenAIs „Operator“ ist ein Beispiel: Ein Assistent, der gezielte Aufgaben übernimmt, statt allgemeines Wissen bereitzustellen.
Auch der internationale Wettlauf verändert sich. Während die USA und China um Vorherrschaft bei der Entwicklung wetteifern, setzt Europa auf Regulierung – mit potenziell bremsenden Effekten. Gleichzeitig profitieren Firmen wie Nvidia weiter von der Chip-Nachfrage, während kleinere Unternehmen auf Nischenlösungen setzen.
Die Revolution pausiert nicht – sie nimmt nur eine neue Form an. Weg von immer größer, hin zu intelligenter: zuverlässiger, sparsamer, nützlicher.
Quelle: FAZ +