Große Sprachmodelle wie ChatGPT oder Gemini wirken oft erstaunlich intelligent. Sie sind Meister darin, Dinge in perfekte Sprache zu gießen und den Eindruck entstehen zu lassen, hier arbeite eine überlegene, allwissende Intelligenz. Inzwischen hat sich jedoch etwas mehr Realismus breitgemacht, wie auch aus der kürzlichen Umfrage unter Brancheninsidern hervorging (siehe Artikel). Ein Essay des Gründers von Cognitive Resonance (spezialisiert darauf, Menschen die Chancen und Grenzen von KI nahezubringen) wirft einen kritischen Blick auf den KI-Hype, welcher auch unter Neurowissenschaftlern widersprechen lässt.


AGI? Nicht mit den heutigen Ansätzen
Mehrere namhafte Forscher, darunter Evelina Fedorenko und Steven Piantadosi, kritisieren beispielsweise die verbreitete Annahme, große KI-Modelle stünden kurz vor einer "Allgemeinen künstlichen Intelligenz" (AGI). Tech-CEOs wie Sam Altman oder Marc Zuckerberg wollen dabei ein Bild vermitteln, welches Investoren sehr gerne hören. Aus neurowissenschaftlicher Sicht sei diese Behauptung jedoch gänzlich unbelegt – und basiere zudem auf einer zentralen Falschannahme. Sprache sei bei Menschen ein Werkzeug und nicht die Grundlage des Denkens. Das menschliche Gehirn besitze gesonderte Netzwerke hierfür, die unabhängig voneinander fungieren können.

Überhöhung der Fortschritte
Wenn Altman und Zuckerberg nun über AGIs philosophieren, überhöhen sie die tatsächlichen Fortschritte von KI-Tools massiv und begehen den Denkfehler, sprachliche Kompetenz mit menschlicher Intelligenz gleichzusetzen. Der aktuelle Hype beruhe somit auf einem fundamentalen Missverständnis, was unser Denken ausmacht. Selbstwahrnehmung, echtes Verständnis und kein starres konzeptionelles Denken seien Aspekte, die komplett anderen Prinzipien folgen, als aktuelle Sprachmodelle. Damit könne ein Sprachmodell, das nur Texte verarbeitet, nie dieselben kognitiven Fähigkeiten entwickeln wie ein Mensch.

Echte Intelligenz möglich, doch nicht mit aktuellen Ansätzen
Allerdings: Die Kritik soll keineswegs darauf abzielen, dass hier nur unrealistische Science Fiction verkauft wird. Die Forscher argumentieren, echte maschinelle Intelligenz sei durch Abbilden von Weltwissen-Strukturen, Physik und Kausalität durchaus möglich. In der Branche wähle man aber konsequent einen Ansatz, der KI zwar intelligent erscheinen lässt, allerdings in erster Linie auf Imitation menschlicher Sprache beruht. Der "Large Language Mistake" bestehe darin, dass die heutige "KI-Bubble" darauf baue, derlei Kritik vollständig zu ignorieren.