Was selbst ihre Schöpfer nicht verstehen
Es gibt etwas an der künstlichen Intelligenz, das mich besonders fasziniert. Es ist nicht einfach, dass sie Fragen beantworten, Texte schreiben oder Probleme lösen kann. Sondern dass sie Fähigkeiten entwickelt, die ihre eigenen Schöpfer nicht vollständig vorhergesehen hatten.
Gestern habe ich in Lenny's Podcast ein Interview mit Emmanuel Ameisen gehört, einem Forscher bei Anthropic, der darauf spezialisiert ist zu verstehen, was im Inneren großer KI-Modelle passiert.
Das Überraschende ist, dass ihre eigenen Schöpfer nicht vollständig verstehen, wie sie innen funktionieren.
Wir wissen, wie man sie baut und trainiert, aber wir verstehen nicht immer, wie sie zu bestimmten Schlussfolgerungen gelangen oder warum sie Fähigkeiten entwickeln, die ihnen niemand ausdrücklich beigebracht hat.
Systeme, die wachsen – keine Programme
Ameisen erklärt, dass diese Modelle eher Systemen ähneln, die wir durch Lernen wachsen lassen, als herkömmlichen Programmen, in denen wir jedes Verhalten festgelegt haben.
Die Forscher entdecken, dass die Modelle interne Repräsentationen von Begriffen aufbauen, Beziehungen herstellen und Strategien entwickeln, die niemand direkt programmiert hat.
All das geschieht durch mathematische Operationen. Nicht weil die Modelle neue mathematische Gesetze erfinden, sondern weil das Training Milliarden von Parametern so lange ordnet, bis Mechanismen entstehen, die wir noch immer zu verstehen versuchen.
Das ist eine außergewöhnliche Situation: Wir haben diese Systeme geschaffen und müssen sie jetzt erforschen, um herauszufinden, wie sie gelernt haben zu denken.
Eine Frage, die über KI hinausgeht
Und während ich das Interview hörte, kam mir eine Frage, die weit über künstliche Intelligenz hinausgeht.
Was, wenn Mathematik nicht einfach ein Werkzeug wäre, das wir entdeckt haben, um die Welt zu verstehen? Was, wenn wir selbst Mathematik wären?
Was, wenn wir es genau umgekehrt verstanden haben?
Wir haben immer gedacht, dass wir Menschen die Mathematik entdeckt haben, um das Universum zu erklären. Aber die Beziehungen, die sie beschreibt, gab es lange vor uns.
Die Planeten zogen ihre Bahnen schon vor Newton. Atome wechselwirkten, bevor es die Chemie gab. Und unsere Gehirne funktionieren durch physikalische Prozesse, die ebenfalls denselben Gesetzen gehorchen.
Eine Sprache, ein Gesicht, ein Gehirn
Denken wir an etwas so Alltägliches wie das Erlernen einer Sprache. Unser Gehirn entdeckt Muster, stellt Beziehungen her und bildet am Ende Sätze, die es nie gehört hat. Interessanterweise tun KI-Modelle etwas Ähnliches – mit völlig anderen Mechanismen, die auf mathematischen Operationen beruhen.
Oder denken wir an unsere Fähigkeit, ein Gesicht unter Tausenden wiederzuerkennen. Wir tun es fast augenblicklich, ohne erklären zu können, wie. Heute kann ein künstliches neuronales Netz eine ähnliche Fähigkeit entwickeln, indem es Beziehungen in riesigen Datenmengen lernt.
Das heißt nicht, dass unsere Gehirne genauso funktionieren wie eine künstliche Intelligenz. Aber es wirft etwas Faszinierendes auf: Vielleicht hängt Intelligenz weniger von dem Material ab, aus dem wir bestehen, als von den Beziehungen zwischen seinen Bestandteilen.
Und wenn diese Beziehungen mathematisch sind – was sind wir dann wirklich?
Eine Hypothese, keine Gewissheit
Vielleicht ist Mathematik nicht einfach eine Sprache, die wir erfunden haben, um die Wirklichkeit zu beschreiben, sondern Teil der Struktur der Wirklichkeit selbst.
Bewiesen ist das nicht. Dass sich etwas mathematisch beschreiben lässt, bedeutet nicht unbedingt, dass es Mathematik ist. Aber was wir bei der künstlichen Intelligenz beobachten, macht es lohnenswert, darüber nachzudenken.
Denn es hat etwas Außergewöhnliches, dass eine Menge mathematischer Operationen lernen, denken und Fähigkeiten entwickeln kann, die nicht einmal ihre Schöpfer ganz verstehen.
Mathematik, die sich selbst entdeckt
Was, wenn wir ein weiteres Beispiel für dasselbe Phänomen sind – entstanden durch Millionen Jahre biologischer Evolution statt durch künstliches Training?
Vielleicht sind wir keine Wesen, die die Mathematik von außen entdeckt haben.
Vielleicht sind wir ein Teil des Universums, der, auf eine bestimmte Weise organisiert, die Fähigkeit erlangt hat, die Regeln zu verstehen, die ihn möglich gemacht haben.
Und vielleicht haben wir die Mathematik gar nicht entdeckt. Vielleicht sind wir die Mathematik, die sich selbst entdeckt.
DuckDik ist ein Wellnessprodukt. Es ist kein Medizinprodukt, stellt keine Diagnosen und ersetzt nicht den Rat einer medizinischen Fachkraft. Bei Beschwerden wende dich an deinen Arzt.
