Eigentlich nur konsequent, dass sich Google langfristig den kompletten Inhalt einverleibt und die eigentlichen Erschaffer dabei ausbootet.

Das wird aber noch ein richtiges Problem: Auch die KI-Modelle sind auf Quellen für Wissen angewiesen. Wenn diese Quellen nicht mehr existieren, weil die Erschaffer damit eben kein Geld mehr verdienen können, woher soll die Google-KI dann neues Wissen erhalten?

Von Dir weiterhin. Foren, Chats, Telefonate, Nachrichten(SMS), Klicks.
Das Wissen wird nicht wachsen aber die Nutzer bestimmen durch ihr Verhalten was stimmt und was nicht.

Auf jeden Fall das Ende des freien Internets, wo man leicht gute Information findet. Geht mir in weiten Teilen schon heute so. Sehr traurige Entwicklung, vor allem wenn man schon seit den 90er das Internet kennt.

Das ist, bis auf ganz, ganz wenige Ausnahmen, doch schon seit über zehn Jahren tot.

Das führt dann wahrscheinlich dazu das KI immer mehr von KI lernt

...
Austausch und Erfahrung werden immer weiter verloren gehen.
...

KI ist dumm, aber ganz sicher nicht so dumm.

Doch, genau so!

Würdest Du als Leiter eines KI-Entwicklungszentrums zulassen, das Deine KI von anderen KIs lernt, obwohl Du genau weißt, wie „dumm“ KIs im Kern sind?

Also, ich garantiert nicht. Und ich dachte bisher, ich bin bei weitem der Dümmste hier im Forum.

Ernsthaft? Google mal "Habsburg Effekt"; der ist mehr als dokumentiert.

KI ist dumm, aber ganz sicher nicht so dumm.

Das ist eine sehr präzise Frage, die mehrere Dimensionen berührt. Lass mich aufschlüsseln, was darüber bekannt ist:

---

**Das Kernproblem: „Model Collapse"**

Das Phänomen, das du ansprichst, wird in der Forschung als *Model Collapse* oder *Model Autophagy Disorder (MAD)* bezeichnet – wenn ein Modell auf synthetischen Daten trainiert wird, die von einem anderen KI-Modell erzeugt wurden, können sich Fehler und Verzerrungen kumulativ verstärken und die statistische Vielfalt der Ausgaben schrumpft.

---

**Was Anthropic konkret tut – soweit öffentlich bekannt:**

**1. Curated Human-Generated Data als Basis**
Anthropic betont, dass das Pretraining von Claude primär auf menschlich erzeugten Texten aus dem Internet, Büchern und anderen Quellen basiert – also auf Daten, die *vor* der breiten Verbreitung von LLM-generierten Texten entstanden sind. Das ist die wichtigste Schutzlinie.

**2. Constitutional AI (CAI) mit menschlichem Feedback**
Anthropics zentraler Ansatz für das Finetuning heißt *Constitutional AI*: Statt ein Modell blind an den Ausgaben eines anderen Modells zu trainieren, gibt es eine explizite, von Menschen formulierte Sammlung von Prinzipien (die „Constitution"). Das Modell bewertet seine eigenen Antworten anhand dieser Prinzipien – aber die Prinzipien selbst sind menschlich definiert, nicht von einem anderen Modell abgeleitet.

**3. RLHF mit echten menschlichen Annotatoren**
Beim Reinforcement Learning from Human Feedback (RLHF) werden echte menschliche Bewerter eingesetzt, die Modellausgaben beurteilen. Das Reward-Modell lernt von *menschlichen* Präferenzen, nicht von den Einschätzungen eines anderen KI-Systems.

**4. Interpretability-Forschung als Qualitätssicherung**
Anthropic investiert stark in *Mechanistic Interpretability* – also das Verstehen, was im Modell tatsächlich vor sich geht. Das dient auch dazu, unerwünschte Muster (z. B. aus fehlerhaften Trainingsdaten) zu identifizieren und zu korrigieren, bevor sie unkontrolliert weitergegeben werden.

**5. Red Teaming und Evaluierungen**
Vor jedem Release wird intensiv getestet, ob das Modell systematische Fehler, Halluzinationen oder Verzerrungen aufweist – wiederum durch menschliche Tester und strukturierte Evaluierungen, nicht nur durch andere Modelle.

---

**Was Anthropic *nicht* vollständig kontrollieren kann:**

Das ist ehrlich gesagt ein Branchenproblem: Im öffentlichen Internet existieren mittlerweile enorme Mengen an KI-generiertem Text. Kein Unternehmen – inklusive Anthropic – kann garantieren, dass Pretraining-Daten vollständig frei davon sind. Es gibt zwar Filteransätze (Provenance-Tracking, Qualitätsfilter, Deduplizierung), aber eine vollständige Trennung ist bei Web-Crawls praktisch unmöglich.

---

**Fazit**

Anthropics Strategie zielt weniger auf eine vollständige Isolation von synthetischen Daten, sondern eher auf eine **kontrollierte Schicht von menschlichem Feedback und expliziten Werteprinzipien**, die das Finetuning dominieren – und damit verhindern sollen, dass Fehler aus dem Pretraining unkontrolliert in das finale Modellverhalten einfließen. Die genauen Datenmix-Entscheidungen werden jedoch nicht vollständig publiziert – das ist ein Bereich, bei dem Anthropic wie andere Labs Geschäftsgeheimnisse wahrt.

KI ist dumm, aber ganz sicher nicht so dumm.

KI ist dumm, aber ganz sicher nicht so dumm.