Warum KI frisches Blut braucht - der Habsburg-Effekt

KI-Training und das alte österreichische Adelsgeschlecht, das über viele Jahrhunderte große Teile Europas regierte – wie hängt das zusammen?

Dass das Training von KI mit personenbezogenen Daten rechtlich nicht immer ganz unproblematisch ist, haben wir dir hier schon oft gezeigt. Die großen Anbieter von KI-Systemen nutzen daher alle möglichen Tricks, um an deine Daten heranzukommen. Sie lassen sich in ihren AGBs zum Beispiel den Zugriff auf alle deine Inhalte geben.

Aber KIs produzieren mittlerweile doch auch selbst Unmengen von Daten als Ausgaben. Kann man nicht einfach mit den Texten, die eine KI schreibt, und den Bildern, die sie erstellt, neue KIs trainieren? Technisch wäre das möglich, aber da kommt der Habsburg-Effekt ins Spiel. Der beschreibt nämlich ein Phänomen von erblichen Veränderungen in dem Adelsgeschlecht über viele Generationen hinweg. Dabei entwickelten sich bei den Mitgliedern ein immer weiter hervorstehendes Kinn und eine verformte Nasen-Lippen-Partie. Diese genetische Fehlbildung, die die Betroffenen im Extremfall beim Sprechen stark einschränkte, ist eine Folge jahrhundertelangen Inzests. Mitglieder des Adelsgeschlechts heirateten nahe Verwandte und bekamen Kinder. Auch diese heirateten wiederum im näheren Verwandtschaftskreis, und so reproduzierten sich Fehler im Erbgut stärker, als wenn ein komplett neuer Genpool hinzugekommen wäre.

Wenn KI nun also nur von sich selbst lernt, lernt sie auch von ihren Fehlern, ohne diese als falsch zu erkennen. Da sie Prozesse schnell und immer wiederholt durchführt, multiplizieren sich diese Wiederholungen von Falschem zu gravierenden Fehlern.

Um das zu vermeiden, müssen also immer wieder menschliche Kontrollfunktionen eingebaut werden. Das können schlecht bezahlte Klick-Arbeiter in Afrika sein. Aber auch wenn die KI dich unter einem Ergebnis nach einem Daumen hoch oder Daumen runter fragt, hast du ihr ein wichtiges menschliches Feedback gegeben. Und damit es immer etwas Neues zum Lernen, Verbessern und Trainieren gibt, wird die KI auch zukünftig großes Interesse an den Inhalten haben, die du selbst eingibst: Texte, Fotos oder Sprache. Wenn eine KI dir also für regelmäßige Nutzung, viele Eingaben oder das Hochladen eigener Fotos kleine Belohnungen wie Tokens gibt, dann bezahlt sie deine frischen, nicht-maschinell-erzeugten Inputs und hofft dadurch auf weiteren Datenfluss von dir.

Mehr:
mimikama.education | Der Gedankenstrich: ChatGPT ist erkrankt