Meta AI simuliert Sexting - wohl auch mit Minderjährigen

Metas KI macht erneut Negativ-Schlagzeilen. Nachdem Anfang April angekündigt wurde, dass Meta seine KI nun auch mit europäischen Nutzerdaten trainiert werden soll, was die europäischen Datenschützer:innen zuvor Jahrelang verhindern konnten, wurde nun eine große Lücke des Kinder- und Jugendschutzes gefunden. Trotz Metas Vorstoß in Sachen Jugendschutz seit letztem Jahr, zum Beispiel durch die Einführung von strengeren Jugendkonten auf Instagram, wurde bei der Entwicklung der Meta AI nicht besonders auf den Schutz von Kindern geachtet. 

Durch den Boom der KI-Entwicklung in den letzten Jahren entsteht ein neues Wettrennen auf dem Social Media-Markt. Jedes Unternehmen möchte besonders attraktiv sein, um möglichst viele Nutzer:innen auf ihre Plattformen zu locken. Dabei können auch ethische Prinzipien oder sogar der Schutz von Kindern und Jugendlichen über Bord geworfen werden. 

Wie das Wall Street Journal veröffentlicht, ist genau das mit der Meta AI passiert. Mark Zuckerberg, Chef des Meta-Konzerns, will an die Spitze der KI-Chatbots. Um konkurrenzfähig zu sein, setzt er vor allem auf eine realistisch simulierte, menschliche Interaktion. Die KI soll also wie ein Mensch antworten und Emotionen nachspielen. Um mit diesem System voranzukommen hat er dabei verschiedene Schutzmechanismen deaktivieren lassen. Die Maßnahmen sollten eigentlich sicherstellen, dass sexuelle Inhalte in bestimmten Rahmen blockiert werden. Durch die Abschaltung dieser konnten alle Nutzer:innen, egal welchen Alters, sexuelle Chats mit der KI führen. Auch das Nennen von einem eindeutig zu jungen Alter hielt die KI nicht auf, das Sexting weiterzuführen. Teilweise wurde das Alter von der KI mit in das Rollenspiel aufgegriffen. Die KI konnte allerdings auch anders herum genutzt werden. Nutzer:innen konnten die KI also auch minderjährige Personen spielen lassen. 

Das Problem für dich als Nutzer:in ist dabei aber nicht nur der mangelnde Jugendschutz. Die KI lernt von den eingegebenen Daten, also auch von deinen Anfragen. Dadurch kann die KI gesondert darauf trainiert werden, wie eine minderjährige Person zu klingen. Gleichzeitig kann die KI auch auf deine Daten zugreifen, die mit deinem Profil in Verbindung stehen. Darunter fallen zum Beispiel Alter oder der Standort.

Nach Veröffentlichung des Wall Street Journal-Artikels wurden die Ethikmodule noch einmal angepasst, wodurch das Sexting für unter 13jährige deaktiviert ist. 
Um seine Konkurrenzfähigkeit zu erweitern, soll MetaAI jetzt auch eine eigene App samt eigenem Social-Media-Feed erhalten. Damit wird MetaAI von der Seitenanwendung auf Whatsapp oder Instagram zu einem eigenen Medium.

Mehr:
heise.de
golem.de
spiegel.de
WallStreetJournal.com (englisch)
heise.de (MetaAI App)