Der KI-Chatbot „My AI“ ist direkt in Snapchat integriert und funktioniert ähnlich wie ChatGPT. Du kannst ihm Fragen stellen, Bilder schicken oder persönliche Dinge erzählen. Dabei können auch besonders sensible Informationen über dich zusammenkommen, beispielsweise über deine Gesundheit, Religion oder sexuelle Orientierung.

Genau diese Informationen aus dem Chat hat Snapchat nach den Feststellungen des Landgerichts Köln ohne ausreichende Rechtsgrundlage für personalisierte Werbung verwendet. Das bedeutet, dass deine Gespräche mit der KI Einfluss darauf hatten, welche Werbeanzeigen dir angezeigt wurden. Von wegen, was ich der KI erzähle, bleibt privat.

Vor der ersten Nutzung von „My AI“ informierte Snapchat zwar darüber, dass eingegebene Informationen unter anderem zur Personalisierung von Werbung verwendet werden können. Eine ausreichende Einwilligung holte das Unternehmen dafür aber nicht ein, meinte der Verbraucherzentrale Bundesverband e.V. (vzbv e.V.) und hatte gegen Snapchat geklagt. Am 17. September 2026 entschied das Landgericht Köln zugunsten der Verbraucherschützer, dass die Erhebung der Daten über den Chatbot rechtswidrig sind. 

Das Gericht stellte fest, dass Snapchat die Anforderungen nach einer informierten Einwilligung nicht erfüllt hatte. Besonders problematisch ist das, weil die App bereits von Jugendlichen ab 13 Jahren genutzt werden darf und wahrscheinlich auch noch von jüngeren Kindern genutzt wird.

Neben der Verarbeitung persönlicher Daten kritisierte das Gericht auch die Werbeeinstellungen von Snapchat. In der App waren verschiedene Werbekategorien bereits aktiviert, darunter auch Alkohol und Glücksspiel. Diese Einstellungen waren sogar bei minderjährigen Usern voreingestellt. Das Urteil ist allerdings noch nicht rechtskräftig. Snapchat hat angekündigt, dagegen vorzugehen.

Hinterfrage generell KI-Chatbots: Auch wenn sich eine KI wie ein Freund verhält, ist sie kein privater Gesprächspartner. Hinter ihr steht ein Unternehmen, das deine Eingaben benutzt, um dir beispielsweise passende Werbung anzuzeigen. Im Hintergrund erledigt KI auf Social Media noch viel mehr als du nicht siehst. Sie bewertet, sortiert und wählt die Posts aus, die dir angezeigt werden. Das bedeutet, dass in deiner FYP nicht nur erscheint, was du likest, teilst und kommentierst. Sondern die KI-Modelle der Apps entscheiden aufgrund der Informationen, die du ihnen gegeben hast, welcher Content dir angezeigt werden soll und beeinflussen dich so in deiner Meinung.

Das Urteil zeigt, wie wichtig Datenschutz gerade bei KI-Chatbots ist. Denn je persönlicher die Gespräche werden, desto sensibler können auch die gesammelten Informationen sein. 

Deshalb ist es so wichtig, dass Institutionen wie der Verbraucherzentrale Bundesverband oder die Datenschutzaufsichtsbehörden darauf drängen, dass Plattformen ihre Dienste von Anfang an datenschutzfreundlich und sicher gestalten. Und das auch notfalls über ein Gericht klären lassen, wie jetzt bei Snapchat. 

Für dich bedeutet das vor allem: Überlege dir gut, was du einer KI erzählst. Denn nur weil sie freundlich antwortet, bleiben deine Informationen nicht privat. Vielleicht ist ein Gespräch mit der besten Freundin/dem besten Freund, Eltern, Geschwistern oder anderen Bezugspersonen von dir doch besser. Sie können ein Geheimnis für sich behalten. 

Mehr dazu:

• Klicksafe: Was müssen Eltern zum neuen Chatbot My AI bei Snapchat wissen?
• VZBV: Urteil: Snapchat-KI nutzt rechtswidrig Daten von Minderjährigen für Werbung
• Golem: Snapchat verliert Prozess um KI-Chatdaten
• LHR: LG Köln zu Snapchat „My AI“: Was KI-Chatbots mit Nutzerdaten für Werbung nicht dürfen