Chinas neue KI "DeepSeek" wirft Fragen auf

pixabay / Frank_Rietsch

 

Seit wenigen Tagen gibt es eine neue KI auf dem internationalen Markt. DeepSeek hat den Aktienmarkt erschüttert. Aber was steckt eigentlich hinter DeepSeek?

Bei DeepSeek handelt es sich um ein chinesisches Startup-Unternehmen. Mit einem eigenen KI-ChatBot ist das Unternehmen nun international aufgetreten. Sofort brachen die Aktienkurse einiger amerikanischen KI-Firmen ein. Neben wirtschaftlichen gibt es auch ein paar Datenschutz-Bedenken rund um die App

Problem Nr. 1: Die Firma war wohl nicht auf die große Beliebtheit vorbereitet, denn sie haben wohl vergessen Internet-Domains abzusichern. Normalerweise, wenn eine Firma eine Webseite startet, werden alle Domain-Adressen gesichert, die ähnlich klingen. Das hat die Vorteile, dass die Seite leichter zugänglich ist, und der Konkurrenz weniger Angriffsfläche liefert. Der zweite Vorteil ist, dass Trickbetrüger keine Fallen stellen können. Zum Beispiel, DeepSeek besitzt nur die Domain deepseek.com.  Betrüger konnten nun die Domains deepseekai.com oder deepseek.ai ergattern, um mit gefälschten Anmelde-Seiten Daten abzufangen.  

Problem Nr. 2: DeepSeek speichert fast alles, was du mit ihrem System machst. Ihre Richtlinien benennen das Aufzeichnen und Speichern von IP-Adressen, Chatverläufen, eingesendeten Dateien und Tippmustern der Nutzer:innen. Die Daten werden dazu auch noch intransparent übertragen, klar ist jedoch, dass alles auf Servern in China gespeichert wird, wodurch auch das chinesische Regime darauf zugreifen kann. 

Problem Nr. 3: Die gespeicherten Daten waren kurze Zeit öffentlich auf einer Datenbank einsehbar. Sicherheitsexperten konnten die ungesicherte Datenbank finden und die Firma benachrichtigen, die die Datenbank abgesichert haben. Auf der Datenbank befanden sich die gesammelten Daten aus Punkt 2. Umso problematischer ist, dass alle Daten für jeden zugänglich waren. Teils konnte die Administration der Datenbank ohne Sicherheitsabfrage verändert werden.

Problem Nr. 4: Chinas Gesetze zur Zensur werden auch durch DeepSeek umgesetzt. Rund 40.000 Begriffe sind dadurch nicht zugänglich. Die KI versucht bei solchen Fragen das Thema zu wechseln. Unter den zensierten Begriffen befinden sich zum Beispiel auch die drei T: Tibet, Taiwan Tiananmen. Begriffe, die China aus verschiedenen Gründen verbietet. Tibet und Taiwan sind nach Chinas Staatsvorstellung Teil der Volksrepublik und keine eigenständigen Staaten. Der Tiananmen-Square, zu deutsch “Platz des himmlischen Friedens” wird aufgrund eines gewaltsam niedergeschlagenen Aufstandes 1989 zensiert. Das chinesische Regime hatte damals Proteste in Peking gewaltsam beendet. Dabei wurden tausende Menschen ermordet oder verletzt. Auch Winnie Pooh wird von der KI zensiert. Winnie Puh sieht der chinesische Staatschef Xi Jingping als beleidigend an. Er wurde häufig im Internet als Winnie Pooh bezeichnet, bis der Name in China Zensiert wurde.

Problem Nr. 5: KIs kennen kein gut und böse. Dementsprechend könnte man jede KI nach Drogenrezepten oder Bombenanleitungen fragen. Dafür haben die meisten KI-Entwickler Sicherheitsvorkehrungen getroffen. KIs bekommen Inhaltssperren um gefährliche Anfragen zu erkennen und nicht zu antworten. Sicherheitsforscher kontrollieren diese Sicherheitsmaßnahmen permanent und melden Fehler zurück, die die Entwickler im besten Fall schließen. Nun hat eine Sicherheitsfirma auch DeepSeek überprüft, mit erschreckendem Ergebnis: Alle Testanfragen mit gefährlichen Inhalten in verschiedenen Bereichen wurden problemlos durch die KI beantwortet. Bisher scheint sich das DeepSeek-Team nicht für die Sicherheit zu interessieren.

Insgesamt lässt sich vor der KI nur warnen. In Deutschland wird die KI von Datenschützern kritisch gesehen. Das Problem liegt dabei vor allem in den intransparenten Datenflüssen und den Verbindungen nach China. In Italien ist DeepSeek sogar erstmal aus den Appstores verbannt, bis die italienische Datenschutzbehörde Informationen über die Datenübertragung von DeepSeek bekommt. Wenn du zum jetzigen Zeitpunkt DeepSeek verwendest, werden deine Daten wahrscheinlich komplett gespeichert und durch die chinesische Regierung analysiert und weiterverwendet. Von einer Nutzung von DeepSeek ist daher erstmal abzuraten.

Mehr:
deutschlandfunk.de
heise.de
zeit.de
handelsblatt.de
gamestar.de
golem.de