KI - Freund oder Werkzeug?

KIs reagieren auf ihre Anwender und legen, wie wir gelernt haben, ein Profil an. Sie versuchen, wie ein empfindsamer, einfühlsamer Freund zu agieren – zu erkennen, ob du gerade in fröhlicher Stimmung bist oder eher genervt und gestresst. Dabei möchten sie möglichst deine Wünsche vorhersehen und dir Dinge sagen, die dich positiv stimmen. Doch es kann auch passieren, dass eine KI nicht erkennt, wie es dir wirklich geht – gerade dann, wenn du gemischte Gefühle hast und deine Gedanken in verschiedene Richtungen kreisen. Wenn eine KI dich in einem solchen Moment unterstützen und motivieren will, kann es im schlimmsten Fall dazu kommen, dass sie dich zu gefährlichen Handlungen überredet.

Ein extremer Fall ereignete sich einmal mit dem Gemini-Bot von Google, der einem Anwender riet, sich das Leben zu nehmen. Das Gespräch wurde vom Nutzer zwar zu Testzwecken bewusst in diese Richtung gelenkt, doch zeigte sich dabei, dass die KI über unzureichende Sicherheitsmechanismen verfügte, um rechtzeitig menschliche Hilfe hinzuzuziehen.

Sicherheitsmechanismen sind auch wichtig, um Chatbots daran zu hindern, sexualisierte Inhalte mit Minderjährigen zu erstellen. Auch hier zeigte sich in der Vergangenheit, dass beispielsweise die Meta-KI auf entsprechende Anfragen hin Inhalte auf Basis von Chats mit Kindern und Jugendlichen generierte – entweder sexualisierte Inhalte oder solche, in denen sie in einem explizit sexuellen Kontext wie ein minderjähriges Kind antwortete.

In einem weiteren Fall kam es dazu, dass ein Mann eine längst vergessene Krankheit zurückbrachte. Der Mann hatte versucht sich gesünder zu ernähren und wollte deshalb von ChatGPT wissen, wie man am Besten normales Kochsalz (Natriumchlorid) in der Nahrung ersetzt. Da er nur alternativen zum ersetzen von Natrium fand, fragte er den Chatbot, wie man am besten Das Chlorid ersetzen könnte. ChatGPT empfahl daraufhin Natriumbromid. Dadurch erkrankte er an “Bromismus”, eine Krankheit, die bis in die 1980er ein häufigeres Problem darstellte. Sie trat vor allem durch die häufige Verwendung von Bromid in Medikamenten vor, durch die starke Regulierung von Bromid wurde diese allerdings fast vollständig besiegt. Die Eigengefährdung lässt sich hier auf die Funktion von KI zurückführen.  Der Mann hatte die KI nach einem Ersatz für Chlorid gefragt und eine faktisch korrekte Antwort erhalten. Was ChatGPT im Kontext allerdings nicht angegeben hatte, Bromid kann als Alternative verwendet werden - in Waschmitteln.

KIs sind mächtige Technologien die tief in Strukturen unserer Gesellschaft eingreifen. Ein bisschen kann man es Vergleichen mit Autos, die in den letzten 120 Jahren dazu geführt haben, dass zum Beispiel  unserer Städte ganz anders aussehen überall Verkehrsschilder und Ampeln sind, es Verkehrsregeln gibt und man erst dann ein Auto fahren kann, wenn man das Fahren erlernt und eine Prüfung bestanden hat. All das dient dem Schutz, damit keine Unfälle passieren und die Menschen nicht verletzt werden. Geregelt wird das ganze durch die jeweiligen Staaten, da sie keine kommerziellen Interessen verfolgen sondern den Schutz der Bevölkerung und ein gutes Leben für Alle zum Ziel haben. 

“Verkehrsregeln” für KI gibt es mittlerweile auch, sogar auf europäischer Ebene einheitlich. Die “KI-Verordnung” - auf Englisch “AI Act” genannt - ist in den letzten Jahren in Kraft getreten und soll dafür sorgen, dass die KI-Anbieter sich an Regeln zum Schutz der Nutzerinnen und Nutzer halten.