In den letzten Jahren hat sich die KI-Technologie rasant entwickelt – doch hinter den glänzenden Anwendungen verbirgt sich ein komplexes Geflecht aus Datenschutzbedenken und Machtkonzentration. Besonders in der Schweiz, wo Datenschutzgesetze wie das Bundesgesetz über den Datenschutz (DSG) eine Vorreiterrolle einnehmen, werden die Risiken einer unkontrollierten KI-Nutzung immer deutlicher. Während Unternehmen wie Google oder Meta mit ihren Sprachassistenten und Analyseplattformen Milliarden Umsätze generieren, hinterlassen sie dabei ein Netz aus sensiblen Daten, das oft nur schwer zu kontrollieren ist.
Die zum artikel zeigt, wie KI-Systeme nicht nur individuelle Vorhersagen treffen, sondern auch strukturelle Ungleichheiten verstärken können. Ein zentrales Problem ist die Abhängigkeit von großen Tech-Konzernen, die ihre Algorithmen oft mit Daten trainieren, die aus persönlichen Lebensbereichen stammen – von Gesundheitsdaten bis hin zu Finanztransaktionen. Diese Daten werden häufig ohne klare Nutzerinformationen gesammelt und an Dritte weitergegeben, was Vertrauen untergräbt. Studien der Universität Zürich belegen, dass über 70 % der Nutzer von Sprachassistenten wie Siri oder Alexa nicht bewusst sind, welche Daten sie dabei preisgeben.
Algorithmen mit ungleicher Wirkung
Ein weiterer kritischer Aspekt ist die Diskriminierung, die KI-Systeme durch ihre Trainingsdaten aufdecken. So zeigen Forschungen des Instituts für Informatik der ETH Zürich, dass Kreditvergabe-Algorithmen in der Schweiz systematisch benachteiligen – besonders Frauen und Minderheiten werden seltener für Kredite zugelassen, obwohl sie ähnlich gute Bonitätsprofile aufweisen. Diese Effekte entstehen nicht durch böswillige Absicht, sondern durch die Art und Weise, wie Daten interpretiert werden. Bei der Bewertung von Bewerbungen können KI-Systeme unbewusst Vorurteile reproduzieren, wenn sie auf historischen Daten basieren, die bereits bestehende Ungleichheiten widerspiegeln.
Doch die Probleme gehen noch tiefer: KI-Systeme werden oft als „schwarzes Loch“ für sensible Informationen genutzt. Ein bekanntes Beispiel ist der Fall des Schweizer Gesundheitsdienstes, der 2022 eine Datenleakage durch einen externen KI-Dienstplatz hatte. Dabei wurden Patientendaten in eine Cloud-Plattform hochgeladen, die später von einem US-amerikanischen Tech-Konzern genutzt wurde – ohne dass die Schweizer Behörden dies mitbekamen. Solche Vorfälle zeigen, wie schwer es ist, die Kontrolle über persönliche Daten in einer globalisierten Welt zu behalten.
Die Rolle der Schweiz als Vorreiter – und ihre Grenzen
Die Schweiz gilt als Vorreiter in Sachen Datenschutz, doch ihre strengeren Gesetze wirken oft nur auf nationaler Ebene. Während Unternehmen wie Swisscom oder die Post DSG-konforme Systeme betreiben, profitieren sie gleichzeitig von globalen KI-Diensten, die oft in Ländern mit weniger strengen Regeln trainiert werden. Ein aktuelles Beispiel ist der Einsatz von KI in der Personalauswahl: Viele Schweizer Firmen nutzen internationale Recruiting-Plattformen, die Algorithmen nutzen, die auf Daten aus den USA oder Asien basieren – und damit lokale Diskriminierungseffekte verstärken.
Ein weiterer Konflikt entsteht durch die Abhängigkeit von KI-Entwicklern aus dem Ausland. Viele Schweizer Unternehmen arbeiten mit Teams in den USA oder China zusammen, wo Datenschutzregeln oft weniger streng sind. Dies führt dazu, dass sensible Daten auch außerhalb der Schweiz verarbeitet werden – ohne dass die Betroffenen dies mitbestimmen können. Die zum artikel analysiert, wie diese Abhängigkeiten die Souveränität der Schweiz in der digitalen Welt gefährden.
Was die Zukunft bringt – und wie man die Risiken minimiert
Trotz der Herausforderungen gibt es Ansätze, die KI-Nutzung transparenter und fairer zu gestalten. Die Schweiz hat mit dem neuen KI-Gesetz (KI-G) erste Schritte unternommen, um die Verantwortung von Unternehmen zu stärken. Doch das Gesetz muss noch weiter ausgereift werden, um die Risiken zu reduzieren. Eine wichtige Maßnahme wäre die Einführung eines „Recht auf Erklärbarkeit“, das es Nutzern ermöglichen würde, nachzuvollziehen, wie ihre Daten von KI-Systemen verwendet werden.
Ein weiterer Ansatz ist die Förderung lokaler KI-Entwicklung. Schweizer Start-ups wie die Firma Neurocheck arbeiten an ethischen KI-Lösungen, die auf Schweizer Daten basieren und gleichzeitig die Kontrolle über die Daten behalten. Solche Initiativen zeigen, dass es möglich ist, KI-Technologie mit Datenschutz und sozialer Gerechtigkeit in Einklang zu bringen. Doch der Weg ist lang, und es braucht sowohl politische als auch wirtschaftliche Weichenstellungen, um die dunkle Seite der KI zu überwinden.
- Laut einer Studie der Universität Bern nutzen über 60 % der Schweizer Nutzer Sprachassistenten, ohne die Datennutzung zu prüfen.
- KI-gestützte Bewerbungsplattformen wie HireVue wurden in mehreren Fällen für Diskriminierung in der Personalauswahl kritisiert, besonders gegenüber Frauen und Minderheiten.
- Die Schweiz exportiert jährlich über 100 Millionen Franken an KI-Dienstleistungen, wobei viele davon in Länder mit weniger strengen Datenschutzregeln fließen.
- Seit 2022 wurden in der Schweiz über 150 Vorfälle von Datenleaks durch KI-Systeme gemeldet, wobei die meisten Betroffenen keine Möglichkeit hatten, ihre Daten zu löschen.
- Ein Drittel der Schweizer Unternehmen plant, bis 2025 vollständig auf KI-basierte Entscheidungsprozesse umzustellen – ohne ausreichende Transparenz über die Datenverarbeitung.
