In dieser Woche erhielten die Kunden des Versicherers Universa ein brisantes Schreiben. „Wichtige Informationen über einen IT-Sicherheitsvorfall“ steht über dem Brief, welcher der F.A.Z. vorliegt. Durch einen Fehler im Rahmen einer IT-Umstellung sei versehentlich für „wenige Stunden“ der Zugriff auf Daten eines Servers von außen möglich gewesen, heißt es weiter.
Zu den dort gelagerten Daten zählten personenbezogene Daten wie Name, Anschrift, Telefon und E-Mail, aber auch die Bankverbindung, Vertragsinformationen einschließlich Versicherungsnummer und -summe sowie im Falle von Kfz-Versicherungen das Kennzeichen und die Herstellernummer. Immerhin: Gesundheitsdaten oder Passwörter waren nicht betroffen.
So weit, so normal. Datenlecks sind für die Betroffenen zwar unangenehm, gehören aber inzwischen zum Alltag und können teils geschlossen werden, bevor größerer Schaden entsteht. Ungewöhnlicher ist, wer sich in diesem Fall in den wenigen Stunden Zugang zu den Daten verschafft hat. Ein automatisierter sogenannter Web-Crawler des amerikanischen ChatGPT-Entwicklers Open AI habe sie von dem Server abgerufen, schreibt Universa.
Web-Crawler sind Computerprogramme, die automatisiert Websites aufsuchen und ihre Inhalte technisch verarbeiten. KI-Anbieter sind auf solche Web-Crawler angewiesen, um die Unmengen an Daten zu sammeln, die für das Training ihrer Modelle notwendig sind. Dabei erfassen sie versehentlich immer wieder auch persönliche Daten.
Open AI: Daten wurden nicht verwendet
Schon 2023 haben Datenjournalisten des Bayerischen Rundfunks in einem der wichtigsten Trainingsdatensätze für die Generierung von Bildern mit KI Daten gefunden, mit denen sich zahlreiche Personen identifizieren ließen. Über den LAION5B-Datensatz ließen sich Rückschlüsse auf Gesichter und Namen, Geokoordinaten, E-Mails und sogar Kontodaten ziehen. Das amerikanische Unternehmen Clearview AI sammelte mit einem automatisierten Web-Crawler mehr als 30 Milliarden Fotos von Plattformen wie Instagram, Facebook und Youtube, ohne Wissen oder Einwilligung der Betroffenen. Daraus generierte das Unternehmen Gesichtserkennungsdaten. Für sein Vorgehen erhielt das Unternehmen von 2022 an mehrere millionenschwere Strafen von europäischen Datenschutzbehörden.
Im Fall Universa geht es allerdings offenbar eher um ein Versehen. Universa bestätigte auf Anfrage der F.A.Z. die Echtheit der Schreiben. „Wir haben unter Einbindung der relevanten Behörden und von IT-Sicherheitsspezialisten unverzüglich damit begonnen, die Betroffenen schriftlich zu kontaktieren, um sie über die für sie wichtigsten Aspekte des Vorfalls zu informieren“, teilte eine Sprecherin mit. Universa habe „unverzüglich und mehrfach wiederholt über unterschiedliche Kanäle und Zugangswege“ Open AI aufgefordert, die abgerufenen Daten „unverzüglich und vollständig“ zu löschen. Eine Bestätigung seitens Open AI lag lange nicht vor und erreichte Universa erst am Freitagmittag, zu einer ähnlichen Zeit wie eine Rückmeldung an die F.A.Z.
Open AI teilte in der Stellungnahme an die F.A.Z. mit, dass die fraglichen Universa-Daten nicht zum Training von KI-Modellen verwendet worden seien. „Wenn wir Daten zum Training verwenden, unternehmen wir immer aktive Schritte, um die Verarbeitung persönlicher Informationen zu limitieren“, heißt es weiter von einem Unternehmenssprecher.
„Die Unternehmen versuchen einfach alles abzugrasen“
Der „GPTbot“ von Open AI soll aktiv Seiten herausfiltern, die bekanntermaßen personenbezogene Daten sammeln sowie Inhalte hinter Bezahlschranken und weitere Texte ausschließen, die gegen bestimmte Richtlinien verstoßen. Die KI-Crawler sollen sich zudem über das sogenannte robots.txt-Protokoll von Websitebetreibern formal ausschließen lassen. Open AI und Anthropic sagen, dass ihre Crawler sich an dieses Protokoll halten, rechtlich bindend sind sie aber nicht. Und im konkreten Fall Universa konnte der Crawler auch nicht wissen, dass es sich um sensible Daten handelt.
Datenschutzfachleute sind sich sicher, dass die Maßnahmen der KI-Anbieter nicht ausreichen und immer wieder personenbezogene und sogar Daten wie religiöse Zugehörigkeit oder medizinische Informationen in das Training Künstlicher Intelligenz fließen – etwa durch Social-Media-Posts, in denen Menschen etwas über sich preisgeben. „Die Unternehmen versuchen einfach alles abzugrasen, was sie irgendwie kriegen können“, sagt Matthias Spielkamp, Geschäftsführer der Nichtregierungsorganisation Algorithmwatch, die sich für transparente KI und Algorithmen einsetzt.
Ein öffentlich gewordener Fall wie der von Universa, wo konkrete Vertrags- und Kundendaten abgegriffen wurden, ist Spielkamp nicht bekannt. „Aber wir wissen, dass immer wieder derartige Datensätze ungeschützt im Netz stehen“, sagt er. Deshalb müsse man davon ausgehen, dass diese in die Trainingsdaten und damit auch in die KI-Modelle einfließen.
Spuckt die KI personenbezogene Daten aus?
Inwiefern solche Daten dann in der Nutzung der KI-Modelle Rückschlüsse auf einzelne Personen zulassen, sei schwierig zu beweisen, sagt Spielkamp – weil die Anbieter ihre Trainingsdatensätze nicht offenlegen. Aus der Forschung ist bekannt, dass große Sprachmodelle durchaus in der Lage sind, seltene oder einzigartige Informationen aus den Trainingsdaten auswendig zu lernen und diese unter bestimmten Umständen zu reproduzieren. „Natürlich versuchen die Unternehmen technisch zu verhindern, dass die Modelle nicht für die Öffentlichkeit bestimmte Informationen ausspucken“, sagt Spielkamp. Aber Angreifer schafften es durch gezielte Abfragen immer wieder, Informationen aus den Modellen herauszubekommen, die sie eigentlich nicht liefern sollten. „Wir müssen leider davon ausgehen, dass das auch mit persönlichen Daten gelingen kann.“
Universa rät seinen Kunden, regelmäßig die Kontoauszüge zu überprüfen und wachsam bei E-Mails, Anrufen und Nachrichten zu bleiben. „Antworten Sie bitte nicht auf unbekannte Anrufe oder E-Mails“, heißt es in dem Schreiben. Auch das Öffnen von Links oder Anhängen sollte vermieden werden, genauso wie die Angabe von Passwörtern via Mail.
