KI-Sicherheit: Welche Daten sollten Sie niemals mit KI teilen?

Welche Daten gehören nicht in KI-Tools?

In öffentlich zugängliche KI-Modelle sollten Sie folgende Daten keinesfalls eingeben:

• personenbezogene Daten – Namen, Adressen, Personalausweis- oder Sozialversicherungsnummern, Telefonnummern und E-Mail-Adressen von Kunden, Mitarbeitenden oder Ihnen selbst;
• medizinische Unterlagen – Krankengeschichten, Untersuchungsergebnisse und Diagnosen, die strengen rechtlichen Vorgaben unterliegen, etwa der DSGVO oder HIPAA;
• vertrauliche Unternehmensinformationen – unveröffentlichte Finanzberichte, Marketingstrategien, Kundendatenbanken sowie Pläne für Fusionen, Übernahmen oder Entlassungen;
• Geschäftsgeheimnisse – Software-Quellcode, Rezepturen, einzigartige Algorithmen und interne technische Dokumentation;
• Zugangsdaten – Passwörter, API-Schlüssel, Anmeldedaten, Authentifizierungstoken, Zahlungskartendaten und Verschlüsselungsschlüssel;
• urheberrechtlich geschützte Materialien – vollständige Bücher, kostenpflichtige Fachartikel oder Skripte, für deren Nutzung Sie keine entsprechende Lizenz besitzen;
• rechtswidrige Inhalte – Materialien, die Gewalt oder Hass fördern, sowie Anleitungen zu rechtswidrigen Handlungen.

Was geschieht mit Daten, die Sie in KI-Tools eingeben?

Daten, die Sie an Cloud-Dienste senden, können mehrere Verarbeitungs- und Analyseschritte durchlaufen. Ihre Nutzung endet nicht zwangsläufig mit der Generierung einer Antwort.

Training von Modellen

Eingaben in standardmäßigen KI-Tools für Privatnutzer werden häufig für die Weiterentwicklung der Modelle verwendet. Dadurch können eingegebene Informationen die Gewichte eines neuronalen Netzes beeinflussen und theoretisch später in einer Antwort an andere Nutzer auftauchen.

Manuelle Prüfung und Moderation

Neben der automatisierten Verarbeitung setzen KI-Systeme Sicherheitsfilter ein. Stuften diese eine Anfrage als verdächtig ein, etwa wegen eines möglichen Verstoßes gegen die Nutzungsbedingungen, kann die Unterhaltung markiert und manuell geprüft werden. Beschäftigte des Anbieters oder externe Prüfer, sogenannte Data Labeler, können dabei Einblick in die eingegebenen Inhalte erhalten, um Moderationsmechanismen zu verbessern.

Datenspeicherung und Back-ups

KI-Anbieter speichern Gesprächsverläufe auf ihren Servern, unter anderem für den laufenden Betrieb, die Fehlerdiagnose und den Kontext künftiger Sitzungen. Wenn Sie einen Chat in der Benutzeroberfläche löschen, bedeutet das meist nicht, dass die Informationen sofort von allen Servern verschwinden. Daten können noch eine Zeit lang in Back-up-Systemen verbleiben. Bei einem erfolgreichen Cyberangriff auf die Cloud-Infrastruktur erhöht dies das Risiko, dass vertrauliche Informationen offengelegt werden.

Private und geschäftliche Konten: Unterschiede beim Datenschutz

Kostenlose und kostenpflichtige Standardkonten für Privatnutzer verarbeiten bei vielen verbreiteten Diensten eingegebene Informationen standardmäßig auch zu Trainingszwecken. Wenn Sie dort vertrauliche Inhalte teilen, besteht daher das Risiko, die Kontrolle über deren weitere Verwendung zu verlieren.

Geschäftliche und unternehmensweite Lösungen – etwa Enterprise-Konten oder Dienste, die über Anbieter-APIs in privaten Cloud-Umgebungen wie Microsoft Azure, AWS oder Google Cloud betrieben werden – unterliegen strengeren Schutzstandards. Anbieter sichern dort die Einhaltung von Sicherheitsstandards wie ISO 27001 und SOC 2 sowie datenschutzrechtlicher Vorgaben wie der DSGVO zu. Zudem halten sie in Verträgen (SLA/DPA) fest, dass Kundendaten nicht zum Training öffentlich zugänglicher Basismodelle verwendet werden. Die Vorgaben für Eingaben können in solchen Umgebungen weniger restriktiv sein. Dennoch benötigen Unternehmen Richtlinien für das Risikomanagement und die Zugriffskontrolle.

Was können Sie bedenkenlos in KI-Tools eingeben?

Trotz der Einschränkungen gibt es zahlreiche Inhalte, die sich für die Verarbeitung mit KI eignen. Dazu gehören beispielsweise:

• öffentlich zugängliche Materialien – frei verfügbare Artikel, Blogbeiträge, öffentliche Marktberichte, Gesetzestexte und Inhalte von Websites wie Wikipedia;
• nicht vertrauliche Informationen – allgemeine Anweisungen, Fragen zu theoretischen Konzepten, Grammatik und Rechtschreibung, mathematische Gleichungen oder Wortbedeutungen;
• anonymisierte Dokumentauszüge – Briefvorlagen, Vertragsmuster und Codeausschnitte, aus denen individuelle Variablen, Schlüssel, Kundennamen und Angaben zur internen Architektur vollständig entfernt wurden;
• eigene kreative Texte – Entwürfe für E-Mails, Social-Media-Beiträge, Präsentationen oder Artikel, sofern sie keine sensiblen Geschäftsdaten enthalten;
• offene Datensätze – synthetische Daten oder Statistiken aus öffentlichen Repositorien, etwa zum Üben von Analysen und Formatierungen.

Wie anonymisieren Sie Nachrichten und Daten vor der Eingabe in KI-Tools?

Identifikatoren ersetzen und Daten tokenisieren

Bei der Tokenisierung ersetzen Sie sensible Angaben durch künstliche Platzhalter: Aus „Max Mustermann“ wird beispielsweise „[Kunde_1]“, aus „Musterfirma GmbH“ wird „[Organisation_A]“. Struktur, Syntax und Kontext des Dokuments bleiben für das Sprachmodell erhalten, während die ursprünglichen Personen oder Unternehmen nicht unmittelbar erkennbar sind.

Sensible Informationen maskieren

Beim Maskieren werden kritische Zeichenfolgen direkt verdeckt, meist durch Sonderzeichen – etwa bei einer Kartennummer: 4532 **** **** ****. Eine weitere Methode ist die Verallgemeinerung: Statt eines genauen Monatsgehalts von 3.200 EUR nennen Sie beispielsweise eine Spanne von 3.000–4.000 EUR. Das verringert das Risiko einer erneuten Identifizierung.

Den Prozess automatisieren: DLP und RegEx

Wer lange Texte von Hand bereinigt, übersieht leicht einzelne Angaben. Im professionellen Umfeld kommen deshalb Skripte mit regulären Ausdrücken (RegEx) oder DLP-Systeme (Data Loss Prevention) zum Einsatz. Sie können Prompts vor dem Versand automatisch prüfen und Zeichenfolgen erkennen, blockieren oder ersetzen, die etwa dem Format von Personalausweisnummern, Steuer- oder Umsatzsteuer-Identifikationsnummern, E-Mail-Adressen oder Bankkontonummern entsprechen.

Wie verhindern Sie, dass KI-Anbieter Ihre Daten zum Training nutzen?

Auch die Einstellungen des jeweiligen Tools können das Risiko bei der Dateneingabe verringern. Die meisten Anbieter ermöglichen es, der Nutzung von Inhalten für das Modelltraining zu widersprechen (Opt-out).

• ChatGPT (OpenAI) – unter Settings finden Sie im Bereich Data controls die Option Improve the model for everyone. Wenn Sie diese deaktivieren, werden Ihre Eingaben nicht mehr zum Modelltraining verwendet. Nach dem beschriebenen Stand der Benutzeroberfläche bleibt der Chatverlauf dabei für Sie sichtbar. OpenAI kann Gesprächsprotokolle unabhängig von dieser Einstellung aus Sicherheitsgründen und zur Missbrauchserkennung vorübergehend auf seinen Servern speichern.
• Gemini (Google) – deaktivieren Sie in den Datenschutzeinstellungen Gemini Apps Activity. Neue Unterhaltungen werden dann nicht mehr im Aktivitätsverlauf Ihres Google-Kontos gespeichert oder zum Modelltraining verwendet. Dies bedeutet jedoch nicht, dass sämtliche Protokolle sofort aus der Infrastruktur des Anbieters gelöscht werden: Google kann sie zur Sicherheit des Dienstes noch bis zu 72 Stunden aufbewahren.
• Claude (Anthropic) – bei kostenlosen und standardmäßigen Konten für Privatnutzer können Eingaben nach den geltenden Voreinstellungen zur Verbesserung der Modelle verwendet werden. Das unterscheidet sich von früheren Regelungen des Unternehmens. Wenn Sie dies nicht möchten, öffnen Sie die Datenschutzeinstellungen Ihres Kontos und deaktivieren Sie Help improve Claude.

Beachten Sie: Änderungen an den Datenschutzeinstellungen und ein Widerspruch gegen die Nutzung zum Training gelten nur für die Zukunft. Bereits übermittelte Informationen, die in einen Trainingsprozess eingeflossen sind, lassen sich dadurch nicht rückwirkend aus einem Modell entfernen.